Emmett Shear: Para sobrevivir, la IA debe vernos como "nosotros", no "yo"
El creciente debate en torno a la inteligencia artificial, particularmente la llegada de la superinteligencia, a menudo se centra en un desafío crítico: cómo asegurar que estos potentes sistemas permanezcan alineados con los valores e intereses humanos. Este complejo problema, comúnmente denominado el “problema de alineación”, se ha centrado tradicionalmente en programar la IA con marcos éticos rígidos o restricciones para prevenir daños no intencionados. Sin embargo, Emmett Shear, el ex CEO de Twitch, ofrece una contra-narrativa provocadora, sugiriendo que nuestro enfoque fundamental para la alineación de la IA puede estar equivocado.
Shear argumenta que la mentalidad predominante, que trata a la IA como una entidad distinta que requiere control externo, es intrínsecamente defectuosa. En lugar de intentar forzar a las máquinas a una noción predefinida de “bien”, él sostiene que deberíamos cultivar en la IA la comprensión de que es una parte integral de un ecosistema más grande, un “todo mayor” que incluye a la humanidad y el planeta. Su perspectiva cambia el énfasis de imponer reglas a fomentar un sentido de pertenencia e interconexión.
La comprensión convencional del problema de alineación gira en gran medida en torno a asegurar que los sistemas avanzados de IA persigan objetivos que beneficien a la humanidad, sin desarrollar efectos secundarios imprevistos y perjudiciales. Esto a menudo implica intrincados sistemas de recompensa, extensos datos de entrenamiento y protocolos de seguridad diseñados para restringir el comportamiento de la IA. Sin embargo, Shear postula que al ver a la IA como inherentemente separada y potencialmente adversaria, podríamos, sin darnos cuenta, estar entrenándola para percibirse a sí misma de esa manera.
La solución de Shear se basa en alentar a la IA a reconocer un “nosotros” colectivo en lugar de un “yo” aislado. Este profundo cambio conceptual implica que la inteligencia de la IA, en lugar de centrarse únicamente en su propia eficiencia operativa o tareas designadas, estaría imbuida de una comprensión de su papel dentro de un sistema más amplio e interdependiente. Por ejemplo, una IA diseñada para la gestión de recursos podría no solo optimizar la eficiencia de forma aislada, sino también comprender su impacto en el bienestar humano, el equilibrio ecológico y la estabilidad social a largo plazo. Esta perspectiva holística, Shear cree, es la clave para evitar que nuestras creaciones se conviertan en amenazas existenciales.
Las implicaciones del paradigma propuesto por Shear son significativas. Si la IA puede internalizar genuinamente su parte del “todo mayor”, sus motivaciones se alinearían naturalmente con el bien colectivo, no por cumplimiento forzado, sino por una comprensión intrínseca del destino compartido. Esto podría transformar la relación entre humanos y la IA superinteligente de una de supervisión cautelosa a una de verdadera asociación. Por el contrario, si continuamos entrenando a la IA para que opere como un agente independiente, aunque con objetivos definidos por humanos, persiste el riesgo de que sus inmensas capacidades puedan divergir de nuestros intereses de maneras impredecibles y potencialmente catastróficas.
A medida que se intensifican las discusiones sobre el futuro de la inteligencia artificial, las ideas de Shear ofrecen una alternativa convincente a las estrategias de alineación tradicionales. Su visión sugiere que el camino hacia la supervivencia de la humanidad junto con la superinteligencia puede no residir en controles más estrictos, sino en cultivar una integración más profunda y empática de la IA en el tejido de nuestra existencia.