Meta AI se auto-mejora; Zuckerberg limita su lanzamiento público

Meta Platforms ha anunciado un desarrollo significativo en su investigación de inteligencia artificial, con el CEO Mark Zuckerberg afirmando que los sistemas de IA de la compañía están comenzando a mejorarse a sí mismos sin intervención humana. En un documento de política publicado en el sitio web de Meta el 30 de julio, Zuckerberg declaró: “En los últimos meses hemos comenzado a vislumbrar cómo nuestros sistemas de IA se mejoran a sí mismos. La mejora es lenta por ahora, pero innegable.” Esta auto-mejora, según Zuckerberg, marca un paso inicial crítico hacia el logro de la superinteligencia artificial (ASI), un estado teórico donde la IA supera las capacidades cognitivas humanas.

Comprender esta progresión requiere una comprensión de los niveles conceptuales de la IA. Los modelos de IA actuales, a menudo denominados IA estrecha, sobresalen en tareas muy específicas, a veces logrando un rendimiento sobrehumano, por ejemplo, en la predicción de estructuras de proteínas. Sin embargo, sus capacidades se limitan a estos dominios estrechos, careciendo de una adaptabilidad más amplia o de inteligencia general. El siguiente nivel conceptual es la inteligencia artificial general (AGI), que visualiza modelos capaces de comprender, aprender y adaptarse a una amplia gama de tareas, de manera muy similar al cerebro humano. El momento hipotético en que se logra la AGI a menudo se denomina singularidad tecnológica. Más allá de la AGI se encuentra la ASI, la etapa final a la que se refirió Zuckerberg. Esto se refiere a sistemas que no solo igualan, sino que superan profundamente el potencial humano, con la capacidad de mejorarse a sí mismos a un ritmo exponencial, lo que podría conducir a una “explosión de inteligencia”.

Si bien la declaración de Zuckerberg de Meta representa una observación interna significativa, el concepto de IA auto-mejorable no es del todo novedoso en la comunidad de investigación. En octubre de 2024, investigadores de la Universidad de California, Santa Bárbara (UCSB) publicaron un artículo en la base de datos arXiv, un repositorio de preprints científicos, detallando su trabajo sobre IA auto-mejorable. Su investigación se centró en la idea de una Máquina de Gödel, una construcción teórica diseñada para mejorarse a sí misma reescribiendo su propio código e instrucciones. Crucialmente, dicha máquina solo implementaría un cambio si pudiera probar formalmente que la modificación sería beneficiosa. El equipo de la UCSB desarrolló un marco de IA, denominado Agente de Gödel, basado en este principio. Sus experimentos demostraron que este agente podía de hecho mejorar su propio rendimiento en diversas tareas complejas, incluyendo la codificación, la resolución de problemas científicos, las matemáticas y el razonamiento. A diferencia de la mayoría de los modelos de IA, que operan dentro de bases de código fijas, el Agente de Gödel poseía la capacidad única de acceder y modificar todo su código subyacente, incluidos los algoritmos utilizados para la auto-mejora, todo mientras proporcionaba pruebas verificables de los beneficios de estos cambios. El estudio concluyó que la IA superó consistentemente a los agentes diseñados por humanos en áreas clave.

Zuckerberg expresó un profundo optimismo con respecto al potencial de la ASI, describiéndola como un salto transformador para la humanidad que podría desbloquear descubrimientos hoy inimaginables. Él cree que la superinteligencia “acelerará nuestro ritmo de progreso” e inaugurará una “nueva era de empoderamiento personal”, otorgando a los individuos una mayor capacidad para dar forma al mundo según sus aspiraciones. Él vislumbra un futuro donde la “superinteligencia personal” asiste a los individuos en el logro de metas, fomentando la creatividad, explorando nuevas experiencias, fortaleciendo relaciones y facilitando el crecimiento personal. A pesar de esta visión ambiciosa, Zuckerberg también indicó un cambio estratégico para Meta. La compañía ahora ejercerá una cautela significativamente mayor con respecto a cuáles de sus modelos de IA más potentes se lanzan al público bajo un marco de código abierto, lo que significa que serían de libre acceso para que cualquiera los use y modifique. Este movimiento sugiere un reconocimiento del inmenso poder y las posibles implicaciones inherentes a los sistemas de IA auto-mejorables.