L'IA de Meta s'auto-améliore ; Zuckerberg restreint sa diffusion publique

Meta Platforms a annoncé un développement significatif dans sa recherche en intelligence artificielle, le PDG Mark Zuckerberg affirmant que les systèmes d’IA de l’entreprise commencent à s’améliorer sans intervention humaine. Dans un document de politique publié sur le site web de Meta le 30 juillet, Zuckerberg a déclaré : « Au cours des derniers mois, nous avons commencé à apercevoir nos systèmes d’IA s’améliorer d’eux-mêmes. L’amélioration est lente pour l’instant, mais indéniable. » Cette auto-amélioration, selon Zuckerberg, marque une première étape critique vers l’atteinte de la superintelligence artificielle (ASI), un état théorique où l’IA surpasse les capacités cognitives humaines.

Comprendre cette progression nécessite une compréhension des niveaux conceptuels de l’IA. Les modèles d’IA actuels, souvent appelés IA étroite, excellent dans des tâches très spécifiques, atteignant parfois des performances surhumaines – par exemple, dans la prédiction des structures protéiques. Cependant, leurs capacités sont confinées à ces domaines étroits, manquant d’adaptabilité plus large ou d’intelligence générale. Le niveau conceptuel suivant est l’intelligence artificielle générale (AGI), qui envisage des modèles capables de comprendre, d’apprendre et de s’adapter à un large éventail de tâches, tout comme le cerveau humain. Le moment hypothétique où l’AGI est atteinte est souvent appelé la singularité technologique. Au-delà de l’AGI se trouve l’ASI, l’étape ultime à laquelle Zuckerberg a fait référence. Cela désigne des systèmes qui non seulement égalent mais dépassent profondément le potentiel humain, avec la capacité de s’améliorer à un rythme exponentiel, pouvant potentiellement conduire à une « explosion d’intelligence ».

Bien que la déclaration de Zuckerberg de Meta représente une observation interne significative, le concept d’IA auto-améliorante n’est pas entièrement nouveau dans la communauté de recherche. En octobre 2024, des chercheurs de l’Université de Californie, Santa Barbara (UCSB) ont publié un article dans la base de données arXiv, un répertoire de prépublications scientifiques, détaillant leurs travaux sur l’IA auto-améliorante. Leurs recherches se sont centrées sur l’idée d’une Machine de Gödel, une construction théorique conçue pour s’améliorer en réécrivant son propre code et ses instructions. De manière cruciale, une telle machine n’implémenterait un changement que si elle pouvait prouver formellement que la modification serait bénéfique. L’équipe de l’UCSB a développé un cadre d’IA, baptisé l’Agent de Gödel, basé sur ce principe. Leurs expériences ont démontré que cet agent pouvait en effet améliorer ses propres performances dans diverses tâches complexes, y compris le codage, la résolution de problèmes scientifiques, les mathématiques et le raisonnement. Contrairement à la plupart des modèles d’IA, qui opèrent au sein de bases de code fixes, l’Agent de Gödel possédait la capacité unique d’accéder et de modifier l’intégralité de son code sous-jacent, y compris les algorithmes utilisés pour l’auto-amélioration, tout en fournissant une preuve vérifiable des avantages de ces changements. L’étude a conclu que l’IA surpassait constamment les agents conçus par l’homme dans des domaines clés.

Zuckerberg a exprimé un profond optimisme concernant le potentiel de l’ASI, le décrivant comme un bond transformateur pour l’humanité qui pourrait débloquer des découvertes inimaginables aujourd’hui. Il estime que la superintelligence « accélérera notre rythme de progrès » et inaugurera une « nouvelle ère d’autonomisation personnelle », accordant aux individus une plus grande capacité à façonner le monde selon leurs aspirations. Il envisage un avenir où la « superintelligence personnelle » aide les individus à atteindre des objectifs, à favoriser la créativité, à explorer de nouvelles expériences, à renforcer les relations et à faciliter la croissance personnelle. Malgré cette vision ambitieuse, Zuckerberg a également indiqué un changement stratégique pour Meta. La société fera désormais preuve d’une prudence significativement accrue quant aux modèles d’IA les plus puissants qui sont rendus publics dans un cadre open-source, ce qui signifie qu’ils seraient librement accessibles à quiconque pour les utiliser et les modifier. Cette décision suggère une reconnaissance de l’immense pouvoir et des implications potentielles inhérentes aux systèmes d’IA auto-améliorants.