Meta KI lernt selbstständig; Zuckerberg begrenzt Freigabe

Meta Platforms hat eine signifikante Entwicklung in seiner Forschung zur künstlichen Intelligenz bekannt gegeben. CEO Mark Zuckerberg behauptet, dass die KI-Systeme des Unternehmens beginnen, sich ohne menschliches Eingreifen selbst zu verbessern. In einem am 30. Juli auf Metas Website veröffentlichten Grundsatzpapier erklärte Zuckerberg: “In den letzten Monaten haben wir begonnen, Anzeichen dafür zu sehen, wie sich unsere KI-Systeme selbst verbessern. Die Verbesserung ist vorerst langsam, aber unbestreitbar.” Diese Selbstverbesserung, so Zuckerberg, markiert einen entscheidenden ersten Schritt zur Erreichung künstlicher Superintelligenz (ASI), einem theoretischen Zustand, in dem KI die menschlichen kognitiven Fähigkeiten übertrifft.

Das Verständnis dieses Fortschritts erfordert ein Verständnis der konzeptionellen Ebenen der KI. Aktuelle KI-Modelle, oft als Narrow AI bezeichnet, zeichnen sich durch hochspezifische Aufgaben aus und erreichen manchmal übermenschliche Leistungen – zum Beispiel bei der Vorhersage von Proteinstrukturen. Ihre Fähigkeiten sind jedoch auf diese engen Domänen beschränkt; es fehlt ihnen an breiterer Anpassungsfähigkeit oder allgemeiner Intelligenz. Die nächste konzeptionelle Ebene ist die Künstliche Allgemeine Intelligenz (AGI), die Modelle vorsieht, die in der Lage sind, ein breites Spektrum von Aufgaben zu verstehen, zu lernen und sich anzupassen, ähnlich wie das menschliche Gehirn. Der hypothetische Moment, in dem AGI erreicht wird, wird oft als technologische Singularität bezeichnet. Jenseits von AGI liegt ASI, die ultimative Stufe, auf die Zuckerberg verwies. Dies bezieht sich auf Systeme, die das menschliche Potenzial nicht nur erreichen, sondern zutiefst übertreffen, mit der Fähigkeit, sich selbst exponentiell zu verbessern, was potenziell zu einer “Intelligenzexplosion” führen könnte.

Während Zuckerbergs Aussage von Meta eine wichtige interne Beobachtung darstellt, ist das Konzept der selbstverbessernden KI in der Forschungsgemeinschaft nicht gänzlich neu. Im Oktober 2024 veröffentlichten Forscher der University of California, Santa Barbara (UCSB) eine Arbeit in der arXiv-Datenbank, einem Archiv für wissenschaftliche Preprints, in der sie ihre Arbeit an selbstverbessernder KI detaillierten. Ihre Forschung konzentrierte sich auf die Idee einer Gödel-Maschine, eines theoretischen Konstrukts, das darauf ausgelegt ist, sich selbst durch Umschreiben seines eigenen Codes und seiner Anweisungen zu verbessern. Entscheidend ist, dass eine solche Maschine eine Änderung nur implementieren würde, wenn sie formell beweisen könnte, dass die Modifikation vorteilhaft wäre. Das UCSB-Team entwickelte auf diesem Prinzip basierend ein KI-Framework namens Gödel-Agent. Ihre Experimente zeigten, dass dieser Agent seine eigene Leistung bei verschiedenen komplexen Aufgaben, einschließlich Codierung, wissenschaftlicher Problemlösung, Mathematik und Argumentation, tatsächlich verbessern konnte. Im Gegensatz zu den meisten KI-Modellen, die innerhalb fester Codebasen arbeiten, besaß der Gödel-Agent die einzigartige Fähigkeit, auf seinen gesamten zugrunde liegenden Code, einschließlich der für die Selbstverbesserung verwendeten Algorithmen, zuzugreifen und diesen zu modifizieren, während er gleichzeitig nachweisbare Beweise für die Vorteile dieser Änderungen lieferte. Die Studie kam zu dem Schluss, dass die KI menschlich konzipierte Agenten in Schlüsselbereichen durchweg übertraf.

Zuckerberg äußerte tiefen Optimismus hinsichtlich des Potenzials von ASI und beschrieb es als einen transformativen Sprung für die Menschheit, der heute unvorstellbare Entdeckungen freisetzen könnte. Er glaubt, dass Superintelligenz “unser Fortschrittstempo beschleunigen” und eine “neue Ära der persönlichen Ermächtigung” einleiten wird, die Einzelpersonen größere Handlungsfähigkeit verleiht, die Welt gemäß ihren Bestrebungen zu gestalten. Er stellt sich eine Zukunft vor, in der “persönliche Superintelligenz” Einzelpersonen hilft, Ziele zu erreichen, Kreativität zu fördern, neue Erfahrungen zu erkunden, Beziehungen zu stärken und persönliches Wachstum zu erleichtern. Trotz dieser ehrgeizigen Vision deutete Zuckerberg auch eine strategische Verschiebung für Meta an. Das Unternehmen wird nun deutlich größere Vorsicht walten lassen, welche seiner leistungsstärksten KI-Modelle unter einem Open-Source-Framework (was bedeutet, dass sie für jedermann frei zugänglich und modifizierbar wären) der Öffentlichkeit zugänglich gemacht werden. Dieser Schritt deutet auf eine Anerkennung der immensen Macht und potenziellen Implikationen hin, die selbstverbessernden KI-Systemen innewohnen.