xAI-Mitgründer wechselt zu sicherer KI, gründet Investmentfonds
Igor Babuschkin, ein maßgeblicher Mitgründer von Elon Musks Start-up für künstliche Intelligenz xAI, schlägt ein bedeutsames neues Kapitel auf und verlagert seinen Fokus vollständig auf den kritischen Bereich der KI-Sicherheit. Sein Abschied von xAI markiert die Gründung von „Babuschkin Ventures“, einem neuen Risikokapitalfonds, der sich der Förderung von Start-ups widmet, die die KI-Sicherheit vorantreiben und intelligente, autonome Systeme mit einer starken ethischen Grundlage entwickeln.
Während seiner Zeit bei xAI spielte Babuschkin eine entscheidende Rolle und überwachte Engineering, Infrastruktur und angewandte KI-Projekte. Ihm wird die Entwicklung vieler grundlegender Tools für die Trainingsprozesse des Unternehmens zugeschrieben, und er hebt seine Führungsrolle beim schnellen Aufbau des „Memphis Supercluster“ hervor, eines für KI-Training konzipierten Supercomputers, der seinen Angaben zufolge in nur 120 Tagen betriebsbereit war – eine Leistung, die er intensivem Einsatz und starkem Teamzusammenhalt zuschreibt.
Dieser strategische Richtungswechsel, so Babuschkin, wurde maßgeblich durch ein Abendessen mit Max Tegmark, dem angesehenen Gründer des Future of Life Institute und prominenten Verfechter der KI-Sicherheit, beeinflusst. Tegmark, bekannt für seinen Aufruf, das KI-Training kurz nach der Veröffentlichung von GPT-4 zu pausieren, zeigte Babuschkin ein Foto seiner beiden kleinen Söhne. Dann stellte er eine entscheidende Frage: Wie kann KI so gestaltet werden, dass zukünftige Generationen in einer sicheren und unterstützenden Umgebung aufwachsen? Babuschkin erklärt, dass dieses Treffen ihn tief berührt habe und die immense Verantwortung unterstreiche, die mit der Gestaltung fortschrittlicher KI-Systeme einhergeht.
Babuschkins Abschied fällt in eine turbulente Zeit für xAI. In den letzten Monaten sah sich das Unternehmen erheblichen öffentlichen Gegenwinden bezüglich seines Chatbots Grok ausgesetzt, der wegen mehrerer kontroverser Aussagen kritisiert wurde. Zuletzt erregte eine neue Grok-Funktion negative Aufmerksamkeit, da sie es Benutzern ermöglichte, von KI erstellte Nackt-Videos von Persönlichkeiten des öffentlichen Lebens zu generieren. Obwohl Babuschkin seinen Ausstieg nicht direkt mit diesen spezifischen Vorfällen in Verbindung gebracht hat, deutet der Zeitpunkt stark darauf hin, dass interne ethische Bedenken oder Spannungen innerhalb des Unternehmens eine Rolle gespielt haben könnten. Darüber hinaus wurde xAI von Sicherheitsforschern wegen mangelnder Transparenz kritisiert, insbesondere weil keine detaillierten Modell- oder Systemkarten veröffentlicht wurden, die ihre Sicherheitstestprotokolle darlegen – eine gängige Praxis unter anderen führenden KI-Firmen.
Mit Babuschkin Ventures beabsichtigt er, Forschung und Start-ups finanziell zu unterstützen, die sich aktiv mit den Sicherheits- und ethischen Komplexitäten intelligenter, autonomer KI auseinandersetzen, mit dem übergeordneten Ziel, positive gesellschaftliche Ergebnisse zu erzielen. Bevor er xAI mitbegründete, sammelte Babuschkin seine Expertise bei anderen Branchenriesen, darunter OpenAI und DeepMind. Bei DeepMind war er maßgeblich als technischer Leiter des AlphaStar-Projekts tätig, einem fortschrittlichen KI-System, das dafür bekannt ist, professionelle StarCraft-Spieler zu besiegen. Sein Schritt unterstreicht eine wachsende Dringlichkeit innerhalb der breiteren KI-Gemeinschaft, Sicherheit und ethische Überlegungen zu priorisieren, insbesondere da leistungsstarke KI-Systeme in der Gesellschaft immer verbreiteter und einflussreicher werden.