OpenAI kehrt mit gpt-oss-120b & 20b zum Open Source zurück

OpenAI, der künstliche Intelligenz-Titan hinter ChatGPT, hat eine bedeutende strategische Neuausrichtung angekündigt, indem es zwei Open-Weight-KI-Modelle, gpt-oss-120b und gpt-oss-20b, veröffentlicht hat. Dies markiert die erste öffentliche Freigabe von frei verfügbaren KI-Modellgewichten seit GPT-2 im Jahr 2019 und beendet eine sechsjährige Periode, in der sich das Unternehmen auf proprietäre, Closed-Source-Modelle konzentrierte.

Die neuen Modelle sind auf Plattformen wie Hugging Face zum Download verfügbar und unter der permissiven Apache 2.0-Lizenz lizenziert, wodurch sie sowohl für kommerzielle als auch für experimentelle Zwecke zugänglich sind. Dieser Schritt ermöglicht Entwicklern und Unternehmen eine beispiellose Möglichkeit, OpenAI-Modelle vollständig nach ihren eigenen Bedingungen auszuführen, anzupassen und bereitzustellen, wodurch die Abhängigkeit von entfernten Cloud-APIs oder die Offenlegung sensibler interner Daten gegenüber externen Diensten entfällt.

Details zu den neuen Modellen

Die gpt-oss-Serie umfasst zwei verschiedene Modelle, die beide auf einer Mixture-of-Experts (MoE)-Architektur mit einem Transformer-Backbone basieren, was die Effizienz durch die Aktivierung weniger Parameter pro Token verbessert.

• gpt-oss-120b: Dieses größere Modell verfügt über insgesamt 117 Milliarden Parameter, wobei etwa 5,1 Milliarden Parameter pro Token aktiviert werden. Es ist für Produktions-, Allzweck- und hochgradige Reasoning-Anwendungsfälle konzipiert und liefert auf zentralen Reasoning-Benchmarks eine Leistung, die dem o4-mini von OpenAI nahezu entspricht. Trotz seiner Leistung ist es optimiert, um effizient auf einer einzigen 80-GB-GPU zu laufen, wodurch es für Rechenzentren und High-End-Desktops geeignet ist.

• gpt-oss-20b: Das kleinere, effizientere Modell verfügt über insgesamt 21 Milliarden Parameter, wobei etwa 3,6 Milliarden aktive Parameter pro Token vorhanden sind. Es ist für geringere Latenzzeiten sowie lokale oder spezialisierte Anwendungsfälle optimiert und liefert auf gängigen Benchmarks Ergebnisse, die dem OpenAI o3-mini ähneln. Dieses Modell kann auf Edge-Geräten mit nur 16 GB Speicher ausgeführt werden, was es ideal für On-Device-Anwendungen, Consumer-Hardware und schnelle Iterationen ohne kostspielige Infrastruktur macht.

Beide Modelle unterstützen eine Kontextlänge von bis zu 128.000 Token, verfügen über Chain-of-Thought (CoT)-Reasoning mit einstellbarem Aufwand und sind in der Lage, Anweisungen gut zu befolgen und Tools zu verwenden, einschließlich Websuche und Python-Code-Ausführung. Sie sind auch nativ in MXFP4 quantisiert für eine effiziente Inferenz.

Eine Rückkehr zu den offenen Wurzeln

OpenAIs Entscheidung, diese Modelle quelloffen zu machen, markiert eine signifikante Abkehr von ihrer jüngsten Strategie. Nach GPT-2 schwenkte das Unternehmen bei Modellen wie GPT-3 und GPT-4 weitgehend auf einen Closed-Source-Ansatz um, wobei proprietäre Veröffentlichungen und API-Zugang priorisiert wurden. Dieser Wandel wurde durch eine Kombination von Faktoren vorangetrieben, darunter Wettbewerbsvorteile, Sicherheitsbedenken und Gewinnmaximierung.

Die Landschaft der KI-Entwicklung hat sich jedoch weiterentwickelt, wobei Open-Source-Modelle von Unternehmen wie Meta (Llama) und Mistral erheblich an Zugkraft gewonnen haben. OpenAI-CEO Sam Altman hatte zuvor eingeräumt, dass das Unternehmen in Bezug auf die Offenlegung seiner Software möglicherweise „auf der falschen Seite der Geschichte“ gestanden habe. Diese jüngste Veröffentlichung deutet auf eine Reaktion auf den zunehmenden Wettbewerbsdruck und eine Anerkennung der Vorteile hin, die ein offenes Ökosystem mit sich bringen kann.

Auswirkungen auf die KI-Landschaft

Dieser Schritt von OpenAI wird voraussichtlich weitreichende Auswirkungen haben:

• Demokratisierung der KI: Indem OpenAI leistungsstarke Modelle frei herunterladbar und lokal ausführbar macht, senkt es die Hürden für Entwickler, Forscher, Schwellenländer und kleinere Organisationen, denen möglicherweise die Ressourcen für eine umfangreiche Cloud-Infrastruktur fehlen.

• Verbesserte Kontrolle und Datenschutz: Das lokale Ausführen von Modellen bietet volle Kontrolle über Latenz, Kosten und Datenschutz, da sensible Daten intern verarbeitet werden können, ohne an externe Server gesendet zu werden.

• Förderung der Innovation: Der Zugang zu Open-Weight-Modellen unter einer permissiven Lizenz fördert Experimente, Anpassungen und Feinabstimmungen an domänenspezifischen Daten, was potenziell die Forschung und Entwicklung über verschiedene Anwendungsfälle hinweg beschleunigen kann.

• Kosteneffizienz: Die lokale Bereitstellung eliminiert laufende API-Kosten und Abonnementgebühren, die mit Cloud-basierten KI-Diensten verbunden sind, und bietet eine kostengünstigere Lösung für den skalierbaren KI-Einsatz.

• Erhöhter Wettbewerb: OpenAIs Wiedereintritt in den Open-Weight-Bereich intensiviert den Wettbewerb und drängt die gesamte Branche zu einer transparenteren und zugänglicheren KI-Entwicklung.

OpenAI hat betont, dass Sicherheit für ihren Ansatz grundlegend bleibt, und diese Modelle wurden umfassenden Sicherheitstrainings und -bewertungen unterzogen, einschließlich adverser Tests. Obwohl die Modelle standardmäßig den Sicherheitsrichtlinien von OpenAI folgen sollen, weist das Unternehmen darauf hin, dass Entwickler und Unternehmen zusätzliche Schutzmaßnahmen implementieren müssen, um die systemweiten Schutzmaßnahmen zu replizieren, die in ihren proprietären API-Modellen integriert sind.

Diese Veröffentlichung signalisiert eine potenzielle Zukunft, in der die KI-Entwicklung proprietäre Fortschritte mit einem Engagement für offene Tools und Standards in Einklang bringt, um letztendlich Innovationen zu beschleunigen und den Zugang zu fortschrittlichen KI-Fähigkeiten zu demokratisieren.