Microsoft bringt OpenAI's gpt-oss-20b auf Windows 11 per AI Foundry

Techcrunch

Microsoft hat einen bedeutenden Schritt zur Demokratisierung des Zugangs zu fortschrittlicher künstlicher Intelligenz unternommen, indem es OpenAIs neuestes Open-Source-Modell, gpt-oss-20b, direkt für Windows 11-Benutzer verfügbar gemacht hat. Diese Integration wird durch Windows AI Foundry ermöglicht, die dedizierte Plattform des Tech-Giganten, die es Benutzern erlaubt, KI-Funktionen, APIs und beliebte Open-Source-Modelle direkt auf ihren persönlichen Computern zu nutzen.

Laut Microsoft ist gpt-oss-20b sowohl „werkzeugkundig als auch leichtgewichtig“ konzipiert, was es besonders geschickt für „Agentenaufgaben“ macht – solche, die eine KI erfordern, um mit externen Werkzeugen zu interagieren und diese zu nutzen, wie das Ausführen von Code oder das Durchführen von Websuchen. Seine Optimierung gewährleistet einen effizienten Betrieb über ein breites Spektrum von Windows-Hardware, mit Plänen, die Unterstützung in naher Zukunft auf noch mehr Geräte auszudehnen. Dies macht es zu einer idealen Grundlage für die Entwicklung autonomer KI-Assistenten oder die nahtlose Einbettung von KI-Funktionen in reale Arbeitsabläufe, selbst in Umgebungen mit begrenzter Netzwerkbandbreite.

OpenAIs kürzlich eingeführtes gpt-oss-20b ist so konzipiert, dass es auf Consumer-PCs und Laptops läuft und mindestens 16 GB VRAM benötigt – den dedizierten Videospeicher, der typischerweise auf modernen Grafikprozessoren (GPUs) von Herstellern wie Nvidia oder AMD Radeon zu finden ist. OpenAI hat angegeben, dass das Modell unter Verwendung von „High-Compute Reinforcement Learning“ trainiert wurde, einer Methode, die seine Kompetenz bei der Unterstützung von KI-Agenten und der Erleichterung der Nutzung verschiedener Werkzeuge erheblich verbessert. Dies wird durch seinen „Chain-of-Thought“-Prozess erreicht, der es der KI ermöglicht, Probleme sequenziell zu durchdenken und bei Bedarf externe Funktionen wie die Ausführung von Python-Code oder die Websuche aufzurufen.

Das Modell hat jedoch bestimmte Einschränkungen. Insbesondere ist gpt-oss-20b ausschließlich textbasiert, was bedeutet, dass es im Gegensatz zu einigen multimodalen Angeboten von OpenAI nicht in der Lage ist, Bilder und Audio zu verarbeiten oder zu generieren. Darüber hinaus ist ein signifikanter Vorbehalt für potenzielle Benutzer die Neigung des Modells zur „Halluzination“ – die Tendenz der KI, faktisch falsche oder unsinnige Informationen zu generieren. Im internen PersonQA-Benchmark von OpenAI, der die Genauigkeit eines Modells hinsichtlich des Wissens über Personen bewertet, zeigte gpt-oss-20b bei erstaunlichen 53 % der Fragen Halluzinationen.

Mit Blick auf die Zukunft hat Microsoft seine Absicht signalisiert, die Verfügbarkeit dieses Modells in naher Zukunft auf macOS-Benutzer sowie auf andere nicht näher spezifizierte Geräte auszudehnen. Über die direkte Integration in Windows hinaus werden sowohl gpt-oss-20b als auch sein größeres, älteres Geschwistermodell, gpt-oss-120b, auch über Microsofts gehostete Azure AI Foundry-Plattform zugänglich gemacht. In einem Schritt, der seine Reichweite weiter vergrößert, sind diese beiden neuen Modelle auch über Amazons AWS Cloud Computing-Plattform verfügbar, was einen breiteren Branchentrend unterstreicht, leistungsstarke KI-Tools Entwicklern und Unternehmen breiter zugänglich zu machen.