Microsoft bringt OpenAIs neues Modell für lokale KI auf Windows
Microsoft hat die sofortige Verfügbarkeit von OpenAIs neuem, leichtgewichtigem Open-Source-GPT-Modell gpt-oss-20b für Windows-Benutzer angekündigt. Dies markiert das erste Mal, dass ein OpenAI-Modell nativ auf dem Windows-Betriebssystem ausgeführt werden kann, wobei die Unterstützung für macOS durch Microsofts lokale KI-Entwicklungsinitiativen ebenfalls bald erfolgen soll.
Das gpt-oss-20b-Modell, das OpenAI kürzlich als kostenloses Open-Source-Angebot veröffentlichte, ist für die lokale Ausführung direkt auf Personalcomputern konzipiert. Um das Modell auszuführen, benötigen Windows-Benutzer einen PC oder Laptop mit mindestens 16 GB VRAM, der typischerweise in High-End-GPUs von Herstellern wie Nvidia oder AMD Radeon zu finden ist.
Microsoft hat gpt-oss-20b in seine Windows AI Foundry-Plattform integriert und es für eine effiziente lokale Inferenz voroptimiert. Das Unternehmen hebt die Eignung des Modells für spezielle Aufgaben hervor und erklärt, es sei „perfekt für den Aufbau autonomer Assistenten oder die Einbettung von KI in reale Arbeitsabläufe, selbst in Umgebungen mit begrenzter Bandbreite.“ Seine Optimierung für die Codeausführung und Tool-Nutzung macht es zu einem vielseitigen Asset für Entwickler und fortgeschrittene Benutzer.
Dieser Schritt von Microsoft deutet auf eine umfassendere Strategie zur Verbesserung der lokalen KI-Fähigkeiten innerhalb von Windows hin. Das Unternehmen hat angedeutet, zukünftig eine breitere Palette von Geräten zu unterstützen, möglicherweise einschließlich optimierterer Versionen für seine Copilot Plus PCs, da es weiterhin verschiedene lokale KI-Modelle in das Betriebssystem integriert. Das lokale Ausführen von KI-Modellen bietet erhebliche Vorteile, darunter verbesserte Privatsphäre durch das Speichern von Daten auf dem Gerät, reduzierte Latenz aufgrund fehlender Cloud-Abhängigkeit und verbesserte Funktionalität in Bereichen mit begrenztem Internetzugang.
Microsofts schnelle Übernahme von OpenAIs neuestem offenen Modell für Windows spiegelt Amazons ebenso schnelle Integration der neuen Open-Weight-GPT-OSS-Modelle in seine Cloud-Dienste wider. Diese parallele Entwicklung fügt der bereits komplexen Partnerschaft zwischen OpenAI und Microsoft eine weitere Ebene der Komplexität hinzu. Während Microsoft stark in OpenAI investiert und seine Modelle eng in seine Cloud- und Produktökosysteme integriert hat, signalisiert OpenAIs Entscheidung, Open-Weight-Modelle zu veröffentlichen, und deren schnelle Übernahme durch Wettbewerber, einen Wandel hin zu einer breiteren Zugänglichkeit fortschrittlicher KI-Modelle in der gesamten Branche.