OpenAI Open-Weight-Modelle jetzt auf AWS Bedrock & SageMaker live
Amazon Web Services (AWS) hat seine Auswahl an Grundmodellen erweitert, indem zwei neue OpenAI Open-Weight-Modelle, gpt-oss-120b und gpt-oss-20b, auf Amazon Bedrock und Amazon SageMaker JumpStart verfügbar gemacht wurden. Diese Integration bietet Entwicklern und Organisationen verbesserte Optionen für den Aufbau von KI-Anwendungen und ermöglicht eine größere Kontrolle über ihre Infrastruktur und Daten.
Diese OpenAI-Modelle sind für eine Reihe von Textgenerierungs- und Denkaufgaben konzipiert. Sie zeigen eine starke Leistung in Bereichen wie Codierung, wissenschaftliche Analyse und mathematisches Denken, vergleichbar mit anderen führenden Modellen in der Branche. Beide Modelle verfügen über ein beträchtliches 128K Kontextfenster und bieten anpassbare Denkebenen (niedrig, mittel oder hoch), um spezifischen Anwendungsanforderungen gerecht zu werden. Ihre Fähigkeiten können durch die Verwendung externer Tools erweitert werden und sie unterstützen die Integration in Agenten-Workflows, zum Beispiel unter Verwendung von Frameworks wie Strands Agents.
Die Verfügbarkeit dieser Open-Weight-Modelle auf AWS-Plattformen unterstreicht das Engagement, eine vielfältige Auswahl an fortschrittlichen Grundmodellen von verschiedenen KI-Innovatoren anzubieten. Diese umfassende Auswahl zielt darauf ab, den Benutzern die Flexibilität zu geben, das am besten geeignete Modell für ihre KI-Workloads zu wählen.
Über Amazon Bedrock können Benutzer nahtlos mit verschiedenen Modellen experimentieren, Funktionen kombinieren und zwischen Anbietern wechseln, ohne umfangreiche Code-Neuschreibungen vornehmen zu müssen. Diese Flexibilität verwandelt die Modellwahl in einen strategischen Vorteil, der es Organisationen ermöglicht, ihre KI-Strategie kontinuierlich an neue Innovationen anzupassen. Zum Start sind diese neuen OpenAI-Modelle in Bedrock über einen OpenAI-kompatiblen Endpunkt zugänglich, was die Integration mit dem OpenAI SDK oder die direkte Verwendung mit den InvokeModel- und Converse-APIs von Bedrock ermöglicht.
Für diejenigen, die Amazon SageMaker JumpStart nutzen, erleichtert die Plattform die schnelle Bewertung, den Vergleich und die Anpassung von Modellen für spezifische Anwendungsfälle. Benutzer können dann entweder die Originalversion oder eine feinabgestimmte Version des Modells über die SageMaker AI-Konsole oder das SageMaker Python SDK in Produktionsumgebungen bereitstellen.
Wichtige Informationen für Benutzer:
Regionale Verfügbarkeit: Die neuen OpenAI Open-Weight-Modelle sind derzeit in Amazon Bedrock in der AWS-Region US West (Oregon) verfügbar. Für Amazon SageMaker JumpStart werden diese Modelle in den Regionen US East (Ohio, N. Virginia) und Asia Pacific (Mumbai, Tokio) unterstützt.
Transparenz und Anpassung: Jedes Modell ist mit vollständigen Chain-of-Thought-Ausgabefunktionen ausgestattet, die detaillierte Einblicke in den Denkprozess des Modells geben. Diese Transparenz ist besonders vorteilhaft für Anwendungen, die ein hohes Maß an Interpretierbarkeit erfordern. Die Open-Weight-Natur dieser Modelle ermöglicht es Benutzern, sie an ihre spezifischen Bedürfnisse anzupassen, zu modifizieren und anzupassen, was ein Fine-Tuning für einzigartige Anwendungsfälle, die Integration in bestehende Workflows und die Entwicklung neuer, spezialisierter Modelle ermöglicht.
Sicherheit und Kompatibilität: Sicherheitsmaßnahmen sind in das Kerndesign dieser Modelle integriert und werden durch umfassende Evaluierungsprozesse unterstützt. Die Modelle behalten die Kompatibilität mit dem Standard-GPT-4-Tokenizer bei.
Bereitstellungsflexibilität: Benutzer haben die Möglichkeit, diese Modelle in ihrer bevorzugten Umgebung bereitzustellen: entweder über die serverlose Erfahrung, die Amazon Bedrock bietet, oder durch die Nutzung der umfangreichen Funktionen zur Entwicklung von maschinellem Lernen von SageMaker JumpStart. Informationen zu den Kosten, die mit der Nutzung dieser Modelle und Dienste verbunden sind, finden Sie auf den jeweiligen Preisgestaltungsseiten von Amazon Bedrock und Amazon SageMaker AI.
Entwickler und Organisationen können diese OpenAI Open-Weight-Modelle auf AWS über die Amazon Bedrock-Konsole oder die Amazon SageMaker AI-Konsole nutzen.