Modèles OpenAI Open-Weight : Disponibles sur AWS Bedrock & SageMaker
Amazon Web Services (AWS) a élargi sa sélection de modèles fondamentaux en rendant deux nouveaux modèles OpenAI open-weight, gpt-oss-120b
et gpt-oss-20b
, disponibles sur Amazon Bedrock et Amazon SageMaker JumpStart. Cette intégration offre aux développeurs et aux organisations des options améliorées pour la création d’applications d’IA, en leur donnant un plus grand contrôle sur leur infrastructure et leurs données.
Ces modèles OpenAI sont conçus pour une gamme de tâches de génération de texte et de raisonnement. Ils démontrent de solides performances dans des domaines tels que le codage, l’analyse scientifique et le raisonnement mathématique, comparables à d’autres modèles leaders de l’industrie. Les deux modèles disposent d’une fenêtre contextuelle substantielle de 128K et offrent des niveaux de raisonnement ajustables (faible, moyen ou élevé) pour s’aligner sur les exigences spécifiques des applications. Leurs capacités peuvent être étendues grâce à l’utilisation d’outils externes et ils prennent en charge l’intégration dans des flux de travail d’agents, par exemple, en utilisant des frameworks comme Strands Agents.
La disponibilité de ces modèles open-weight sur les plateformes AWS souligne un engagement à offrir une gamme diversifiée de modèles fondamentaux avancés provenant de divers innovateurs en IA. Cette sélection complète vise à offrir aux utilisateurs la flexibilité de choisir le modèle le plus adapté à leurs charges de travail d’IA.
Via Amazon Bedrock, les utilisateurs peuvent expérimenter de manière transparente avec différents modèles, combiner les capacités et basculer entre les fournisseurs sans avoir besoin de réécritures de code étendues. Cette flexibilité transforme le choix du modèle en un avantage stratégique, permettant aux organisations d’adapter continuellement leur stratégie d’IA à mesure que de nouvelles innovations apparaissent. Lors du lancement, ces nouveaux modèles OpenAI sont accessibles dans Bedrock via un point de terminaison compatible OpenAI, permettant l’intégration avec le SDK OpenAI ou l’utilisation directe avec les API InvokeModel et Converse de Bedrock.
Pour ceux qui utilisent Amazon SageMaker JumpStart, la plateforme facilite l’évaluation, la comparaison et la personnalisation rapides des modèles pour des cas d’utilisation spécifiques. Les utilisateurs peuvent ensuite déployer la version originale ou une version affinée du modèle dans des environnements de production à l’aide de la console AI de SageMaker ou du SDK Python de SageMaker.
Informations clés pour les utilisateurs :
Disponibilité régionale : Les nouveaux modèles OpenAI open-weight sont actuellement disponibles dans Amazon Bedrock dans la région AWS US Ouest (Oregon). Pour Amazon SageMaker JumpStart, ces modèles sont pris en charge dans les régions US Est (Ohio, Virginie du Nord) et Asie-Pacifique (Mumbai, Tokyo).
Transparence et personnalisation : Chaque modèle est équipé de capacités de sortie de chaîne de pensée complète, offrant un aperçu détaillé du processus de raisonnement du modèle. Cette transparence est particulièrement bénéfique pour les applications nécessitant des niveaux élevés d’interprétabilité. La nature open-weight de ces modèles permet aux utilisateurs de les modifier, de les adapter et de les personnaliser selon leurs besoins spécifiques, permettant un ajustement fin pour des cas d’utilisation uniques, l’intégration dans des flux de travail existants et le développement de nouveaux modèles spécialisés.
Sécurité et compatibilité : Les mesures de sécurité et de sûreté sont intégrées au cœur de la conception de ces modèles, soutenues par des processus d’évaluation complets. Les modèles maintiennent la compatibilité avec le tokenizer GPT-4 standard.
Flexibilité de déploiement : Les utilisateurs ont la possibilité de déployer ces modèles dans leur environnement préféré : soit via l’expérience sans serveur offerte par Amazon Bedrock, soit en tirant parti des vastes capacités de développement de machine learning de SageMaker JumpStart. Les informations concernant les coûts associés à l’utilisation de ces modèles et services sont disponibles sur les pages de tarification respectives d’Amazon Bedrock et d’Amazon SageMaker AI.
Les développeurs et les organisations peuvent commencer à utiliser ces modèles OpenAI open-weight sur AWS via la console Amazon Bedrock ou la console Amazon SageMaker AI.