Modelos OpenAI de Peso Abierto Ya Disponibles en AWS Bedrock y SageMaker
Amazon Web Services (AWS) ha ampliado su selección de modelos fundacionales al poner a disposición dos nuevos modelos de peso abierto de OpenAI, gpt-oss-120b y gpt-oss-20b, en Amazon Bedrock y Amazon SageMaker JumpStart. Esta integración proporciona a desarrolladores y organizaciones opciones mejoradas para construir aplicaciones de IA, ofreciendo un mayor control sobre su infraestructura y datos.
Estos modelos de OpenAI están diseñados para una variedad de tareas de generación de texto y razonamiento. Demuestran un sólido rendimiento en áreas como la codificación, el análisis científico y el razonamiento matemático, comparable a otros modelos líderes en la industria. Ambos modelos cuentan con una sustancial ventana de contexto de 128K y ofrecen niveles de razonamiento ajustables (bajo, medio o alto) para alinearse con los requisitos específicos de la aplicación. Sus capacidades se pueden ampliar mediante el uso de herramientas externas y admiten la integración en flujos de trabajo de agentes, por ejemplo, utilizando marcos como Strands Agents.
La disponibilidad de estos modelos de peso abierto en las plataformas de AWS subraya el compromiso de ofrecer una amplia gama de modelos fundacionales avanzados de varios innovadores de IA. Esta selección integral tiene como objetivo proporcionar a los usuarios la flexibilidad de elegir el modelo más adecuado para sus cargas de trabajo de IA.
A través de Amazon Bedrock, los usuarios pueden experimentar sin problemas con diferentes modelos, combinar capacidades y cambiar entre proveedores sin necesidad de reescrituras extensas de código. Esta flexibilidad transforma la elección del modelo en una ventaja estratégica, permitiendo a las organizaciones adaptar continuamente su estrategia de IA a medida que surgen nuevas innovaciones. En el lanzamiento, estos nuevos modelos de OpenAI son accesibles en Bedrock a través de un endpoint compatible con OpenAI, lo que permite la integración con el SDK de OpenAI o el uso directo con las API InvokeModel y Converse de Bedrock.
Para aquellos que utilizan Amazon SageMaker JumpStart, la plataforma facilita la evaluación, comparación y personalización rápidas de modelos para casos de uso específicos. Los usuarios pueden implementar la versión original o una versión afinada del modelo en entornos de producción utilizando la consola de IA de SageMaker o el SDK de Python de SageMaker.
Información clave para usuarios:
Disponibilidad regional: Los nuevos modelos de peso abierto de OpenAI están actualmente disponibles en Amazon Bedrock en la región de AWS de EE. UU. Oeste (Oregón). Para Amazon SageMaker JumpStart, estos modelos son compatibles con las regiones de EE. UU. Este (Ohio, N. Virginia) y Asia Pacífico (Mumbai, Tokio).
Transparencia y personalización: Cada modelo está equipado con capacidades de salida de cadena de pensamiento completa, lo que proporciona una visión detallada del proceso de razonamiento del modelo. Esta transparencia es particularmente beneficiosa para aplicaciones que requieren altos niveles de interpretabilidad. La naturaleza de peso abierto de estos modelos permite a los usuarios modificarlos, adaptarlos y personalizarlos según sus necesidades específicas, lo que permite el ajuste fino para casos de uso únicos, la integración en flujos de trabajo existentes y el desarrollo de nuevos modelos especializados.
Seguridad y compatibilidad: Las medidas de seguridad están integradas en el diseño central de estos modelos, respaldadas por procesos de evaluación exhaustivos. Los modelos mantienen la compatibilidad con el tokenizador estándar GPT-4.
Flexibilidad de implementación: Los usuarios tienen la opción de implementar estos modelos en su entorno preferido: ya sea a través de la experiencia sin servidor ofrecida por Amazon Bedrock o aprovechando las amplias capacidades de desarrollo de aprendizaje automático de SageMaker JumpStart. La información sobre los costos asociados con el uso de estos modelos y servicios está disponible en las páginas de precios de Amazon Bedrock y Amazon SageMaker AI, respectivamente.
Los desarrolladores y las organizaciones pueden comenzar a utilizar estos modelos de peso abierto de OpenAI en AWS a través de la consola de Amazon Bedrock o la consola de IA de Amazon SageMaker.