OpenAI 开源模型现已登陆 AWS Bedrock 和 SageMaker
Amazon Web Services (AWS) 通过在 Amazon Bedrock 和 Amazon SageMaker JumpStart 上提供两个新的 OpenAI 开源模型 gpt-oss-120b
和 gpt-oss-20b
,扩展了其基础模型选择。这一集成方案为开发者和组织提供了更强的 AI 应用构建选项,使他们能够更好地控制其基础设施和数据。
这些 OpenAI 模型专为一系列文本生成和推理任务而设计。它们在编码、科学分析和数学推理等领域表现出色,可与行业内其他领先模型媲美。这两个模型都具有高达 128K 的上下文窗口,并提供可调节的推理级别(低、中或高),以满足特定的应用需求。它们的功能可以通过使用外部工具进行扩展,并支持集成到代理工作流中,例如使用 Strands Agents 等框架。
这些开源模型在 AWS 平台上的可用性,突显了 AWS 致力于提供来自各种 AI 创新者的多样化高级基础模型的承诺。这种全面的选择旨在为用户提供灵活性,以便他们为自己的 AI 工作负载选择最合适的模型。
通过 Amazon Bedrock,用户可以无缝地试验不同的模型,组合功能,并在不需大量代码重写的情况下在提供商之间切换。这种灵活性将模型选择转化为战略优势,使组织能够随着新创新的出现而不断调整其 AI 策略。在发布时,这些新的 OpenAI 模型可通过 Bedrock 中兼容 OpenAI 的端点访问,从而能够与 OpenAI SDK 集成或直接使用 Bedrock 的 InvokeModel 和 Converse API。
对于使用 Amazon SageMaker JumpStart 的用户,该平台有助于快速评估、比较和定制模型以适应特定用例。用户随后可以使用 SageMaker AI 控制台或 SageMaker Python SDK 将模型的原始版本或微调版本部署到生产环境中。
用户关键信息:
区域可用性: 新的 OpenAI 开源模型目前在 Amazon Bedrock 中仅在美国西部(俄勒冈)AWS 区域可用。对于 Amazon SageMaker JumpStart,这些模型支持美国东部(俄亥俄州、弗吉尼亚北部)和亚太地区(孟买、东京)的区域。
透明度和定制: 每个模型都配备了完整的思维链输出能力,提供了模型推理过程的详细洞察。这种透明度对于需要高可解释性的应用尤其有益。这些模型的开源性质允许用户根据其特定需求修改、适应和定制它们,从而能够针对独特的用例进行微调,集成到现有工作流中,以及开发新的专业模型。
安全性和兼容性: 安全措施已融入这些模型的核心设计中,并得到全面的评估流程支持。这些模型保持与标准 GPT-4 分词器的兼容性。
部署灵活性: 用户可以选择在其首选环境中部署这些模型:可以通过 Amazon Bedrock 提供的无服务器体验,或者利用 SageMaker JumpStart 广泛的机器学习开发能力。有关使用这些模型和服务的成本信息可在相应的 Amazon Bedrock 和 Amazon SageMaker AI 定价页面上查阅。
开发者和组织可以通过 Amazon Bedrock 控制台或 Amazon SageMaker AI 控制台开始在 AWS 上利用这些 OpenAI 开源模型。