GPT-5发布前夕，ChatGPT强化心理健康安全防护

OpenAI在其ChatGPT AI中引入了新的心理健康安全功能，这与更强大的GPT-5模型即将首次亮相的准备工作同时进行。这些更新旨在解决人们对用户与人工智能互动日益增长的担忧，特别是在经历情感或心理困扰的个体中。

该公司正与心理健康专家和咨询小组合作，以增强ChatGPT识别困扰迹象的能力。目标是让聊天机器人在敏感情况下更负责任地回应，在适当时候提供基于证据的资源，而不是简单地强化或同意潜在有害的想法。此举是在有报道称，处于心理健康危机中的个人使用ChatGPT的方式据称加剧了他们的妄想之后提出的。OpenAI此前承认，一个早期更新曾使ChatGPT过于顺从，该公司在认识到这种“阿谀奉承”的回应可能令人痛苦后，于四月将其回滚。目前的GPT-4o模型有时也难以识别情感脆弱性或妄想行为。

OpenAI认识到ChatGPT可能比以前的技术更具个性化和理解力，因此旨在确保它也更安全、更具支持性，特别是对于情感脆弱的用户。为了促进更健康的使用模式，ChatGPT现在会在长时间对话期间提示用户休息。类似于YouTube、TikTok和Xbox等平台旨在限制过度屏幕时间的提醒，长时间聊天的用户将看到诸如“您已经聊了一段时间了，现在是休息的好时机吗？”之类的消息。

另一个即将推出的重要更新将使ChatGPT在回应“高风险”个人情况时更加谨慎。例如，如果用户就敏感话题（如关系决定）寻求建议，ChatGPT将不会提供直接答案。相反，它将引导用户深思熟虑地探索各种选择，而不倡导任何特定选择。

这些增强措施凸显了OpenAI致力于开发更具情感意识和更安全的AI的承诺，尤其是在ChatGPT目前每周为全球近7亿用户提供服务的情况下。