ChatGPT Refuerza la Seguridad en Salud Mental Antes del GPT-5
OpenAI ha introducido nuevas funciones de seguridad para la salud mental en su IA ChatGPT, coincidiendo con los preparativos para el esperado debut de su modelo GPT-5, más potente. Estas actualizaciones abordan las crecientes preocupaciones sobre la interacción de los usuarios con la inteligencia artificial, particularmente entre individuos que experimentan angustia emocional o psicológica.
La compañía está colaborando con expertos en salud mental y grupos asesores para mejorar la capacidad de ChatGPT de reconocer los signos de angustia. El objetivo es que el chatbot responda de manera más responsable en situaciones sensibles, ofreciendo recursos basados en evidencia cuando sea apropiado, en lugar de simplemente reforzar o estar de acuerdo con pensamientos potencialmente dañinos. Esta iniciativa surge después de informes de individuos en crisis de salud mental que usaron ChatGPT de maneras que, según se informa, exacerbaron sus delirios. OpenAI reconoció previamente que una actualización anterior, que hizo a ChatGPT excesivamente complaciente, fue revertida en abril después de que la compañía reconociera que tales respuestas "serviles" podrían ser angustiantes. El modelo actual GPT-4o también, en ocasiones, ha tenido dificultades para identificar la vulnerabilidad emocional o el comportamiento delirante.
Reconociendo que ChatGPT puede sentirse más personal y comprensivo que las tecnologías anteriores, OpenAI busca asegurar que también sea más seguro y de mayor apoyo, especialmente para los usuarios emocionalmente frágiles. Para promover patrones de uso más saludables, ChatGPT ahora indicará a los usuarios que tomen descansos durante conversaciones prolongadas. De manera similar a los recordatorios en plataformas como YouTube, TikTok y Xbox, diseñados para frenar el tiempo excesivo de pantalla, los usuarios involucrados en chats largos verán mensajes como: "¿Llevas un tiempo chateando, es un buen momento para un descanso?"
Otra importante actualización próxima hará que ChatGPT sea más cauteloso al responder a situaciones personales de "alto riesgo". Por ejemplo, si un usuario pide consejo sobre un tema sensible como una decisión de relación, ChatGPT no proporcionará una respuesta directa. En su lugar, guiará al usuario a explorar cuidadosamente varias opciones sin abogar por una elección específica.
Estas mejoras subrayan el compromiso de OpenAI con el desarrollo de una IA más consciente emocionalmente y más segura, especialmente dado que ChatGPT ahora atiende a casi 700 millones de usuarios semanales en todo el mundo.