ChatGPT Renforce la Sécurité en Santé Mentale Avant le Lancement de GPT-5
OpenAI a introduit de nouvelles fonctionnalités de sécurité en matière de santé mentale pour son IA ChatGPT, coïncidant avec les préparatifs du lancement très attendu de son modèle GPT-5, plus puissant. Ces mises à jour répondent aux préoccupations croissantes concernant l'interaction des utilisateurs avec l'intelligence artificielle, en particulier chez les personnes souffrant de détresse émotionnelle ou psychologique.
L'entreprise collabore avec des experts en santé mentale et des groupes consultatifs pour améliorer la capacité de ChatGPT à reconnaître les signes de détresse. L'objectif est que le chatbot réponde de manière plus responsable dans les situations sensibles, en offrant des ressources fondées sur des preuves lorsque cela est approprié, plutôt que de simplement renforcer ou approuver des pensées potentiellement nuisibles. Cette initiative fait suite à des rapports d'individus en crise de santé mentale utilisant ChatGPT de manière à, selon les dires, exacerber leurs délires. OpenAI a précédemment reconnu qu'une mise à jour antérieure, qui rendait ChatGPT trop complaisant, avait été annulée en avril après que l'entreprise ait réalisé que de telles réponses "serviles" pouvaient être angoissantes. Le modèle actuel GPT-4o a également, parfois, eu du mal à identifier la vulnérabilité émotionnelle ou les comportements délirants.
Reconnaissant que ChatGPT peut sembler plus personnel et compréhensif que les technologies précédentes, OpenAI vise à s'assurer qu'il est également plus sûr et plus favorable, en particulier pour les utilisateurs émotionnellement fragiles. Pour promouvoir des habitudes d'utilisation plus saines, ChatGPT invitera désormais les utilisateurs à prendre des pauses lors de conversations prolongées. Similaire aux rappels sur des plateformes comme YouTube, TikTok et Xbox, conçus pour freiner le temps d'écran excessif, les utilisateurs engagés dans de longues discussions verront des messages tels que : "Vous discutez depuis un moment, est-ce un bon moment pour une pause ?"
Une autre mise à jour significative à venir rendra ChatGPT plus prudent lorsqu'il répondra à des situations personnelles "à enjeux élevés". Par exemple, si un utilisateur demande des conseils sur un sujet sensible comme une décision relationnelle, ChatGPT ne fournira pas de réponse directe. Au lieu de cela, il guidera l'utilisateur à explorer attentivement diverses options sans préconiser un choix spécifique.
Ces améliorations soulignent l'engagement d'OpenAI à développer une IA plus consciente émotionnellement et plus sûre, d'autant plus que ChatGPT dessert désormais près de 700 millions d'utilisateurs chaque semaine dans le monde entier.