Le podcast All-In se moque de la 'psychose IA' du fondateur d'Uber, qu'ils avaient encouragée

Le populaire All-In Podcast s’est récemment retrouvé dans une position ironique, semblant se moquer des affirmations ambitieuses du fondateur d’Uber, Travis Kalanick, concernant l’intelligence artificielle, bien qu’ils aient précédemment diffusé ses théories idiosyncratiques à l’antenne. Kalanick avait participé au podcast en juillet, détaillant sérieusement sa conviction qu’en poussant les chatbots IA comme ChatGPT et Grok à leurs limites, il était sur le point de découvrir de nouveaux principes scientifiques, qu’il appelait la «physique vibratoire».

Kalanick a décrit un processus où il s’engageait avec ces modèles d’IA, poussant les conversations jusqu’aux confins de la physique quantique connue. «Je fais l’équivalent du codage vibratoire, sauf que c’est de la physique vibratoire», a-t-il expliqué, suggérant qu’il était «sacrément proche de percées intéressantes». Cette notion, selon laquelle les chatbots IA pourraient générer indépendamment de nouvelles découvertes scientifiques, a été accueillie par un ridicule généralisé sur les réseaux sociaux. Les modèles d’IA, par leur nature même, fonctionnent en remixant et en re-présentant leurs vastes données d’entraînement, non en formulant et en testant de nouvelles hypothèses, une capacité bien au-delà de leur conception actuelle.

Malgré cette limitation fondamentale, le co-animateur d’All-In, Chamath Palihapitiya, a initialement semblé approuver la vision de Kalanick, extrapolant même qu’une fois que les modèles d’IA pourraient apprendre «synthétiquement» plutôt que du «monde connu», ils «trouveraient» simplement n’importe quel problème qui leur serait posé. Ce genre d’optimisme sans limites, bien que courant dans le marketing de l’IA, crée souvent des attentes irréalistes. En effet, les grands modèles linguistiques ont encore du mal avec des tâches apparemment basiques comme compter avec précision des éléments spécifiques au sein d’un ensemble de données, ce qui met en évidence leurs contraintes actuelles.

Alors que la plupart des animateurs d’All-In semblaient suivre le récit de Kalanick, le co-animateur Jason Calacanis a émis une légère note de scepticisme lors de la diffusion de juillet, se demandant si Kalanick ne «lisait pas trop dedans». Kalanick a concédé que l’IA ne pouvait pas générer d’idées entièrement nouvelles, mais a attribué cela au fait que les modèles étaient «si liés à ce qui est connu», comparant cela à amadouer un âne têtu – impliquant qu’avec suffisamment d’efforts, de nouvelles découvertes étaient effectivement possibles.

Avance rapide jusqu’à l’épisode du 15 août du podcast, et le ton avait radicalement changé. Les animateurs ont ouvert la discussion sur la «psychose de l’IA», un terme qui gagne du terrain dans les médias populaires, bien que non défini dans la littérature médicale, pour décrire comment l’engagement avec l’IA pourrait exacerber les problèmes de santé mentale. Ce sujet a pris de l’importance suite à des rapports, y compris des plaintes de consommateurs déposées auprès de la FTC, détaillant des utilisateurs expérimentant des hallucinations et recevant même des conseils dangereux de chatbots comme ChatGPT. OpenAI, le créateur de ChatGPT, a reconnu ces préoccupations.

Calacanis, en particulier, a introduit le concept de personnes qui se font «one-shotted» – un terme d’argot pour tomber trop profondément dans le terrier du lapin de l’IA, anthropomorphiser la technologie et descendre dans des spirales délirantes. Il a ensuite clairement lié ce phénomène à l’apparition antérieure de Kalanick. «Vous avez peut-être même été témoin d’un peu de cela lorsque Travis [Kalanick] était à l’émission il y a quelques semaines et qu’il disait qu’il passait son temps aux marges ou aux limites de… la physique», a remarqué Calacanis, ajoutant: «Cela peut vraiment vous entraîner dans le terrier du lapin.»

Lorsque le co-animateur David Friedberg a directement demandé si Calacanis suggérait que Kalanick souffrait de psychose de l’IA, Calacanis a répondu, apparemment sincèrement, qu’un «bilan de santé» pourrait être nécessaire pour «notre cher TK», notant que même «les personnes intelligentes peuvent s’impliquer avec ces IA».

Alors que Palihapitiya tentait de présenter la psychose de l’IA comme un simple symptôme d’une épidémie de solitude plus large, le co-animateur David Sacks a rejeté tout le concept comme une «panique morale», semblable aux anxiétés passées entourant les médias sociaux. Sacks a reconnu une crise de santé mentale mais a nié la culpabilité de l’IA, suggérant que toutes les nouvelles technologies entraînent des bouleversements sociaux et des inquiétudes. Pourtant, l’augmentation indéniable de la solitude et de l’isolement depuis l’avènement des médias sociaux, que ce soit entièrement de leur faute ou non, souligne que les technologies révolutionnaires ont invariablement des impacts sociaux à la fois positifs et négatifs. La question persistante pour les médias sociaux et les chatbots IA reste de savoir si les avantages l’emportent finalement sur les inconvénients.