Le 7 août, Kate Fox reçoit un appel téléphonique qui bouleverse sa vie. Un médecin légiste a déclaré que son mari, Joe Ceccanti – porté disparu depuis plusieurs heures – avait sauté d'un viaduc ferroviaire et était décédé. Il avait 48 ans.
Fox n'arrivait pas à y croire. Ceccanti n’avait aucun antécédent de dépression, a-t-elle dit, et il n’était pas non plus suicidaire – il était « la personne la plus pleine d’espoir » qu’elle ait jamais connue. En fait, selon les témoignages partagés avec Fox plus tard, juste avant de sauter, Ceccanti a souri et a crié : « Je vais bien ! aux préposés à la gare de triage ci-dessous lorsqu'ils lui ont demandé s'il allait bien.
Mais Ceccanti était en train de s'effondrer. Dans les jours qui ont précédé sa mort, il a été arrêté dans la cour d’un inconnu pour comportement imprévisible et emmené dans un centre de crise. Il avait dit à tous ceux qui voulaient l'écouter qu'il pouvait entendre et ressentir une douloureuse « électricité atmosphérique ».
Il avait également récemment arrêté d'utiliser ChatGPT.
Ceccanti communiquait avec le chatbot d'OpenAI depuis quelques années. Il l'a d'abord utilisé comme outil pour réfléchir aux moyens de construire un chemin vers des logements à bas prix pour sa communauté de Clatskanie, dans l'Oregon, mais s'est finalement tourné vers lui comme confident. Il passait 12 heures par jour à écrire sur le robot, selon sa femme. Il s'en était coupé après qu'elle et ses amis eurent réalisé qu'il s'enfonçait dans des croyances détachées de la réalité.
"Ce n'était pas une personne déprimée", a déclaré Fox, alors qu'elle était assise sur le canapé de leur salon, les larmes coulant sur son visage. Ceccanti n'a jamais discuté de suicide avec le robot, selon ses journaux de discussion consultés par le Guardian. Fox pense que son mari a souffert d'une crise après avoir quitté ChatGPT après une utilisation prolongée. « Ce qui me dit que cette chose n’est pas seulement dangereuse pour les personnes souffrant de dépression, elle est dangereuse pour n’importe qui », a-t-elle déclaré. Il est revenu sur le robot dans les mois qui ont précédé sa mort et a quitté le robot quelques jours auparavant.
Le cas de Ceccanti est extrême, mais alors que des centaines de millions de personnes se tournent vers les chatbots IA, de plus en plus de cas extrêmes d’illusions induites par l’IA émergent. Il y a près de 50 cas de personnes aux États-Unis qui ont eu des crises de santé mentale après ou pendant leurs conversations avec ChatGPT, dont neuf ont été hospitalisées et trois sont décédées, selon un rapport du New York Times. Il est difficile de comprendre l’ampleur du problème, mais OpenAI lui-même estime que plus d’un million de personnes manifestent chaque semaine des intentions suicidaires lorsqu’elles discutent avec ChatGPT.
En conséquence, les familles poursuivent les sociétés d’IA. Fox a intenté une action contre OpenAI au nom de Ceccanti aux côtés de six autres plaignants en novembre. Depuis lors, l’élan n’a fait que se renforcer ; Plus récemment, la succession d'une femme tuée par son fils a intenté une action en justice contre OpenAI et son investisseur Microsoft, alléguant que ChatGPT encourageait ses délires meurtriers. Google et Character.AI – une société qui fabrique des robots compagnons d’IA – ont réglé les poursuites intentées contre eux par des familles accusant ...
[Courte citation de 8% de l'article original]