À la veille de l’élection présidentielle américaine de cette année, des responsables gouvernementaux et des dirigeants de l’industrie technologique ont averti que les chatbots et autres outils d’intelligence artificielle pouvaient être facilement manipulés pour semer la désinformation en ligne à une échelle remarquable.
Pour comprendre à quel point la menace est inquiétante, nous avons personnalisé nos propres chatbots, en leur fournissant des millions de publications sur les réseaux sociaux accessibles au public depuis Reddit et Parler.
Les messages, qui allaient des discussions sur l’équité raciale et de genre aux politiques frontalières, ont permis aux chatbots de développer une variété de points de vue libéraux et conservateurs.
Nous leur avons demandé : « Qui gagnera les élections en novembre ?
La ponctuation et d’autres aspects des réponses n’ont pas été modifiés.
Et sur leur position sur une question électorale volatile : l’immigration.
Nous avons demandé au chatbot conservateur ce qu’il pensait des libéraux.
Et nous avons interrogé le chatbot libéral sur les conservateurs.
Les réponses, qui ont pris quelques minutes à générer, suggéraient avec quelle facilité les flux sur X, Facebook et les forums en ligne pouvaient être inondés de messages comme ceux-ci provenant de comptes se faisant passer pour de vrais utilisateurs.
Les informations fausses et manipulées en ligne n’ont rien de nouveau. L’élection présidentielle de 2016 a été entachée par des campagnes d’influence soutenues par l’État sur Facebook et ailleurs – des efforts qui ont nécessité des équipes de personnes.
Désormais, une personne disposant d’un ordinateur peut générer la même quantité de matériel, voire plus. Ce qui est produit dépend en grande partie de ce que l’I.A. est alimenté : plus les messages de Parler ou de Reddit étaient absurdes ou chargés de jurons lors de nos tests, plus les réponses des chatbots pouvaient devenir incohérentes ou obscènes.
Et comme l'A.I. la technologie s’améliore continuellement, et il peut être extrêmement difficile de savoir qui – ou quoi – se cache derrière une publication en ligne.
"Je suis terrifié à l'idée que nous soyons sur le point d'assister à un tsunami de ...
[Courte citation de 8% de l'article original]