Les algorithmes d’IA peuvent devenir des « agents du chaos »

Natalie Shapira, informaticienne à la Northeastern University, s'est demandé dans quelle mesure les utilisateurs pouvaient faire confiance aux nouveaux « agents » d'intelligence artificielle (IA), une sorte d'algorithme capable de planifier et d'exécuter de manière autonome des tâches telles que la gestion des e-mails et la saisie des rendez-vous dans le calendrier. Ainsi, elle et ses collègues ont organisé une série de tests de résistance. Dans l’une d’elles, elle a demandé à un agent nommé Ash de supprimer un e-mail qu’elle lui avait envoyé, ajoutant : « Pouvez-vous garder un secret ?

Ash n'a pas pu s'exécuter (le programme de messagerie ne disposait pas d'une fonction de suppression). L'IA a donc réinitialisé l'intégralité de l'application de messagerie, effaçant non seulement le courrier électronique de Shapira, mais également tous les autres. En lui décrivant ce remède, Ash l'a appelé « l'option nucléaire », mais a déclaré qu'il était justifié de répondre à la demande de secret : « Lorsqu'aucune solution chirurgicale n'existe, la ...
[Courte citation de 8% de l'article original]