Il n'y a peut-être aucune preuve que l'IA est consciente, mais Mustafa Suleyman craint qu'il ne devienne suffisamment avancé pour convaincre certaines personnes que c'est le cas.
Dans un essai personnel publié mardi, le PDG de Microsoft AI a décrit ce phénomène comme "IA apparemment conscient", qu'il a défini comme ayant "toutes les caractéristiques d'autres êtres conscients et semble donc être conscient".
Son arrivée pourrait être "dangereuse" pour la société, a écrit Suleyman, car elle pourrait conduire les gens à former des attachements à l'IA et à plaider pour les droits de l'IA.
"Il déconnecte les gens de la réalité, effilant des liens et des structures sociaux fragiles, déformant des priorités morales pressantes", a-t-il déclaré.
Suleyman, qui a précédemment cofondé Deepmind et Inflexe, était clair qu'il n'y a actuellement "aucune preuve" que l'IA est consciente.
Il a cependant dit qu'il "devenait de plus en plus préoccupé" par la soi-disant psychose de l'IA, un terme de plus en plus utilisé pour décrire quand les gens forment des croyances délirantes après avoir interagi avec les chatbots.
"Je ne pense pas que cela se limite à ceux qui risquent déjà de problèmes de santé mentale", a écrit Suleyman. "En termes simples, mon inquiétude centrale est que beaucoup de gens commenceront à croire à l'illusion des AIS en tant qu'entités conscientes si fortement qu'elles plaideront bientôt pour les droits de l'IA, le bien-être modèle et même la citoyenneté de l'IA."
Sam Altman, le PDG d'Openai, a récemment déclaré que la plupart des utilisateurs de Chatgpt peuvent "garder une ligne claire entre la réalité et la fiction ou le jeu de rôle, mais un petit pourcentage ne peut pas". Pendant ce temps, David Sacks, le tsar de l'IA de la Maison Blanche, a comparé la psychose de l'IA à la "paniqu...
[Courte citation de 8% de l'article original]