Intelligence artificielle : des experts alertent sur un "risque d'extinction" de l'espèce humaine

Ce sont des centaines d'experts en technologie, dont de nombreux spécialisés dans l'Intelligence artificielle, qui signent ce mardi 30 mai une tribune qui pourrait être retentissante. Si plusieurs figures majeures de la Tech avaient déjà alerté sur les dangers d'une IA non contrôlée, depuis la mise en ligne de l'application ChatGPT, la prise de position publique de ces spécialistes est sans précédent.

"Contrôler le risque d'extinction par l'IA devrait être une priorité globale, au même titre que d'autres risques à l'échelle de nos sociétés, comme les pandémies et la guerre nucléaire", écrivent-ils sur le site Internet du Centre pour la sécurité de l'IA, une ONG spécialisée basée à San Francisco (États-Unis). Une déclaration commune très courte, mais percutante.

"Il est vraiment remarquable qu'autant de personnes aient signé cette lettre", a estimé Michael Osborne, un enseignant de l'université d'Oxford, cité par le Guardian. "Cela démontre qu'il y a une prise de conscience croissante, parmi ceux d'entre nous qui travaillent sur l'IA, que les risques existentiels sont une préoccupation sérieuse". Ce "risque existentiel" est le terme qu'avait également utilisé il y a quelques semaines Geoffrey Hinton, considéré comme le père de l'Intelligence artificielle. Le chercheur de 75 ans avait quitté Google pour retrouver sa liberté de parole sur le sujet, et alerter sur ce qu'il perçoit comme un danger. 

Inquiet d'abandonner sans contrôle les outils de l'IA, notamment à des "dirigeants autoritaires pour manipuler leur électorat", il avait aussi mis en avant le risque que "ces choses deviennent plus intelligentes que nous". Michael Osborne précise ainsi le risque : "Il y a la possibilité que [l'IA] se comporte comme un nouvel organisme en compétition sur la planète, comme une sorte d'espèce invasive que nous aurions créée, et qui pourrait jouer un rôle dévastateur dans notre propre survie en tant qu'espèce".

Depuis la mise en ligne de l'agent conversationnel ChatGPT, plusieurs figures scientifiques ou politiques avaient mis en garde sur les risques qu'un tel outil faisait encourir à l'emploi, à la diffusion de l'information, ou à la santé. La tribune publiée ce mardi évoque très sérieusement un risque encore plus global pour l'humanité.