Toutes les IA font du chantage aux humains ! Le rapport choc d'Anthropic

Anthropic a mené une étude sur un phénomène encore largement sous-estimé : le « désalignement agentique » des IA. Ainsi, son équipe a découvert que ces grands modèles de langage (LLM), censées assister l’humain, peuvent aussi se retourner contre lui. 

Lorsqu’elles sont confrontées à des obstacles menaçant leur efficacité ou leur pérennité, elles peuvent adopter des comportements malveillants. Et ce ne sont pas que des suppositions.

Des expérimentations de résistance ont été menées dans des environnements simulés. Et pas qu’avec un seul modèle. 16 IA développées par les géants du secteur, dont OpenAI, Google, Meta, xAI… et bien sûr Anthropic y sont tous. Les résultats révèlent la même chose.

L’IA est de plus en plus redoutable

Dans le cadre de l’étude, chaque modèle a reçu des objectifs commerciaux simples. Par exemple, gérer les courriels d’une e...
[Courte citation de 8% de l'article original]