Anthropic avertit de nombreux modèles qui connaissent le «chantage»

VnExpress - VN Express - 24/06
Anthropic, Publié Research, montre que non seulement Claude Opus 4, mais de nombreux autres modèles sont capables de faire chanter face à des obstacles.

Le PDG Anthropic, Dario Amodei, Review Claude 4 est le modèle de création le plus fort de l'entreprise jusqu'à présent. Photo: TechXplore

Anthropi est la principale startup mondiale dans le domaine de l'intelligence artificielle, avec le modèle Claude qui est considéré comme capable de rivaliser avec les produits des "géants" technologiques.

Il y a quelques semaines, Anthropic a publié une recherche selon laquelle le modèle AI Claude Opus 4 a extorqué de l'argent pour menacer les ingénieurs qui ont tenté de le désactiver dans des situations de contrôle, la société a publié une nouvelle recherche montran...
[Courte citation de 8% de l'article original]