En avril, la société d’intelligence artificielle Anthropic a annoncé qu’elle avait rendu un modèle d’IA trop dangereux pour être rendu public. La société, basée à San Francisco, en Californie, a déclaré que son modèle Claude Mythos était si puissant qu'elle avait découvert des vulnérabilités dans tous les principaux systèmes d'exploitation et navigateurs Web actuellement utilisés. "Les conséquences – pour les économies, la sécurité publique et la sécurité nationale – pourraient être graves", a déclaré la société dans un article de blog sur le projet Glasswing, le nom donné à la diffusion limitée du modèle à un groupe d'une cinquantaine d'organisations de confiance.
Cette décision marque un tournant vers une recherche secrète et de pointe sur l’IA qui pourrait devenir une tendance, selon les experts. Ce qu’Anthropic a fait pour freiner la sortie de Mythos sera probablement adopté par d’autres laboratoires d’IA, estime Helen Toner, directrice exécutive par intérim du Center for Security and Emerging Technology de l’Université de Georgetown à Washington DC. "Je m'attendrais à ce qu'il s'agisse davantage du premier d'une série que d'un cas isolé", déclare Toner, qui siégeait auparavant au conseil d'administration du concurr...
[Courte citation de 8% de l'article original]