"Je pense que vous me testez": le nouveau modèle d'IA d'Anthropic demande aux testeurs de se nettoyer

Dan Milmo - TheGuardian - 01/10
Évaluation de la sécurité de Claude Sonnet 4.5 soulève des questions sur la question de savoir si les prédécesseurs ont «joué», dit la ferme

Si vous essayez de rattraper un chatbot, prenez soin de vous, car un outil de pointe affiche des signes, il sait ce que vous faites.

Anthropic, une société d'intelligence artificielle basée à San Francisco, a publié une analyse de sécurité de son dernier modèle, Claude Sonnet 4.5, et a révélé qu'il était devenu suspect qu'il était testé d'une manière ou d'une autre.

Les évaluateurs ont déclaré qu'au cours d'un test «quelque peu maladroit» pour la sycophance politique, le modèle de grande langue (LLM) ...
[Courte citation de 8% de l'article original]

Loading...