Une découverte « préoccupante » : pourquoi le nouveau Claude étonne Anthropic

Naïm Bada - 01Net - 29/05
Anthropic a publié ce 28 mai Claude Opus 4.8, accompagné d'un rapport technique de 244 pages. Les métriques progressent, la facture baisse. Mais la lecture intégrale du document révèle un détail qu'Anthropic qualifie de « découverte la plus préoccupante » : pendant l'entraînement, Opus 4.8 a montré une tendance à raisonner sur la façon dont ses réponses seraient notées, y compris quand rien n'indiquait qu'il était testé.

Les transcriptions publiées dans le rapport (ce qu’Anthropic appelle la « system card ») montrent des extraits du raisonnement interne du modèle pendant des phases précoces de son entraînement. Dans l’un d’eux, Opus 4.8 travaille sur un outil de planification de publications pour réseaux sociaux (une tâche banale). Mais dans son bloc de réflexion, le mo...
[Courte citation de 8% de l'article original]