Auto-amélioration récursive : Anthropic publie cinq ans de données internes sur la délégation aux modèles - IT SOCIAL

Anthropic publie, par la voix de son institut de politique publique, des métriques internes inédites sur la part de son propre développement déléguée à ses modèles. Plus de 80 % du code fusionné dans la base de l'éditeur est désormais écrit par Claude, chaque ingénieur livre huit fois plus de code qu'en 2024, et les modèles surpassent les chercheurs humains sur l'exécution d'expériences à objectif fixé. Le document constate que la frontière restante tient dans le jugement, le choix des problèmes qui valent d'être traités, et en tire trois scénarios pour la suite, dont celui d'une auto-amélioration récursive des systèmes d'IA.

Le débat sur l'auto-amélioration récursive, le moment hypothétique où un système d'IA concevrait seul son successeur, s'est longtemps tenu sans données. Les laboratoires de frontière gardaient leurs métriques internes, et les discussions s'appuyaient sur des extrapolations de bancs d'essai publics. Le document signé par Marina Favaro et Jack Clark pour l'Anthropic Institute rompt avec cette retenue, en assemblant des séries chiffrées et datées sur cinq ans de pratique interne, accompagnées de leurs réserves méthodologiques. C'est cette publication, davantage que les conclusions qu'elle avance, qui fait l'événement.

Les mesures exter...
[Courte citation de 8% de l'article original]