Un fichier texte de 13 Ko a battu un modèle plus intelligent : analyse comparative du codegen de l'IA dans 5 bibliothèques d'état angulaires

DEV - 30/05
Divulgation dès le départ : je maintiens l'une des cinq bibliothèques testées (SignalTree), et c'est celle qui...

Divulgation dès le départ : je gère l'une des cinq bibliothèques testées (SignalTree), et c'est celle qui a obtenu les pires résultats lors de l'exécution à froid - il ne s'agit donc pas d'un article "regardez à quel point mon truc est bon". Le modèle inter-bibliothèques et le correctif étaient suffisamment intéressants pour que je veuille mettre les chiffres devant les personnes qui utilisent Copilot/Cursor/Claude Code tous les jours. L'ensemble du harnais est reproductible (une seule commande, lien en bas) ; Je préfère qu'il soit déchiré plutôt que pris sur la foi.

Installation

  • Bibliothèques : NgRx (classique), NgRx SignalStore, Akita, Elf, SignalTree.
  • Agents : Claude Sonnet 4.6, GPT-5.4, Gemini 3.1 Pro, Perplexity Sonar Pro, Claude Haiku 4.5, GPT-5.4-mini.
  • 8 invites : compteur, utilisateurs paginés, recherche anti-rebond, totaux dérivés, formulaire de connexion, annuler/rétablir, état imbriqué profond, éditeur multi-marqueurs.
  • 5 bibliothèques × 6 agents × 3 modes d'amorçage = 720 cellules. Température 0. Texte d'invite identique par bibliothèque (uniquement le nom de la bibliothèque échangé).
  • Noté sur trois vérifications orthogonales : correspondance de modèle idiomatique, résolution d'importation (chaque importation est-elle résolue en un package réel) et validité de la méthode (les méthodes appelées existent-elles réellement sur l'API).

Ce que cela mesure : la génération unique. L'agent reçoit l'invite, renvoie un fichier, nous le notons. Une utilisation interactive réelle – Curseur/Copilote avec chat aller-retour, où le modèle voit ses propres erreur...
[Courte citation de 8% de l'article original]

Loading...