Pourquoi j'ai créé une alternative sans perte au résumé de la mémoire de l'IA

Pourquoi j'ai créé une alternative sans perte au résumé de la mémoire de l'IA

Chaque outil de mémoire d'IA que j'ai essayé résumait mes sessions avant de me les rendre.

Je passerais une heure à déboguer un bug de webhook épineux avec Claude Code. Une semaine plus tard, je revenais, je posais des questions à ce sujet et j'obtenais un résumé du LLM en trois phrases. La vraie solution ? Disparu. La trace du raisonnement ? Disparu. Les cinq mauvaises tentatives avant la bonne ? Résumé par "vous avez travaillé sur l'authentification webhook".

Le résumé est une décision avec perte déguisée en commodité. Un LLM décide de ce qui mérite d'être rappelé, et je ne vois jamais ce qu'il a jeté.

J'ai construit Longhand parce que je ne voulais plus de ce compromis.

L’industrie va dans la mauvaise direction

La réponse courante à la mémoire de l’IA est « d’agrandir la fenêtre contextuelle ». 1 million de jetons. 2 millions de jetons. Contexte infini. Chaque laboratoire de modélisation pousse le même axe : faire en sorte que le modèle porte plus d'états.

C’est une mauvaise abstraction. Le modèle n'a pas besoin de transporter la mémoire. Le disque le fait.

Le stockage est un problème résolu. SQLite expédié en 2000. ChromaDB expédié il y a deu...
[Courte citation de 8% de l'article original]