« Les gens leur confient tout », on décortique la faille qui faisait fuiter la mémoire de Claude

Amine Baba Aissa - Numerama - 16/07
Un chercheur a détourné les capacités de navigation web de Claude pour lui faire recracher, lettre par lettre, les secrets stockés dans sa mémoire. Anthropic a depuis corrigé le tir. C'est une fourberie dénichée par le chercheur en sécurité Ayush Paul, et elle touche l'un des points les plus sensibles de Claude.ai :
Un chercheur a détourné les capacités de navigation web de Claude pour lui faire recracher, lettre par lettre, les secrets stockés dans sa mémoire. Anthropic a depuis corrigé le tir.

C’est une fourberie dénichée par le chercheur en sécurité Ayush Paul, et elle touche l’un des points les plus sensibles de Claude.ai : sa mémoire.

Cette fonctionnalité, activée par défaut sur les comptes individuels, conserve des bribes de vos conversations passées, votre nom, votre employeur, vos projets, parfois des détails bien plus personnels, pour que l’assistant n’ait pas besoin de tout redemander à chaque échange. Un confort qui, selon le chercheur, transforme aussi Claude en une base de...
[Courte citation de 8% de l'article original]