Des chercheurs en cybersécurité de plusieurs institutions ont démontré une vulnérabilité majeure dans Gemini, le modèle d'IA de Google. Ils ont lancé une attaque par injection indirecte contrôlée, appelée promptware, pour piéger Gemini et lui faire contrôler des équipements domestiques connectés. Il s'agit d'une démonstration d'un système d'IA provoquant des actions physiques réelles par piratage numérique.
Un groupe de chercheurs de l'Université de Tel Aviv, du Technion et de SafeBreach a créé un projet intitulé « Invitation is all you need ». Ils ont intégré des instructions malveillantes dans les invitations de Google Agenda, et lorsque les utilisateurs ont demandé à Gemini de résumer leur agenda, l'assistant IA a déclenché des actions préprogrammées, notamment le contrôle des équipements domotiques sans que les utilisateurs le demandent.
Ainsi, il a déclenché des actions telles que l'ouverture de volets, la mise en marche d'une chaudière, l...
[Courte citation de 8% de l'article original]