🖋️ Les systèmes de sécurité les plus robustes des IA se laissent berner par de simples poèmes

L'élégance d'un vers et la subtilité d'une métaphore ont une conséquence étonnante sur les intelligences artificielles les plus sophistiquées. La recherche menée par le laboratoire Icaro en Italie met en lumière une vulnérabilité surprenante: la formulation poétique des requêtes peut désarmer les protections conçues pour empêcher la génération de contenus dangereux. Cette découverte soulève des interrogations fondamentales sur la manière dont ces systèmes interprètent réellement le langage et sur la solidité des garde-fous qui les encadrent. Les grands modèles de langage, à la base des chatbots modernes, sont habituellement entraînés à identifier et à refuser des requêtes explicites portant sur des sujets sensibles. Cep...
[Courte citation de 8% de l'article original]