Des chercheurs créent de fausses maladies et les chatbots IA propagent rapidement des informations erronées sur le plan médical

Une équipe de chercheurs a inventé une condition médicale complètement fausse appelée « bixonimanie » et a publié en ligne des articles clairement frauduleux à ce sujet, puis a surveillé les principaux chatbots IA alors qu’ils commençaient à la recommander comme une véritable maladie aux personnes cherchant un avis médical.

Nature rapporte qu'un chercheur médical suédois a révélé une vulnérabilité troublante dans les systèmes d'intelligence artificielle en créant une maladie fictive que les chatbots IA ont ensuite présentée aux utilisateurs comme des informations médicales légitimes. L’expérience, menée par Almira Osmanovic Thunström de l’Université de Göteborg, a révélé avec quelle facilité de grands modèles linguistiques peuvent absorber et diffuser la désinformation médicale.

La bixonimanie, une maladie oculaire entièrement fabriquée et prétendument causée par une exposition excessive à la lumière bleue des écrans, est née le 15 mars 2024, lorsqu'Osmanovic Thunström a publié deux articles de blog à ce sujet sur Medium. Elle a ensuite publié deux articles préliminaires sur le réseau social u...
[Courte citation de 8% de l'article original]