Des employés anciens et actuels de la Food and Drug Administration (FDA) américaine tirent la sonnette d’alarme concernant le fait qu’Elsa, le nouveau système d’IA utilisé par l’agence, « hallucine » des études scientifiques inexistantes ou déformées. Alors que l’outil a été intégré dans le but d’accélérer les processus d’approbation des médicaments, cette défaillance pourrait conduire à l’arrivée sur le marché de composés potentiellement dangereux.
La FDA et le Département de la santé et des services sociaux (HHS) aux États-Unis ont dévoilé, il y a quelques semaines, Elsa, un nouvel outil d’IA conçu pour accélérer les processus d’approbation des médicaments et de dispositifs ou de procédés médicaux. Il est déployé dans le but de rationaliser le travail des responsables des agences, de sorte à réduire les dépenses publiques inutiles.
Les responsables de la FDA ont affirmé que l’outil contribue à accélérer l’examen des protocoles des essais cliniques et réduit le temps nécessaire aux évaluations scientifiques en identifiant les cibles d’inspections prioritaires. « Aujourd’hui marque le début de l’ère de l’IA à la FDA avec la sortie d’Elsa. L’IA n’est plus une promesse lointaine, mais une force dynamique qui améliore et optimise les performances et le potentiel de chaque employé », a déclaré Jeremy Walsh, directeur de l’IA à la FDA, dans un communiqué en juin.
Robert Kennedy Jr., le secrétaire à la Santé et aux Services sociaux et célèbre anti-vaccin, a même vanté les mérites de l’adoption de l’outil auprès du Congrès américain. « Nous utilisons déjà cette technologie au HHS pour gérer les données de santé, de manière parfaitement sécurisée, et pour accélérer les approbations de médicaments », a-t-il déclaré, tout en affirmant que « la révolution de l’IA est arrivée ».
Cependant, six anciens et actuels responsables de l’agence ont déclaré à CNN, sous couvert de l’anonymat par crainte de représailles, qu’Elsa présentait de gr...
[Courte citation de 8% de l'article original]