Whisper : cette puissante IA OpenAI a un problème... elle hallucine quand elle panique !

Mariano R. - LeBigData - 29/10
Whisper d’OpenAI peut halluciner en pleine transcription. Une erreur qui inquiète alors que l'outil se répand dans les hôpitaux.

Whisper d’OpenAI, l’outil de transcription audio dopé à l’IA, fait des merveilles… mais aussi des siennes ! Derrière sa façade de précision et de rapidité se cache un petit grain de folie. Quand Whisper commence à paniquer, il peut littéralement inventer des bouts de conversations entières. Ces fameuses « hallucinations » inquiètent, surtout dans les hôpitaux américains où l’outil gagne en popularité.

Le modèle de transcription développé par OpenAI, nommé Whisper, est un prodige de la technologie. Adopté dans des milliers d’hôpitaux et cabinets médicaux américains, il est vu comme un assistant précieux. Cette IA retranscrit des consultations en temps réel. Pourtant, ce super-scribe numérique a un petit problème. Ainsi, il hallucine. Non, Whisper ne voit pas de licornes. Mais sous le stress, l’IA peut s’inventer des paroles qui n’ont jamais été prononcées. Et le souci, c’est que dans les environnements critiques, comme le milieu médical, une simple erreur de transcription peut vite devenir problématique.

Whisper, l’IA de transcription d’OpenAI qui hallucine sous pression

L’IA de transcription audio d’OpenAI ...
[Courte citation de 8% de l'article original]