Le premier cas d’« hallucination » de l’IA en Chine nous le rappelle

MSN - 07/02
Récemment, la première affaire d’infraction nationale causée par une « hallucination » d’IA a été prononcée. Dans cette affaire, Liang, un parent d'un étudiant à l'examen d'entrée à l'université, a découvert qu'il y avait des erreurs dans les informations générées par la plate-forme d'IA lors d'une demande d'informations sur l'université. « L’illusion » de l’IA, en termes simples, est le problème dit « absurde » de l’IA. Il s'agit principalement du phénomène selon lequel le contenu pertinent généré par le grand modèle n'est pas cohérent avec les informations réelles. Cela est essentiellement dû à des facteurs tels que des défauts de conception de formation du grand modèle, des données insuffisantes et des écarts architecturaux.

Récemment, la première affaire d’infraction nationale causée par une « hallucination » d’IA a été prononcée. Dans cette affaire, Liang, un parent d'un étudiant à l'examen d'entrée à l'université, a découvert qu'il y avait des erreurs dans les informations générées par la plate-forme d'IA lors d'une demande d'informations sur l'université. Lorsqu'il a interrogé l'IA, celle-ci a répondu : « Si le contenu généré est incorrect, je vous indemniserai de 100 000 yuans. En colère, Liang a poursuivi la société de R&D de la plateforme d'IA en justice et a exigé une compensation. Le tribunal Internet de Hangzhou, qui a accepté l'affaire, a rendu un jugement de première instance rejetant le procès.

« L’illusion » de l’IA, en termes simples, est le problème dit « absurde » de l’IA. Il s'agit principalement du phénomène selon lequel le contenu pertinent généré par le grand modèle n'est pas cohérent avec les informations réelles. Cela est essentiellement dû à des facteurs tels que des défauts de conception de formation du grand modèle, des données insuffisantes et des écarts architecturaux. Alors, qui devrait être tenu responsable des « erreurs » de l’IA ? Comment clarifier les limites de responsabilité des services d’IA générative ?

1

Quel signal ce verdict envoie-t...
[Courte citation de 8% de l'article original]