Lorsque des universitaires de l’Université d’Oxford ont demandé à l’intelligence artificielle de concevoir un réseau ferroviaire parfait dans lequel les trains ne s’écraseraient pas, ils espéraient réaliser une avancée majeure en matière de planification.
Au lieu de cela, ils ont découvert que leur algorithme d’apprentissage automatique avait trouvé une solution nouvelle et inattendue : empêcher les trains de circuler.
"Je travaillais avec un collègue néerlandais qui disait que c'était une solution très britannique au problème", a déclaré Mike Wooldridge, professeur d'informatique à Oxford.
« Je me souviens très bien d’avoir appuyé sur Retour la première fois que j’ai exécuté mon programme et j’ai constaté qu’il revenait instantanément avec : les trains ne bougent pas. Aucun être humain ne ferait cette erreur, mais ces programmes sont très, très littéraux.
"L'IA peut avoir des conséquences inattendues, lorsqu'elle fait fidèlement quelque chose que vous lui avez demandé, mais d'une manière que vous n'aviez pas prévue."
Les défauts et les ...
[Courte citation de 8% de l'article original]