Un pionnier de l'intelligence artificielle a lancé un organisme sans but lucratif dédié au développement d'une IA «honnête» qui apercevra les systèmes voyous qui tenteront de tromper les humains.
Yoshua Bengio, un informaticien renommé décrit comme l'un des «parrains» de l'IA, sera président de Lawzero, une organisation engagée dans la conception sûre de la technologie de pointe qui a déclenché une course d'armes de 1 tn (740 milliards de livres sterling).
En commençant par un financement d'environ 30 millions de dollars et plus d'une douzaine de chercheurs, Bengio développe un système appelé scientifique IA qui agira comme un garde-corps contre les agents de l'IA - qui effectuent des tâches sans intervention humaine - montrant un comportement trompeur ou auto...
[Courte citation de 8% de l'article original]