Le développement rapide de l’IA soulève la question de savoir si nous programmons notre propre disparition. À mesure que les systèmes d’IA deviennent plus puissants, ils pourraient présenter un plus grand risque pour l’humanité si les objectifs de l’IA cessent soudainement de s’aligner sur les nôtres.
Pour éviter ce genre de scénario catastrophique, Mustafa Suleyman, co-fondateur de DeepMind, la division IA de Google, a déclaré qu'il existe certaines capacités que nous devrions exclure en matière d'intelligence artificielle.
Dans une récente interview accordée au MIT Technology Review, Suleyman a suggéré que nous devrions exclure « l’auto-amélioration récursive », qui est la capacité de l’IA à s’améliorer au fil du temps.
"Vous ne voudriez pas laisser votre petite IA se déclencher et mettre à jour son propre code sans que vous ayez une surveillance", a-t-il déclaré au MIT Technology Review. "Peut-être que cela devrait même être une activité autorisée – vous savez, tout comme la manipulation de l'anthrax ou des matières nucléaires."
Et même si l'accent a été considérablement mis sur la réglementation de l'IA au niveau institutionnel - la semaine dernière, des dirigeants ...
[Courte citation de 8% de l'article original]