L'intelligence artificielle a progressé si rapidement au cours des derniers mois que les chercheurs ont signé une lettre ouverte demandant une pause immédiate dans son développement, plus une réglementation plus forte, en raison de leurs craintes que la technologie puisse poser des « risques profonds pour la société et l'humanité ». Mais comment, exactement, AI pourrait nous détruire ? Cinq grands chercheurs spéculent sur ce qui pourrait aller mal.
« Si nous devenons les espèces moins intelligentes, nous devrions nous attendre à être effacés »
Il s'est produit plusieurs fois avant que l'espèce ne soit effacée par d'autres plus intelligentes. Nous, humains, avons déjà essuyé une fraction importante de toutes les espèces sur Terre. C'est ce que vous devez vous attendre à se produire comme une espèce moins intelligente – ce qui est ce que nous sommes susceptibles de devenir, compte tenu du taux de progrès de l'intelligence artificielle. Le truc délicat, c'est que l'espèce qui va être effacée n'a souvent aucune idée de pourquoi ou comment.
Prenez, par exemple, les rhinocéros noirs d'Afrique de l'Ouest, une espèce récente que nous avons conduit à l'extinction. Si vous leur aviez demandé: «Quel est le scénario dans lequel les humains vont chasser votre espèce?» Que penseraient-ils ? Ils n'auraient jamais deviné que certaines personnes pensaient que leur vie sexuelle allait s'améliorer s'ils mangeaient de la corne rhino, même si cela était débouni dans la littérature médicale. Donc, n'importe quel scénario doit venir avec le Caveat que, probablement, tous les scénarios que nous pouvons imaginer vont avoir tort.
On a des indices. Par exemple, dans bien des cas, nous avons effacé des espèces juste parce que nous voulions des ressources. Nous avons coupé les forêts pluviales parce que nous voulions l’huile de palme; nos objectifs n’étaient pas alignés avec les autres espèces, mais parce que nous étions plus intelligents qu’ils ne pouvaient nous arrêter. Ça pourrait nous arriver facilement. Si vous avez des machines qui contrôlent la planète, et ils sont intéressés à faire beaucoup de calcul et ils veulent aug...
[Courte citation de 8% de l'article original]