De nombreux experts préviennent que le développement incontrôlé de l’intelligence artificielle pourrait conduire au déplacement, voire à la destruction de l’humanité. Dans une enquête menée en 2023 auprès de 2 778 chercheurs en IA, plus d’un tiers ont déclaré qu’ils estimaient la probabilité que l’humanité soit anéantie par l’intelligence artificielle avancée à plus de 10 %. La même année, près de trente pays – dont la Chine, les États-Unis et la Grande-Bretagne – ont signé la Déclaration de Bletchley, qui reconnaît que « les modèles d’IA dotés de capacités exceptionnelles présentent le risque de causer des dommages graves, voire catastrophiques, intentionnellement ou non ».
Pour certaines personnes, les avertissements concernant l’effondrement de la civilisation ressemblent à des chants apocalyptiques exagérés. Car chaque fois qu’une nouvelle technologie puissante émergeait, elle s’accompagnait de la peur d’un déclin apocalyptique. Avec l’avènement de la révolution industrielle, les craintes se sont accrues selon lesquelles la vapeur et le télégraphe seraient des signes avant-coureurs du déclin social. Mais en fin de compte, les machines ont créé les sociétés les plus riches de l’histoire : la plupart des gens bénéficient aujourd’hui de conditions de vie bien meilleures que celles de leurs ancêtres du XVIIIe siècle. Les passionnés d’IA comme Marc Andreessen et Ray Kurzweil promettent que les machines intelligentes s’avéreraient encore plus bénéfiques. L’humanité bénéficiera de soins de santé et d’une éducation encore meilleurs et l’IA contribuera même à sauver l’écosystème de l’effondrement.
Malheureusement, un examen plus approfondi de l’histoire montre que nous avons de très bonnes raisons de craindre les nouvelles technologies puissantes. Même si les a...
[Courte citation de 8% de l'article original]