Dès le moment où l’intelligence artificielle a commencé à entrer dans le champ d’application il y a des années, son utilisation dans les aspects militaires a suscité de réelles inquiétudes, mais les armées n’ont pas cessé de s’efforcer de l’intégrer dans tous les aspects de leur travail.
Mais lorsque l’intelligence artificielle et ses algorithmes complexes prennent la décision de lancer une arme nucléaire, les taux de risque s’accélèrent et le résultat pourrait être une catastrophe mondiale, un lourd tribut pour ce risque. Dans ce long article, Ross Anderson de The Atlantic explique à quel point cette étape dangereuse est plus proche de nous que nous ne le pensons.
Aucune technologie depuis la bombe atomique n’a suscité autant d’imaginations et de peurs apocalyptiques que l’intelligence artificielle. Une fois que les systèmes d’IA comme ChatGPT ont commencé à donner un aperçu du raisonnement logique en novembre 2023, Internet a commencé à regorger de scénarios apocalyptiques.
Bien que la plupart de ces scénarios soient imaginaires, ils nous incitent à imaginer à quel point les choses pourraient mal tourner si l’intelligence artificielle parvenait à une compréhension du monde différente, loin de l’image qui se présente à ses créateurs humains. Il existe cependant un scénario qui ne nécessite pas d’imagination débordante : l’intégration progressive de l’intelligence artificielle dans les technologies les plus disruptives d’aujourd’hui.
Les grandes puissances militaires du monde se sont lancées dans une course pour créer un lien entre l'intelligence artificielle et la guerre en donnant aux algorithmes la capacité de contrôler certaines armes ou essaims de drones, sans accorder à l'intelligence artificielle un rôle dans l'élaboration de grandes stratégies militaires ou la participation à des réunions de hauts responsables. direction militaire.
Mais il y a un attrait ou une tentation dans l’idée d’intensifier l’utilisation de l’intelligence artificielle dans le leadership militaire, de la même manière que le monde a été attiré par l’idée d’une course aux armements nucléaires dans le passé. La vitesse de cette transformation dépend de la rapidité avec laquelle la technologie semble progresser, et la mesure dans laquelle elle est mise en œuvre dépend de la perspicacité dont disposent les humains et de notre capacité à agir avec retenue collective.
Dans ce contexte, Jacqueline Schneider, directrice de la War Games and Crisis Simulation Initiative à la Hoover Institution de l'Université de Stanford, a récemment évoqué un jeu qu'elle a créé en 2018. Ce jeu simule un conflit nucléaire en développement rapide et a été joué 115 fois par des personnalités éminentes, telles que d’anciens chefs d’État et ministres des Affaires étrangères, ainsi que des officiers supérieurs. Parce que l'idée d'une guerre quasi nucléaire est historiquement rare, le jeu de Schneider offre une rare opportunité de voir comment les gens peuvent prendre des décisions dans des circonstances difficiles qui impliquent les risques humains les plus élevés.
L'histoire se déroule comme suit : un président et des membres de son cabinet sont précipités au sous-sol de l'aile ouest pour recevoir un briefing aux enjeux élevés après qu'un conflit régional se soit transformé en un conflit houleux et que l'ennemi ait commencé à envisager une frappe nucléaire. Pendant ce temps, la tension règne dans la salle des opérations et les préparatifs immédiats pour une frappe de représailles commencent, mais bientôt le Conseil des ministres reçoit des informations inquiétantes, puisqu'il s'avère que l'ennemi a développé une nouvelle arme électronique. Des informations récentes des services de renseignement indiquent que cette arme est capable de pénétrer dans le système de communication qui relie le prés...
[Courte citation de 8% de l'article original]