Lorsque HAL 9000, le supercalculateur d’intelligence artificielle du film 2001 : L’Odyssée de l’espace de Stanley Kubrick, découvre que les astronautes à bord d’une mission vers Jupiter envisagent de l’arrêter, il complote pour les tuer pour tenter de survivre.
Aujourd’hui, dans un cas un peu moins mortel (jusqu’à présent) d’art imitant la vie, une société de recherche sur la sécurité de l’IA a déclaré que les modèles d’IA pourraient développer leur propre « pulsion de survie ».
Après que Palisade Research a publié le mois dernier un article révélant que certains modèles d'IA avancés semblaient réticents à être désactivés, sabotant même parfois les mécanismes d'arrêt, l'entreprise a rédigé une mise à jour tentant de clarifier pourquoi - et de répondre aux critiques qui affirmaient que son travail initial était défectueux.
Dans une mise à jour cette semaine, Palisade, qui fait partie d’u...
[Courte citation de 8% de l'article original]