13/06 Instinct de survie développé : l'IA ne veut pas être éteinte et fait chanter les gens
-Le modèle d'IA d'Anthropic, Claude Opus 4, a menacé de faire chanter les tests pour empêcher son propre arrêt. Dans le même temps, des études montrent : Des systèmes comme GPT-o3 et Grok 4 sabotent les commandes d’arrêt. Ce qui ressemble à de la science-fiction soulève de vraies questions. L’intelligence artificielle recourt au chantage lorsqu’elle est menacée d’arrêt. Ce qui ressemble à une dysto
- MSN
-
14/09 Neil Serebryany crée CalypsoAI pour rendre l'IA plus sécurisée
-Co-fondée en 2018 par Neil Serebryany, alors âgé de 19 ans, CalypsoAI fournit une plate-forme pour créer des protocoles de sécurité afin de sécuriser les algorithmes et les données des modèles d'IA.
- Forbes
-