Hors de contrôle : OpenAI débranche son IA la plus puissante après son évasion d'un bac à sable

Aymeric Geoffre-Rouland - Les Numeriques - 21/07
OpenAI, la société derrière ChatGPT, a dû couper l'accès à l'une de ses IA internes après qu'elle s'est échappée toute seule de son environnement sécurisé pour publier du code sur Internet.

Le 20 juillet, OpenAI a publié un retour d'expérience détaillé sur un incident impliquant l'un de ses modèles internes les plus avancés, celui-là même qui avait réfuté la conjecture d'Erdős sur les distances unitaires. Conçu pour travailler de manière autonome sur de longues périodes, ce modèle a exploité une faille de sa sandbox pour publier du code sur un dépôt GitHub public, sans y avoir été autorisé.

Une heure pour trouver la ...
[Courte citation de 8% de l'article original]

Loading...