Les démissions se succèdent dans des entreprises comme OpenAI, Anthropic et xAI. Cela a relancé les débats centrés sur les pressions commerciales, les projets publicitaires, les politiques de sécurité et les préoccupations éthiques.
Mrinank Sharma, chercheur en sécurité de l'intelligence artificielle travaillant chez Anthropic, a déclaré : « Le monde est en danger » dans sa lettre de démission publiée sur les réseaux sociaux. Sharma a déclaré que la menace ne vient pas uniquement de l’intelligence artificielle ; Il a déclaré que cela était dû aux armes biologiques et à « une chaîne de crises interconnectées ».
Anthropic, entreprise connue pour son chatbot nommé Claude, se décrit comme « une entreprise d'intérêt public dédiée à la réduction des risques liés à l'intelligence artificielle ». Au sein de l’entreprise, Sharma étudiait la tendance des systèmes d’IA générative à être « trop adaptés » à l’utilisateur, les risques de bioterrorisme activé par l’IA et les effets des assistants numériques sur la nature humaine.
Cependant, Sharma a quitté son poste, laissant ent...
[Courte citation de 8% de l'article original]