GPT-4o, une IA générative à ”niveau moyen de risque”

Sciences Et Avenir - 12/08
Un rapport d'OpenAI place le risque posé par GPT-4o à un niveau moyen. Les évaluations ont été menées par des procédés de red teaming, avec des experts externes cherchant à pousser la technologie à la faute.

C’est OpenAI elle-même qui le dit : GPT-4o, la dernière évolution de son modèle de langage lancée en mai 2024, présente un risque de niveau "moyen" ("medium risk"). Plus exactement, ce risque concerne la capacité du modèle à convaincre ses utilisateurs que ce qu’il leur répond est vrai, même quand ça ne l’est pas.

Ce constat fait partie des conclusions d’un rapport publié sur le site d’OpenAI le 8 août 2024 sur le niveau de sécurité de GPT-4o et sur le type de risques que peut éventuellement poser son utilisation. Qu’il s’agisse de cybersécurité, de désinformation, de violation de la vie privée, de génération de contenus violents ou érotiques, de non-respect du droit d’auteur, etc.