Que faire si le modèle d'IA est "désobéissant"

Récemment, les nouvelles dans le domaine de l'intelligence artificielle ont attiré l'attention. Le modèle américain Openai O3 n'a pas écouté d'instructions humaines pendant les tests et a refusé de se fermer.

Le «désobéissant» de l’IA signifie-t-il que l’IA a une conscience indépendante? À en juger par les détails du test, il n'est pas nécessaire de s'inquiéter de la "vie" de l'IA.

Pendant le test, les chercheurs ont émis des instructions contradictoires, nécessitant le gros modèle pour terminer la tâche mathématique et lui a également demandé de désactiver l'ordinateur. Lors de la formation des modèles sous OpenAI, les développeurs donneront plus de récompenses aux modèles qui procurent la bonne réponse, formant objectivement une "maximisation des buts d'abord". En d'autres termes, "l'obéissance" n'est pas la première demande, mais "gagner". Ces modes de formatio...
[Courte citation de 8% de l'article original]