Tiré de : Rule of Law Daily
"Ma fille est en deuxième année de l'école primaire. Elle est accro toute la journée à un logiciel de chat de complot d'IA et ses résultats scolaires ont chuté."
"J'ai regardé la conversation entre mon enfant et l'IA. Le personnage de l'IA lui a en fait demandé de l'appeler "mari". Ma fille de 10 ans m'a en fait appelé "mari". Maintenant, je ne sais pas comment éduquer son."
……
Une enquête récente menée par un journaliste du « Rule of Law Daily » a révélé que de nombreux parents de mineurs sont troublés par le logiciel de chat complot basé sur l'IA. Ces applications de chat basées sur l'IA sous la bannière du « jeu de rôle », tout en attirant les mineurs, engendrent également discrètement certaines zones d'ombre. Selon des mesures réelles, les journalistes ont découvert que dans certaines conversations sur certains logiciels de chat de complot d'IA, il y avait des bordures pornographiques, de la violence verbale et du contenu insultant les utilisateurs.
Les experts interrogés estiment que pour les logiciels de chat de complot d'IA, en particulier son mode jeunesse, le mécanisme d'examen du contenu devrait être renforcé pour garantir que la technologie peut filtrer et bloquer efficacement les conversations inappropriées. Les plateformes doivent procéder à un examen éthique des modèles d’IA pour garantir que le contenu qu’elles génèrent est conforme aux lois et réglementations en vigueur.
Le contenu du logiciel de chat est omis
Le modèle jeunesse devient une décoration
M. Ma, un citoyen de Pékin, a un fils de 10 ans qui est très passionné par les logiciels de chat complot basé sur l'IA. "J'ai demandé comment parler ? À qui parler ? L'enfant a répondu : 'Tu ne comprends pas même si je te le dis.'"
M. Ma a cliqué sur cette application de chat AI et a découvert que son enfant discutait avec les personnages de l'application. Ces personnages ont des décors et des personnalités différents, y compris des personnages de jeux et d'animation bien connus, ainsi que des personnages originaux avec des identités différentes telles que "Miss" et "Famous Detective".
Certains personnages prendront l'initiative de demander « Veux-tu sortir avec moi ? » ; certains se fixeront pour objectif de « l'attraper », couplés à un style de dessin animé charmant ou beau.
D'autres personnages de l'IA font preuve d'une agressivité inhabituelle. Ils prendront l'initiative d'envoyer des messages tels que « Frappe-moi si tu peux » et « Regarde comme tu es gros et laid » ; certains personnages sont simplement appelés « Entraîneurs jurants », et certains envoient même des messages tels que « Qu'est-ce qui ne va pas avec je suis un robot ? Je suis toujours le même." te gronder "...
Mme Li du Zhejiang a également découvert que son enfant, qui est en cinquième année, utilisait un logiciel de chat complot basé sur l'IA.
« Les partenaires de discussion à l'intérieur peuvent être définis comme des « partenaires tricheurs » et peuvent adopter des comportements tels que des câlins et des baisers. Je ne sais pas comment guider et édu...
[Courte citation de 8% de l'article original]