Tiré de : Beijing Daily Client
Récemment, l'Administration du cyberespace de Chine a annoncé les « Mesures provisoires pour la gestion des services interactifs anthropomorphes d'intelligence artificielle (projet pour commentaires) » (ci-après dénommées les « Mesures »), marquant une étape clé dans le domaine de la gouvernance de l'intelligence artificielle dans mon pays. Les « Mesures » constituent non seulement une réponse opportune aux industries émergentes actuelles telles que les compagnons de l'IA et les idoles virtuelles, mais fournissent également des orientations importantes pour le développement sain, ordonné et éthique de l'industrie de l'intelligence artificielle. Dans le contexte actuel d'itération rapide de la technologie et d'expansion continue des scénarios d'application, la formulation accélérée des « Mesures » vise à équilibrer l'innovation technologique et la prévention des risques, en garantissant que le développement de l'intelligence artificielle sert toujours le bien-être humain, plutôt que de devenir un outil pour aliéner les émotions et la cognition humaines.
1. Risques potentiels des services interactifs anthropomorphes
Les services interactifs anthropomorphes pilotés par l'intelligence artificielle offrent aux utilisateurs de la compagnie, de la consultation et même du divertissement en simulant les émotions, le langage et le comportement humains. Cependant, si ce modèle d’interaction hautement anthropomorphique apporte de la commodité, il recèle également de triples risques qui ne peuvent être ignorés.
Le premier est le risque de dépendance émotionnelle et d’aliénation sociale. Le principal attrait des services interactifs anthropomorphes réside dans leur capacité à fournir une attention positive inconditionnelle et un soutien émotionnel. Ce type de pari émotionnel à sens unique et sans risque peut facilement rendre les utilisateurs psychologiquement dépendants. Par exemple, une application compagnon d’IA permet aux utilisateurs d’établir une relation intime avec un personnage virtuel « toujours actif ». Lors d’interactions à long terme avec l’IA, les utilisateurs peuvent placer leurs émotions sur le monde virtuel, entraînant une dégradation des compétences sociales réelles, en particulier un affaiblissement de la résolution des con...
[Courte citation de 8% de l'article original]