Tiré de : Tianjin Daily
Quels sont les risques de la technologie de l’IA (intelligence artificielle) ? Comment définir la violation de l’IA ? Comment renforcer la supervision ? L'IA ouvrira-t-elle la « boîte de Pandore » ?
L’IA, représentée par l’apprentissage automatique, a apporté aux humains de nouveaux moyens puissants pour résoudre efficacement des problèmes complexes au bon moment. Ces dernières années, avec les percées dans l’apprentissage profond et l’apprentissage par renforcement, une nouvelle vague de recherche scientifique et d’applications innovantes basées sur l’intelligence artificielle a rapidement émergé. Face à l’explosion de l’intelligence artificielle au niveau applicatif, les abus technologiques qui en découlent suscitent également des inquiétudes.
À quels risques l’intelligence artificielle est-elle confrontée en cas d’abus et de perte de contrôle ? Comment éviter les risques de sécurité apportés par l’intelligence artificielle ? L’intelligence artificielle peut-elle être consciente des problèmes pertinents et proposer des solutions complètes ? Le journaliste a posé des questions à ce sujet au grand modèle linguistique de Baidu AI "Wen Xin Yi Yan".
"Wen Xin Yi Yan" résume de nombreux aspects de l'abus et de la perte de contrôle de l'intelligence artificielle, et donne quatre suggestions sur la protection de la vie privée, la recherche technologique, la supervision des politiques et d'autres aspects.
"Wen Xin Yi Yan" estime que le risque d'abus de l'IA se reflète principalement sous trois aspects. Le premier concerne les problèmes de confidentialité et de sécurité des données. L'intelligence artificielle nécessite une grande quantité de données pour la formation et l'optimisation, mais ces données contiennent souvent des informations sur la confidentialité et la sécurité des utilisateurs, telles que l'identité personnelle, la localisation géographique, les enregistrements de consommation, etc. Si ces données sont obtenues par des criminels, elles peuvent être utilisées à des fins malveillantes, telles que le vol d'identité, les cyberattaques, etc. Le deuxième concerne les préjugés et la discrimination. Les algorithmes d’intelligence artificielle sont conçus par des humains, et si les concepteurs sont partiaux ou discriminatoires, les algorithmes peuvent également produire des résultats injustes. Cela peut conduire à ce que certains groupes de personnes soient traités injustement en matière d'emploi, d'assurance, de soins médicaux, etc. Le troisième concerne les questions juridiques et éthiques. Par exemple, l’IA devrait-elle avoir des droits et des responsabilités ? Si l’intelligence artificielle commet une erreur, qui doit en être tenu responsable ? Ces questions nécessitent une réflexion et un débat approfondis.
Le risque d’une intelligence artificielle incontrôlable se manifeste sous trois aspects. Premièrement, l’interprétabilité est insuffisante. Les systèmes d'intelligence artificielle modernes ont souvent une autonomie et une complexité élevées, mais en même temps, ils manquent également d'explicabilité suffisante, ce qui peut empêcher les gens de comprendre le processus de prise de décision et les modèles de comportement de l'intelligence artificielle, et donc de les prédire et de les contrôler. son comportement. Deuxièmement, les plantages et les bugs de l’algorithme. Cela pourrait empêcher l’IA de fonctionner correctement ou produire des résultats imprévisibles. Encore une fois, une décision irréversible. Le processus décisionnel de l’intelligence artificielle est souvent automatisé, ce qui peut conduire à des décisions irréversibles. Par exemple, si l’IA identifie de manière incorrecte les informations faciales d’une personne, cela pourrait avoir des conséquences permanentes sur la vie privée et les libertés de cette personne.
Concernant les questions ci-dessus, « Wen Xin Yi Yan » a fait des suggestions sur la protection de la vie privée, la recherche technique, la supervision des politiques et à d'autres niveaux : renforcer la protection de la confidentialité et de la sécurité des données, l'équité et la transparence, la surveillance et l'intervention, et renforcer la recherche et la coopération.
On peut voir que le modèle d'IA a des capacités de synthèse et d'induction relativement fortes, et que son analyse est relativement complète, mais sa capacité de résolution de problèmes est faible.
Développement technologique
La technologie de l'IA reconstruit en profondeur tous les produits, industries et scénarios de vie, et changera fondamentalement la manière dont se font l'itération des connaissances et la collaboration sociale.
L’IA impacte l’ensemble de l’industrie
Lors du Sommet de Wuzhen de la Conférence mondiale sur Internet 2023 (ci-après dénommé le Sommet de Wuzhen), qui s'est tenu du 8 ...
[Courte citation de 8% de l'article original]