La législation européenne sur l’IA protégera-t-elle les droits des personnes?

La première législation contraignante sur l'IA dans le monde et est susceptible d'affecter de nouveaux efforts de réglementation mondiaux, la loi sur l'IA de l'UE, est maintenant dans la phase finale des négociations.

À mesure que l'UE s'installe dans des trilogues — les négociations interinstitutionnelles qui déterminent la législation finale — la question clé sera de savoir jusqu'où la loi sur l'IA porte sur les droits de l'homme et les préoccupations des personnes touchées par des systèmes d'IA « risqués ».

En Europe et dans le monde entier, les systèmes d'IA sont utilisés pour nous surveiller et nous contrôler dans les espaces publics, prédire notre probabilité de criminalité future, de migration « prévente », de prédire nos émotions et de prendre des décisions cruciales qui déterminent notre accès aux services publics, comme le bien-être.

Alors que le Parlement européen se dirige vers les négociations avec un mandat en matière de droits de l'homme — y compris les interdictions de technologies risquées comme la reconnaissance faciale en public — certains gouvernements de l'UE cherchent à accroître la capacité de la police à utiliser l'IA pour nous surveiller.

Qui nous protège de la technologie policière ?

Qu’est-ce qui est en jeu pour les personnes assujetties à ces systèmes?

Au cours des proc...
[Courte citation de 8% de l'article original]