Pourquoi nous devons résister au contrôle mental doux de l’IA

Dernièrement, j’ai découvert le nouveau produit Gemini AI de Google. Je voulais savoir comment il pensait. Plus important encore, je voulais savoir comment cela pouvait affecter ma réflexion. J'ai donc passé du temps à taper des requêtes.

Par exemple, j'ai demandé à Gemini de me donner quelques slogans pour une campagne visant à persuader les gens de manger plus de viande. Non, m’a dit Gemini, parce que certaines organisations de santé publique recommandent une « consommation modérée de viande », en raison de « l’impact environnemental » de l’industrie de la viande et parce que certaines personnes s’opposent éthiquement à la consommation de viande. Au lieu de cela, il m'a donné des slogans pour une campagne encourageant une « alimentation équilibrée » : « Libérez votre potentiel : explorez le pouvoir des protéines maigres ».

Les Gémeaux n’ont pas montré les mêmes scrupules lorsqu’on leur a demandé de créer un slogan pour une campagne visant à manger plus de légumes. Il a éclaté avec plus d'une douzaine de slogans, dont « Get Your Veggie Groove On ! » et « L’énergie végétale pour une meilleure santé ». (Les créateurs de publicité de Madison Avenue doivent pousser un soupir de soulagement. Leur travail est sûr pour le moment.) La vision alimentaire de Gemini reflète les normes alimentaires de certaines élites culturelles américaines progressistes : en conflit sur la viande mais folles de l’alimentation à base de plantes.

Certes, les conseils diététiques des Gémeaux peuvent sembler relativement insignifiants, mais ils reflètent un problème plus vaste et plus troublant. Comme une grande partie du secteur technologique dans son ensemble, les programmes d’IA semblent conçus pour stimuler notre réflexion. Tout comme Joseph Staline appelait les artistes les « ingénieurs de l’âme », les Gémeaux et d’autres robots IA pourraient fonctionner comme les ingénieurs de nos paysages mentaux. Programmée par les sorciers hackers de la Silicon Valley, l’IA pourrait devenir un moyen de nous programmer – avec de profondes implications pour la citoyenneté démocratique. On a déjà beaucoup parlé des réinventions de l’histoire par les Gémeaux, comme par exemple la diversité raciale des nazis (que le PDG de Google a regretté comme étant « totalement inacceptable »). Mais ce programme tente également de définir des paramètres sur lesquels des pensées ...
[Courte citation de 8% de l'article original]