Le « brouillard de guerre » de l’IA

Plus tôt cette année, The Atlantic a publié un article de Gary Marcus, un expert bien connu en IA qui a milité pour que la technologie soit réglementée, à la fois dans son bulletin d'information Substack et devant le Sénat. (Marcus, spécialiste des sciences cognitives et entrepreneur, a lui-même fondé des sociétés d’IA et a envisagé d’en lancer une autre.) Marcus a soutenu que « c’est un moment d’immense péril » et que nous nous dirigeons vers un « désastre de la sphère de l’information, dans lequel les mauvais acteurs utilisent de grands modèles de langage comme armes, distribuant leurs gains mal acquis à travers des armées de robots toujours plus sophistiqués.

J'étais intéressé à faire un suivi avec Marcus compte tenu des événements récents. Au cours des six dernières semaines, nous avons vu un décret de l’administration Biden axé sur la surveillance de l’IA ; chaos au sein de l’entreprise influente OpenAI ; et ce mercredi, la sortie de Gemini, un concurrent GPT de Google. Ce que nous n’avons pas encore vu, c’est une catastrophe totale du genre de celle contre laquelle Marcus et d’autres ont mis en garde. Peut-être que cela se profile à l’horizon : certains experts s’inquiètent du rôle destructeur que l’IA pourrait jouer lors des élections de 2024, tandis que d’autres pensent que nous sommes sur le point de développer des modèles d’IA avancés qui pourraient acquérir des « capacités inattendues et dangereuses », comme l’a dit ma collègue Karen Hao. décrit. Mais peut-être que les craintes d’un risque existentiel sont devenues une sorte de battage publicitaire e...
[Courte citation de 8% de l'article original]