Dans la nouvelle d’Arthur C Clarke Les neuf milliards de noms de Dieu, une secte de moines du Tibet croit que l’humanité a un objectif divinement inspiré : inscrire tous les différents noms de Dieu. Une fois la liste terminée, pensaient-ils, il mettrait fin à l’univers. Après y avoir travaillé à la main pendant des siècles, les moines décident d'employer une technologie moderne. Deux ingénieurs sceptiques arrivent dans l'Himalaya, accompagnés de puissants ordinateurs. Au lieu de 15 000 ans pour écrire toutes les permutations du nom de Dieu, le travail est accompli en trois mois. Alors que les ingénieurs descendent le flanc de la montagne à poney, le récit de Clarke se termine par l’une des lignes finales les plus économiques de la littérature : « Au-dessus de nos têtes, sans aucun bruit, les étoiles s’éteignaient. »
C’est une image de l’ordinateur comme raccourci vers l’objectivité ou le sens ultime – ce qui se trouve également être, au moins en partie, ce qui anime aujourd’hui la fascination pour l’intelligence artificielle. Bien que les technologies qui sous-tendent l’IA existent depuis un certain temps, ce n’est que depuis fin 2022, avec l’émergence de ChatGPT d’OpenAI, que la technologie qui s’approche de l’intelligence semble beaucoup plus proche. Dans un rapport de 2023 de Microsoft Canada, le président Chris Barry a proclamé que « l’ère de l’IA est arrivée, ouvrant la voie à une vague de transformation susceptible de toucher toutes les facettes de nos vies » et qu’« il ne s’agit pas seulement d’un progrès technologique ; c’est un changement sociétal ». C’est l’une des réactions les plus pondérées. Les artistes et les écrivains paniquent à l’idée de devenir obsolètes, les gouvernements s’efforcent de rattraper leur retard et de réglementer, et les universitaires débattent furieusement.
Les entreprises ont hâte de se précipiter dans le train du battage médiatique. Certaines des plus grandes entreprises mondiales, dont Microsoft, Meta et Alphabet, mettent tout leur poids derrière l’IA. En plus des milliards dépensés par les grandes technologies, le financement des startups d'IA a atteint près de 50 milliards de dollars en 2023. Lors d'un événement à l'Université de Stanford en avril, le PDG d'OpenAI, Sam Altman, a déclaré qu'il ne se souciait pas vraiment de savoir si l'entreprise dépensait 50 milliards de dollars par an. IA. Une partie de sa vision est celle d'une sorte de super-assistant, qui serait un « collègue super compétent qui sait absolument tout de ma vie, chaque e-mail, chaque conversation que j'ai eue, mais qui ne se sent pas comme un super-assistant ». extension".
Mais il existe également une conviction profonde selon laquelle l’IA représente une menace. Le philosophe Nick Bostrom fait partie des voix les plus éminentes affirmant que l’IA présente un risque existentiel. Comme il l’expliquait dans son livre Superintelligence de 2014, si « nous construisions des cerveaux machines qui surpassent les cerveaux humains en termes d’intelligence générale… le sort de notre espèce dépendrait des actions de la super-intelligence machine ». La mise en garde classique ici est celle d’un système d’IA dont le seul objectif – apparemment inoffensif – est de fabriquer des trombones. Selon Bostrom, le système se rendrait rapidement compte que les humains constituent un obstacle à cette tâche, car ils pourraient éteindre la machine. Ils pourraient également utiliser les ressources nécessaires à la fabrication de davantage de trombones. Ceci est un exemple de ce que les condamnateurs de l’IA appellent le « problème de contrôle » : la peur que nous perdions le contrôle de l’IA parce que toutes les défenses que nous y avons intégrées seraient détruites par une intelligence qui a des millions de pas d’avance sur nous.
Avant de céder davantage de terrain à nos seigneurs de la technologie, il convient de rappeler le milieu des années 1990 et l’arrivée du World Wide Web. Cela aussi s’est accompagné d’affirmations profondes d’une nouvelle utopie, d’un monde connecté dans lequel les frontières, les différences et les privations prendraient fin. Aujourd’hui, il serait difficile d’affirmer qu’Internet est une sorte de bien qui ne pose aucun problème. Le fantasme s’est réalisé ; nous pouvons emporter dans nos poches les connaissances du monde entier. Cela a eu pour effet plutôt étrange de rendre les gens un peu fous, de favoriser le mécontentement et la polarisation, de favoriser une nouvelle poussée de l’extrême droite et de déstabiliser la démocratie et la vérité.
Il ne s’agit pas simplement de résister à la technologie ; après tout, cela peut aussi avoir des effets libérateurs. Au contraire, lorsque les grandes technologies apportent des cadeaux, vous devriez probablement regarder attentivement ce qu’il y a dans la boîte.
Ce que nous appelons actuellement l’IA se concentre principalement sur les grands modèles de langage, ou LLM. Les modèles reçoivent d’énormes ensembles de données – ChatGPT a essentiellement aspiré l’ensemble de l’Internet public – et sont formés pour y trouver des modèles. Les unités de s...
[Courte citation de 8% de l'article original]