En janvier, la société d’IA Anthropic a publié une nouvelle constitution pour Claude, son modèle de langage étendu (LLM) le plus avancé, qui contenait le commentaire : « Nous sommes pris dans une position difficile où nous ne voulons ni surestimer la probabilité de la patience morale de Claude, ni la rejeter d’emblée. » Un mois plus tard, le PDG d’Anthropic, Dario Amodei, a déclaré dans un podcast que son entreprise ne pouvait pas exclure la possibilité que Claude soit conscient. Le philosophe David Chalmers, qui a inventé l’expression « le difficile problème de la conscience », a déclaré qu’il existe une chance significative d’obtenir un LLM conscient d’ici une décennie. Et qu'en est-il de Claude lui-même ? Lorsqu'on lui a demandé, lors des tests, d'estimer la probabilité qu'il s'agisse d'un patient moral, c'est-à-dire que son bien-être compte en soi, il a donné des chiffres allant de 5 à 40 % et a souligné son incertitude.
Les systèmes d’IA modernes sont extraordinairement complexes et évoluent rapidement. En termes de complexité structurelle et d’échelle de calcul, selon certaines mesures, quelques-uns sont déjà à la portée d’un cerveau de souris et, aux taux de croissance récents, ils pourraient atteindre la portée d’un cerveau humain d’ici cinq à dix ans.
En construisant une IA toujours plus avancée, nous créons peut-être un nouveau type d’être – et cela pourrait être la chose la plus importante que notre espèce ait...
[Courte citation de 8% de l'article original]