C’était comme l’année où l’IA est vraiment arrivée. C'est sur nos téléphones et nos ordinateurs portables ; il s’insinue dans les infrastructures numériques et d’entreprise ; cela change la façon dont nous apprenons, travaillons et créons ; et l’économie mondiale repose sur les valorisations stratosphériques des géants du secteur privé qui rivalisent pour la contrôler.
Mais la ruée incontrôlée pour aller plus vite et plus loin pourrait anéantir l’humanité, selon l’ouvrage étonnamment lisible et terriblement plausible Si quelqu’un le construit, tout le monde meurt (Bodley Head), des informaticiens Eliezer Yudkowsky et Nate Soares, qui plaide contre la création d’une IA superintelligente capable de dépasser cognitivement l’Homo sapiens dans tous les départements. « Même une IA qui se soucie de comprendre l’univers est susceptible d’anéantir les humains comme effet secondaire », écrivent-ils, « parce que les humains ne sont pas la méthode la plus efficace pour produire des vérités… parmi toutes les manières possibles d’organiser la matière. » Ce n’est pas vraiment une lecture de Noël joyeuse, mais, alors que les machines calculent littéralement notre disparition, vous comprendrez enfin tout ce jargon technologique sur les jetons, les poids et la maximisation des préférences.
L’extinction humaine n’est pas une idée nouvelle, pense l’historien Sadiah Qureshi da...
[Courte citation de 8% de l'article original]