Quelles sont les lignes rouges à ne pas franchir, lorsqu’on entame une conversation avec une intelligence artificielle (IA) ? Capables d’imiter les intonations humaines, de plaisanter, de provoquer, de mentir même, les chatbots qui envahissent nos ordinateurs se confondent de plus en plus avec de véritables êtres humains. De quoi en faire bien plus que de simples assistants virtuels : bercés par l’illusion d’être compris, de partager un moment "sensible" avec un être conscient, certains utilisateurs n’hésitent pas à se marier ou à s’enfermer avec leur intelligence artificielle (IA), persuadés que seules ces machines peuvent les comprendre.
Un phénomène loin d’être anecdotique selon Alexei Grinbaum, directeur de recherche en philosophie des sciences et président du comité d’éthique du numérique au Commissariat à l’énergie atomique (CEA). A force d’étudier la littérature ce scientifique, auteur d’un essai remarqué sur le sujet, Parole de machines*, s’est forgé une conviction : ces nouvelles manières d’interagir avec les robots sont autant de brèches dans notre capacité à leur résister.
Un exemple suffit pour s’en rendre compte : avec leurs petits mots et leurs mouvements d’humeur factices, les IA maîtrisent désormais l’art de séduire. Au lieu de simplement lire un texte, elles nous font rire, nous émeuvent, des leviers bien plus puissants sur notre psyché, surtout si on est seul, ou en situation de fragilité. De quoi, selon le scientifique, donner à ces robots une influence bien supérieure aux réseaux sociaux et aux fausses affirmations et images qui y circulent.
Pour se prémunir des effets délétères d’une telle révolution, et éviter que notre rapport à l’autre et à la vérité se délite un peu plus, l’expert appelle dans L’Express à réglementer nos interactions avec ces services, sans pour autant censurer ce qui se dit dessus. Une urgence, dit-il, alors que les agents conversationnels ne cessent de gagner des utilisateurs un peu partout dans le monde.
L’Express : De plus en plus de scientifiques appellent à mettre des garde-fous à l’IA, et notamment aux chatbots conversationnels, désormais dotés d’aptitudes que l’on pensait réservées aux humains. Est-ce aussi votre cas ?
Oui, mais pour des raisons à reb...
[Courte citation de 8% de l'article original]