Nous attendons des professionnels de la santé qu'ils nous fournissent des informations fiables sur nous-mêmes et sur les traitements potentiels afin que nous puissions prendre des décisions éclairées sur le médicament (le cas échéant) ou toute autre intervention dont nous avons besoin. Si votre médecin vous « raconte des conneries » (oui – ce terme a été utilisé dans des publications universitaires pour désigner la persuasion sans égard à la vérité, et non comme un gros mot) sous la tromperie d’un avis médical faisant autorité, les décisions que vous prendrez pourraient être fondées sur sur des preuves erronées et peut entraîner des blessures, voire la mort.
Les conneries sont différentes du mensonge : les menteurs se soucient de la vérité et tentent activement de la cacher. En effet, les conneries peuvent être plus dangereuses qu’un pur mensonge. Heureusement, bien sûr, les médecins n’ont pas tendance à faire des conneries – et s’ils le faisaient, il y aurait, on l’espère, des conséquences de la part des organismes d’éthique ou de la loi. Mais que se passerait-il si l’avis médical trompeur ne provenait pas d’un médecin ?
À l’heure actuelle, la plupart des gens ont entendu parler de ChatGPT, un chatbot très puissant. Un chatbot est une interface basée sur un algorithme qui peut imiter l'interaction humaine. Le recours aux chatbots est de plus en plus répandu, notamment pour des conseils médicaux.
Lire la suite : La plus grande réussite de ChatGPT pourrait bien être sa capacité à nous faire croire qu'il est honnête
Dans un article récent, nous avons examiné les perspectives éthiques sur l’utilisation des chatbots pour les conseils médicaux. Désormais, même si ChatGPT, ou des plateformes similaires, peuvent être utiles et fiables pour découvrir les meilleurs endroits à visiter à Dakar, pour en savoir plus sur la faune ou pour obtenir des résumés rapides d'autres sujets d'intérêt, mettre votre santé entre ses mains peut être jouer à la roulette russe : vous pourriez avoir de la chance, mais peut-être pas.
En effet, les chatbots comme ChatGPT tentent de vous persuader sans se soucier de la vérité. Sa rhétorique est si convaincante que les lacunes dans la logique et les faits sont obscurcies. Cela signifie en fait que ChatGPT inclut la génération de conneries.
Le problème est que ChatGPT n’est pas vraiment une intelligence artificielle dans le sens où il reconnaît réellement ce que vous demandez, y réfléchit, vérifie les preuves disponibles et donne une réponse justifiée. Au lieu de cela, il examine les mots que vous prononcez, prédit une réponse qui semblera plausible et fournit cette réponse.
Ceci est quelque peu similaire à la fonction de texte prédictif que vous avez peut-être utilisée sur les téléphones mobiles, mais en beaucoup plus puissante. En effet, cela peut fournir des conneries très convaincantes : souvent exactes, mais parfois non. C’est bien si vous recevez de mauvais conseils à propos d’un restaurant, mais c’est vraiment très mauvais si vous êtes assuré que votre grain de beauté étrange n’est pas cancéreux alors qu’il l’est.
Une autre façon d’envisager les choses est du point de vue de la logique et de la rhétorique. Nous souhaitons que nos conseils médicaux soient scientifiques et logiques, partant des preuves jusqu'à des recommandations personnalisées concernant notre santé. En revanche, ChatGPT veut paraître convaincant même s’il dit des conneries.
Par exemple, lorsqu’on lui demande de citer ses affirmations, ChatGPT fait souvent référence à de la littérature qui n’existe pas, même si le texte fourni semble parfaitement légitime. Feriez-vous confiance à un médecin qui ferait ça ?
Maintenant, vous pourriez penser que le Dr ChatGPT est au moins meilleur que le Dr Google, que les gens utilisent également pour essayer de s'auto-diagnostiquer.
Contrairement aux nombreuses informations fournies par le Dr Google, les chatbots comme ChatGPT donnent très rapidement des réponses concises. Bien sûr, le Dr Google peut également être la proie de la désinformation, mais il ne cherche pas à paraître convaincant.
Utiliser Google ou d’autres moteurs de recherche pour identifier des informations de santé vérifiées et fiables (par exemple celles de l’Organisation mondiale de la santé) peut être très bénéfique pour les citoyens. Et même si Google est connu pour capturer et enregistrer les données des utilisateurs, telles que les termes utilisés dans les recherches, l’utilisation de chatbots pourrait s’avérer pire.
Lire la suite : ChatGPT est un cauchemar en matière de confidentialité des données. Si vous avez déjà posté en ligne, vous devriez vous inquiéter
En plus d’être potentiellement trompeurs, les chatbots peuvent enregistrer des données sur votre état de santé et demander activement davantage d’informations personnelles, conduisant à des conneries plus personnalisées – et peut-être plus précises. C’est là que réside le dilemme. Fournir plus d’informations aux chatbots peut conduire à des réponses plus précises, mais donne également davantage d’informations personnelles liées à la santé. Cependant, tous les chatbots ne ressemblent pas à ChatGPT. Certains peuvent être plus spécifiquement conçus pour être utilisés en milieu médical, et les avantages de leur utilisation peuvent l’emporter sur les inconvénients potentiels.
Alors que faire si vous êtes tenté d’utiliser ChatGPT pour un avis médical malgré toutes ces conneries ?
La première règle est : ne l’utilisez pas.
Mais si vous le faites, la deuxième règle est que vous devez vérifier l’exactitude de la réponse du chatbot – l’avis médical fourni peut être vrai ou non. Le Dr Google peut, par exemple, vous orienter vers des sources fiables. Mais si vous comptez le faire quand même, pourquoi risquer de recevoir des conneries en premier lieu ?
La troisième règle est de fournir des informations aux chatbots avec parcimonie. Évidemment, plus vous proposez de données personnalisées, meilleurs sont les conseils médicaux que vous obtenez. Et il peut être difficile de dissimuler des informations, car la plupart d’entre nous renoncent de toute façon volontairement aux informations sur les téléphones portables et sur divers sites Web. De plus, les chatbots peuvent également en demander plus. Mais davantage de données pour les chatbots comme ChatGPT pourraient également conduire à des conseils médicaux inexacts plus convaincants, voire personnalisés.
Dire des conneries et utiliser à mauvais escient des données personnelles n’est certainement pas notre idée d’un bon médecin.