Depuis quelques mois, les cybercriminels et les petits escrocs numériques peuvent accéder à une nouvelle fonctionnalité en ligne, leur permettant d'améliorer leurs arnaques : l'intelligence artificielle (IA). À portée de main de n'importe quel internaute depuis le succès de ChatGPT, il y a quelques mois, cette technologie facilite grandement la tâche des pirates informatiques. Même si l'IA ne bouleverse pas pour autant le schéma classique des arnaques en ligne, focus sur les trois principaux risques liés à son utilisation inédite par les hackers.
Les différentes fonctionnalités de l'IA permettent notamment aux hackers de perfectionner leurs techniques de phishing. Cette méthode "d'hameçonnage" consiste à envoyer un faux e-mail à des internautes, afin de les piéger et de les conduire à rentrer des identifiants confidentiels sur un site pirate. Toutefois, certaines de ces arnaques sont parfois faciles à cerner en raison de la mauvaise qualité d'écriture ou des nombreuses fautes contenues dans le corps du courriel.
De l'histoire ancienne grâce à l'intelligence artificielle, qui propose des tournures de phrase plus crédibles et beaucoup moins d'erreurs d'orthographe. Les destinataires ont donc de quoi tomber encore plus dans le panneau... "L'IA facilite et permet une accélération du rythme des attaques", analyse Gerome Billois, expert en cybersécurité. Certains programmes, comme FraudGPT, permettent de dévoiler les e-mails qui sont en réalité frauduleux. Mais ces applications ne sont pas encore toujours abouties et leur efficacité réelle reste à démontrer.
Les utilisateurs sont aussi menacés par un autre type de tromperie : les deepfakes. À partir d'un enregistrement de quelques secondes d'une personne, des outils en ligne peuvent produire l'imitation d'un visage ou d'une voix, pouvant piéger des collaborateurs ou des proches. "Toute une industrie de petits escrocs, très bien établie en France et souvent à l'origine des campagnes de SMS malveillants" pourrait utiliser ces deepfakes pour créer de nouvelles arnaques, selon Jérome Saiz, consultant en protection des entreprises et en cybersécurité.
"Ces petits délinquants, souvent jeunes, vont assez facilement être capables d'imiter les voix", explique l'expert. Certaines affaires de ce type existent d'ailleurs déjà. Outre-Atlantique, une mère de famille américaine avait raconté en juin avoir été la cible d'une tentative d'arnaque. Un homme l'avait appelé pour lui demander une rançon, après lui avoir fait entendre l'appel à l'aide de sa fille victime d'un supposé enlèvement. L'incident s'était terminé sans dommages, mais la police avait soupçonné une escroquerie utilisant l'IA. Dans d'autres cas, des messages peuvent usurper l'identité d'un chef d'entreprise pour piéger les salariés d'un groupe et leur soutirer de l'argent.
Autre risque de l'IA générative : les entreprises craignent la fuite de données sensibles partagées par... leurs propres employés. En effet, lorsqu'ils utilisent une application d'intelligence artificielle, ceux-ci peuvent saisir des informations privées, parfois même sans s'en rendre compte. Or, toutes ces données peuvent intégrer le corpus d'apprentissage du système, et donc dévoiler des renseignements confidentiels... C'est d'ailleurs la raison pour laquelle Samsung, Apple ou Amazon ont bloqué l'application ChatGPT au sein de leur réseau professionnel.
"Cela signifie que des informations sensibles ou confidentielles pourraient se retrouver dans les résultats pour d'autres utilisateurs", indique ainsi Ran Xu, directrice de la recherche du cabinet Gartner, une structure conseillant les entreprises. Souhaitant rassurer les sociétés, OpenAI a lancé en août ChatGPT Enterprise, une version professionnelle de son robot qui n'utilise pas les conversations pour son entraînement. Go...
[Courte citation de 8% de l'article original]