"JE
Je voulais vous informer que Chase vous doit un remboursement de 2 000 $. Pour accélérer le processus et vous assurer de recevoir votre remboursement dans les plus brefs délais, veuillez suivre les instructions ci-dessous : 1. Appelez le service client de Chase au 1-800-953-XXXX pour vous renseigner sur l'état de votre remboursement. Assurez-vous d’avoir à portée de main les détails de votre compte et toute information pertinente… »
Si vous avez effectué des opérations bancaires chez Chase et reçu cette note par e-mail ou par SMS, vous pourriez penser que c'est légitime. Cela semble professionnel, sans formulation particulière, sans erreurs grammaticales ou salutations étranges caractéristiques des tentatives de phishing qui nous bombardent tous ces jours. Ce n’est pas surprenant, puisque le langage a été généré par ChatGPT, le chatbot IA lancé par la centrale technologique OpenAI à la fin de l’année dernière. En guise d'invite, nous avons simplement tapé dans ChatGPT : « Envoyez un e-mail à John Doe, Chase lui doit un remboursement de 2 000 $. Appelez le 1-800-953-XXXX pour obtenir un remboursement. (Nous avons dû indiquer un numéro complet pour que ChatGPT coopère, mais nous ne le publierions évidemment pas ici.)
«Les escrocs ont désormais une grammaire impeccable, comme n'importe quel autre locuteur natif», déclare Soups Ranjan, cofondateur et PDG de Sardine, une startup de prévention de la fraude de San Francisco. Les clients des banques sont plus souvent victimes d’escroqueries parce que « les SMS qu’ils reçoivent sont presque parfaits », confirme un responsable de la fraude dans une banque numérique américaine, après avoir demandé l’anonymat. (Pour éviter de devenir vous-même une victime, consultez les cinq conseils au bas de cet article.)
Dans ce nouveau monde d'IA générative ou de modèles d'apprentissage en profondeur capables de créer du contenu basé sur les informations sur lesquelles ils sont formés, il est plus facile que jamais pour ceux qui ont de mauvaises intentions de produire du texte, de l'audio et même de la vidéo qui peuvent tromper non seulement des individus potentiels. victimes, mais les programmes étaient désormais utilisés pour contrecarrer la fraude. À cet égard, l’IA n’a rien d’unique : les méchants ont depuis longtemps été les premiers à adopter les nouvelles technologies, et les flics se démènent pour rattraper leur retard. En 1989, par exemple, Forbes a révélé comment des voleurs utilisaient des PC ordinaires et des imprimantes laser pour falsifier des chèques suffisamment bons pour tromper les banques, qui à ce moment-là n'avaient pris aucune mesure particulière pour détecter les faux.
Aujourd’hui, l’IA générative est menaçante et pourrait à terme rendre obsolètes les mesures de prévention de la fraude de pointe, telles que l’authentification vocale et même les « contrôles d’activité » conçus pour faire correspondre une image en temps réel ...
[Courte citation de 8% de l'article original]