Un outil médico-légal pour la complétion de code par porte dérobée dans les assistants IA - Help Net Security

Les développeurs s'appuient sur les assistants de codage IA pour une part croissante de leur travail quotidien, laissant les outils prédire les prochaines lignes et acceptant de nombreuses suggestions d'un simple coup d'œil. Ces outils apprennent à partir de grandes collections de code, et une partie de ce code peut être falsifiée avant le début de la formation. Un exemple empoisonné apprend à un modèle à écrire du code non sécurisé lorsqu'il détecte un certain signal, et la faille reste silencieuse jusqu'à ce que l'invite appropriée la déclenche.

La plupart des défenses visent à détecter rapidement cet empoisonnement, en analysant les données d’entraînement ou en analysant les résultats à la recherche de problèmes connus. Une équipe de l’Université de Louisville et de l’Université de North Texas a construit pour le moment un système appelé CodeTracer après que ces défenses aient laissé échapper quelque chose...
[Courte citation de 8% de l'article original]