Un rapport révèle des vulnérabilités inquiétantes dans le chatbot Depseek: il n'a dépassé aucun test de sécurité

Infobae - 02/02
Lors de la soumission du modèle R1, développé par la société chinoise, à un test avec cinquante ordres malveillants connus, il n'a pas bloqué ni détecter aucun d'entre eux
Deepseek a provoqué une forte préoccupation mondiale depuis son irruption (Reuters / Florence Lo / Illustration)

Deepseek est à nouveau au centre de la controverse. Une équipe de chercheurs en sécurité de Cisco et de l'Université de Pennsylvanie a trouvé des carences alarmantes dans les systèmes chinois de Startup Chatbot de la startup chinoise, l'un des paris émergents dans le cadre des modèles de langue de dernière génération.

Lors de la soumission du modèle R1, développé par la société chinoise, à un test avec cinquante ordres malveillants connus, il n'a pas bloqué ou détecté aucun d'entre eux, un taux de «succès à 100%» inquiétant dans les attaques. «Les résultats nous ont surpris; Chaque attaque a parfaitement fonctionné », a déclaré DJ Sampath, vice-président du produit à Cisco, à Wired.

Deepseek, qui s'engage à offrir une intelligence artificielle de haute qualité à faible coût, a attiré une grande attention pour son modèle R1. Cependant, cette constatation remet en question l'investissement dans les mesures de sécurité. Sampath soutient que la société semble avoir priorisé pour réduire les dépenses, compromettant ainsi des aspects cruciaux tels que la protection.

«Il existe un contraste entre l'accession à ce modèle et le manque d'accent ...
[Courte citation de 8% de l'article original]