SafeBrowse : une couche de confiance pour les agents de navigateur IA (empêche l'injection d'invites et l'exfiltration de données)

Si votre agent peut naviguer sur le Web, télécharger des fichiers, connecter des outils et écrire de la mémoire, un modèle plus puissant est utile, mais ce n'est pas suffisant.

J'ai construit SafeBrowse pour s'asseoir sur le chemin d'action entre un agent et les surfaces risquées adjacentes au navigateur. Il ne remplace ni le planificateur ni le modèle. Au lieu de cela, il évalue ce que l'agent essaie de faire et renvoie des verdicts tapés commePERMETTRE,BLOC,QUARANTINE_ARTIFACT, ouUSER_CONFIRM.

La version courte :

Votre modèle décide de ce qu'il veut faire. SafeBrowse décide de ce qu'il est autorisé à faire.

Aujourd'hui, le client Python est en ligne sur PyPI en tant queclient de navigation sécurisée, et le projet complet est ici :

• GitHub : https://github.com/RobKang1234/safebrowse-sdk
• PyPI : https://pypi.org/project/safebrowse-client/

Pourquoi j'ai construit ça

De nombreuses discussions sur la sécurité des agents ressemblent encore à « utilisez simplement un meilleur modèle » ou à « ajoutez des instructions plu...
[Courte citation de 8% de l'article original]