Garde-fous d'IA pour un serveur Discord pour adolescents : le code autour de l'appel modèle

J'ai construit un robot Discord qui donne à ma fille de treize ans et à quelques-uns de ses amis un assistant IA avec qui ils peuvent parler. L'appel modèle est la ligne la moins intéressante de tout le projet. Tout ce qui mérite d'être écrit est le code qui l'entoure : l'endroit où l'IA est autorisée à s'exécuter, ce qui s'exécute avant elle et la poignée de choses qui se sont cassées en cours de route.

C'est la coupe du praticien. Si vous créez un bot pour un petit serveur privé, en particulier un serveur contenant des mineurs, voici l'architecture et les échecs spécifiques, avec les valeurs nettoyées.

Le confinement d'abord : un canal, une commande

L’instinct est de laisser le bot répondre à tout. Ne le faites pas. Un robot qui lit chaque message est bruyant, envoie un flux constant de texte utilisateur au modèle et est presque impossible à auditer. J'ai effectué l'opt-in de l'IA : un canal, une commande slash, des réponses publiques.