Premiers pas avec l'API Azure Content Safety.

Cet article a été publié dans le cadre du C# Advent 2023, vous pouvez consulter le reste des articlesici.

Plus tôt cette année, Microsoft a ajouté une nouvelle API à la suite Azure AI appelée Content Safety API. Cette API remplace l'API Content Moderator qui sera obsolète l'année prochaine et finalement retirée en 2027. Comme son nom l'indique, le but de cette API est de détecter les contenus nuisibles pour permettre aux organisations de se conformer aux réglementations et/ou d'offrir la meilleure expérience à leurs utilisateurs. utilisateurs.

L'API propose 4 types d'analyse différents :

• Analyser le texte.Analysez le texte à la recherche de contenu sexuel, de violence, de haine et d'automutilation, l'API prend en charge plusieurs langues et différents niveaux de gravité.

• Analyser l'image.Analysez les images à la recherche de contenu sexuel, de violence, de haine et d'automutilation, l'API prend en charge différents niveaux de gravité.

• Détection des risques de jailbreak.Analysez le texte pour détecter le risque d'une attaque de jailbreak sur un LLM.

• Détection de texte matériel protégé.Analyse le texte généré par l'IA pour rechercher du contenu textuel connu.

Intégration API

Dans cet article, nous nous concentrerons sur l'analyse d'images et de texte car ce sont les seules méthodes disponibles via le SDK C# pour le moment, les exemples de code proviennent d'une application de démonstration construite à l'aide de Blazor (vous pouvez trouver le codeici). Pour accéder à l'API, nous devons créer une ressource de sécurité du contenu dans le portail Azure et récupérer le point de terminaison et les clés :

Ensuite, nous ajoutons le SDK C# qui est disponible sous forme de package nuget :

Une fois le package ajouté, nous pouvons ajouter un ContentSafetyClient à l'application :

builder.Services.AddAzureClients(clientBuilder => { clientBuilder.AddContentSafetyClient(new Uri(builder.Configuration["contentSa... 
[Courte citation de 8% de l'article original]