Bonne réponse
Explication
Azure AI Content Safety est le service correct car il fournit des API de modération de contenu intégrées qui détectent et filtrent les textes et images nuisibles ou offensants, y compris les discours de haine, la violence, l'automutilation et le contenu sexuel. L'intégration de ce service avec le chatbot Azure OpenAI garantit que les entrées utilisateur et les sorties du modèle sont examinées en temps réel, empêchant la génération de réponses inappropriées.
Pour aller plus loin
Azure AI Content Safety expose des API de catégorie pour le contenu de Haine, Violence, Sexuel et Automutilation, chacune renvoyant une gravité de 0 à 7, ainsi qu'une fonctionnalité Prompt Shields qui détecte les tentatives de jailbreak. Lorsqu'il est connecté à Azure OpenAI, le filtre de contenu s'exécute côté serveur sur l'invite et la complétion, et vous configurez des seuils de gravité par catégorie dans le déploiement ; une réponse bloquée renvoie un objet content_filter_results avec la catégorie déclenchante. Une subtilité est que les filtres sont asynchrones par rapport à la logique de votre application et peuvent rejeter une complétion en cours de flux, les clients doivent donc gérer le finish_reason de content_filter. Cela est important pour les chatbots orientés client où une seule réponse offensante crée une exposition en matière de conformité.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AI-102 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.