Bonne réponse
Explication
Azure AI Content Safety est le service Azure dédié à la détection et au filtrage de contenus nuisibles tels que les discours haineux, la violence, l'automutilation et le contenu sexuel, à la fois dans les invites des utilisateurs et dans les réponses générées par l'IA. Il fournit des niveaux de sévérité configurables et s'intègre directement aux flux de travail d'IA générative pour appliquer les politiques d'IA responsable, ce qui en fait le choix correct pour cette exigence.
Pour aller plus loin
Azure AI Content Safety expose une détection basée sur des catégories pour le contenu haineux, violent, sexuel et d'automutilation, ainsi que des boucliers d'invites (prompt shields) contre les attaques par contournement (jailbreak) et l'injection indirecte d'invites, ainsi qu'une détection de fondement (groundedness) pour les vérifications d'hallucination. Il est invoqué en tant que point de terminaison REST ou appel SDK qui renvoie des scores de sévérité par catégorie, permettant à l'application de bloquer, signaler ou acheminer le contenu avant qu'il n'atteigne le modèle et à nouveau sur le chemin de réponse. Les filtres de contenu intégrés d'Azure OpenAI s'appliquent aux déploiements de ce service, mais une application autonome ou multi-modèle nécessite la ressource Content Safety indépendante pour une politique cohérente entre les fournisseurs. Purview régit la conformité du patrimoine de données et Azure AI Language gère les tâches de TAL (NLP) telles que l'extraction d'entités, de sorte qu'aucun d'eux n'effectue de classification de contenu nuisible en temps réel sur les invites et les compléments.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AI-102 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.