FacileChoix unique

Question d'entraînement AI-102

Vous développez une application d'IA générative qui doit se conformer aux principes d'IA responsable. Quel service Azure AI devez-vous utiliser pour détecter et filtrer le contenu nuisible à la fois dans les invites (prompts) d'entrée et dans les réponses générées en sortie ?

Choisissez la meilleure réponse.

Bonne réponse

  • BAzure AI Content Safety

Explication

Azure AI Content Safety est le service Azure dédié à la détection et au filtrage de contenus nuisibles tels que les discours haineux, la violence, l'automutilation et le contenu sexuel, à la fois dans les invites des utilisateurs et dans les réponses générées par l'IA. Il fournit des niveaux de sévérité configurables et s'intègre directement aux flux de travail d'IA générative pour appliquer les politiques d'IA responsable, ce qui en fait le choix correct pour cette exigence.

Pourquoi chaque option est juste ou fausse

A

Fausse

Microsoft Purview

Microsoft Purview gère la découverte, la classification et la conformité des données dans l'ensemble des patrimoines ; il n'examine pas les invites et les compléments en direct pour y déceler du contenu nuisible. Purview convient aux scénarios de gouvernance et d'audit des données, et non à la modération en temps d'exécution des interactions d'IA générative.

B

Juste

Azure AI Content Safety

Azure AI Content Safety fournit des API de modération dédiées qui classent le contenu nuisible dans des catégories telles que la haine, la violence et l'automutilation, en les appliquant à la fois aux invites et aux réponses générées. Cela satisfait directement l'exigence d'IA responsable de détecter et de filtrer le contenu nuisible à l'entrée et à la sortie, ce que les services de langage généraux ne couvrent pas.

C

Fausse

Azure OpenAI Service

Azure OpenAI Service héberge et génère des réponses de modèles mais ne fournit pas lui-même la capacité de modération autonome ; le filtrage de contenu est assuré par Azure AI Content Safety. Azure OpenAI convient à la construction de l'application générative, et non au service de détection de contenu nuisible dédié requis par le scénario.

D

Fausse

Azure AI Language

Azure AI Language effectue des tâches de TAL telles que l'analyse des sentiments, l'extraction d'expressions clés et la reconnaissance d'entités ; il ne contient aucun classifieur de modération de contenu pour les invites ou les réponses. Il est tentant car il traite du texte à grande échelle, mais ce serait le bon choix pour extraire des informations à partir de documents, et non pour détecter du contenu haineux, violent, sexuel ou d'automutilation dans un pipeline génératif.

Pour aller plus loin

Azure AI Content Safety expose une détection basée sur des catégories pour le contenu haineux, violent, sexuel et d'automutilation, ainsi que des boucliers d'invites (prompt shields) contre les attaques par contournement (jailbreak) et l'injection indirecte d'invites, ainsi qu'une détection de fondement (groundedness) pour les vérifications d'hallucination. Il est invoqué en tant que point de terminaison REST ou appel SDK qui renvoie des scores de sévérité par catégorie, permettant à l'application de bloquer, signaler ou acheminer le contenu avant qu'il n'atteigne le modèle et à nouveau sur le chemin de réponse. Les filtres de contenu intégrés d'Azure OpenAI s'appliquent aux déploiements de ce service, mais une application autonome ou multi-modèle nécessite la ressource Content Safety indépendante pour une politique cohérente entre les fournisseurs. Purview régit la conformité du patrimoine de données et Azure AI Language gère les tâches de TAL (NLP) telles que l'extraction d'entités, de sorte qu'aucun d'eux n'effectue de classification de contenu nuisible en temps réel sur les invites et les compléments.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-102 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.