MoyenneChoix unique

Question d'entraînement AI-102

Une entreprise crée un chatbot utilisant Azure OpenAI Service pour répondre aux demandes des clients. Le chatbot ne doit pas générer de contenu nuisible ou offensant. Quel service Azure AI doit être intégré pour filtrer le contenu inapproprié ?

Choisissez la meilleure réponse.

Bonne réponse

  • CAzure AI Content Safety

Explication

Azure AI Content Safety est le service correct car il fournit des API de modération de contenu intégrées qui détectent et filtrent les textes et images nuisibles ou offensants, y compris les discours de haine, la violence, l'automutilation et le contenu sexuel. L'intégration de ce service avec le chatbot Azure OpenAI garantit que les entrées utilisateur et les sorties du modèle sont examinées en temps réel, empêchant la génération de réponses inappropriées.

Pourquoi chaque option est juste ou fausse

A

Fausse

Azure Bot Service

Azure Bot Service héberge et canalise les bots conversationnels ; il n'effectue aucune modération de contenu sur la sortie du modèle. C'est tentant car le chatbot lui-même s'exécute sur un framework de bot, mais l'exigence concerne le filtrage des invites et des complétions, ce qu'Azure AI Content Safety fournit via des catégories et des seuils de gravité.

B

Fausse

Azure Cognitive Search

Azure Cognitive Search indexe et récupère des documents pour étayer les réponses ; il n'applique aucune classification de danger aux invites ou aux complétions. C'est tentant car les chatbots augmentés par la récupération s'appuient dessus, mais l'exigence énoncée est de bloquer les sorties offensantes, ce qu'Azure AI Content Safety effectue.

C

Juste

Azure AI Content Safety

Azure AI Content Safety fournit des modèles de modération dédiés qui détectent les contenus nuisibles, violents, haineux et sexuels dans les invites et les complétions. L'intégrer filtre les sorties générées inappropriées, satisfaisant l'exigence selon laquelle le chatbot ne doit pas produire de réponses offensantes.

D

Fausse

Azure Form Recognizer

Form Recognizer extrait des champs structurés de documents tels que des factures et des formulaires ; il n'inspecte pas le texte généré à la recherche de contenu nuisible. C'est tentant lorsque le chatbot doit analyser des documents téléchargés, mais le filtrage des complétions offensantes nécessite les catégories de modération de texte d'Azure AI Content Safety.

Pour aller plus loin

Azure AI Content Safety expose des API de catégorie pour le contenu de Haine, Violence, Sexuel et Automutilation, chacune renvoyant une gravité de 0 à 7, ainsi qu'une fonctionnalité Prompt Shields qui détecte les tentatives de jailbreak. Lorsqu'il est connecté à Azure OpenAI, le filtre de contenu s'exécute côté serveur sur l'invite et la complétion, et vous configurez des seuils de gravité par catégorie dans le déploiement ; une réponse bloquée renvoie un objet content_filter_results avec la catégorie déclenchante. Une subtilité est que les filtres sont asynchrones par rapport à la logique de votre application et peuvent rejeter une complétion en cours de flux, les clients doivent donc gérer le finish_reason de content_filter. Cela est important pour les chatbots orientés client où une seule réponse offensante crée une exposition en matière de conformité.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-102 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.