FacileChoix unique

Question d'entraînement AI-102

Vous développez une application de chat qui utilise Azure OpenAI Service pour répondre aux requêtes des clients. La solution doit garantir que le modèle ne génère pas de contenu préjudiciable ou offensant. Quel service Azure AI devez-vous configurer ?

Choisissez la meilleure réponse.

Bonne réponse

  • CAzure AI Content Safety

Explication

Azure AI Content Safety est spécifiquement conçu pour détecter et filtrer le contenu préjudiciable ou offensant dans le texte et les images, ce qui en fait le service approprié à intégrer avec une application de chat Azure OpenAI pour appliquer les politiques de sécurité du contenu. Il fournit des API pour la modération du contenu, y compris le filtrage basé sur la gravité pour les catégories de haine, d'automutilation, de contenu sexuel et de violence, ce qui répond directement à l'exigence d'empêcher le modèle de générer des sorties préjudiciables.

Pourquoi chaque option est juste ou fausse

A

Fausse

Azure AI Bot Service

Azure AI Bot Service crée et canalise des bots conversationnels ; il ne filtre pas la sortie du modèle. Le filtrage de la sécurité du contenu est configuré via Azure AI Content Safety, qui applique des catégories de préjudice aux prompts et aux complétions (completions). Bot Service est tentant car il héberge des expériences de chat, mais il fournit de l'orchestration, pas de la modération.

B

Fausse

Azure AI Search

Azure AI Search indexe et récupère des documents pour l'ancrage ; il ne peut pas évaluer ou supprimer les sorties de modèles offensantes. Azure AI Content Safety fournit les filtres de catégories de préjudice. AI Search est tentant car le chat augmenté par récupération (RAG) l'utilise couramment, mais l'indexation de contenu n'a aucun rapport avec la modération des réponses générées.

C

Juste

Azure AI Content Safety

Azure AI Content Safety fournit une classification des préjudices dédiée à travers des catégories telles que la haine, la violence et l'automutilation, filtrant à la fois les prompts et les complétions (completions). Le configurer sur le point de terminaison (endpoint) Azure OpenAI applique l'exigence selon laquelle le modèle ne génère jamais de contenu préjudiciable ou offensant.

D

Fausse

Azure AI Language

Azure AI Language propose des tâches de NLP telles que l'analyse des sentiments, la reconnaissance d'entités et le résumé ; il n'intercepte pas et ne bloque pas les générations de modèles nuisibles. Azure AI Content Safety effectue ce filtrage. AI Language est tentant car il analyse le texte, mais l'analyse diffère de l'application de seuils de sécurité sur les prompts et les complétions (completions).

Pour aller plus loin

Azure AI Content Safety fournit des API de modération dédiées, incluant l'analyse de texte pour les catégories de haine, de violence, sexuelle et d'automutilation avec des seuils de gravité configurables, ainsi que des boucliers de prompts (prompt shields) et la détection d'ancrage (groundedness detection). Lorsqu'il est intégré à Azure OpenAI, des filtres de contenu peuvent être assignés à un déploiement afin que les prompts et les complétions (completions) soient évalués avant d'être renvoyés à l'application de chat. Ceci est distinct d'Azure AI Language, qui gère la reconnaissance d'entités et l'analyse des sentiments, et de Bot Service ou AI Search, qui gèrent l'orchestration des conversations et la recherche. Un scénario réaliste est un bot de support client où les tentatives de contournement (jailbreak) et les sorties offensantes doivent être bloquées et enregistrées ; Content Safety renvoie des gravités de catégorie que l'application peut utiliser pour refuser ou escalader les réponses.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-102 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.