DifficileChoix unique

Question d'entraînement AIF-C01

Une entreprise utilise Amazon Bedrock pour générer des descriptions de produits. Elle doit s'assurer que les sorties ne contiennent pas de langage offensant. Quel service doit-elle intégrer pour filtrer le contenu ?

Choisissez la meilleure réponse.

Bonne réponse

  • CBedrock Guardrails

Explication

Amazon Bedrock Guardrails est le bon choix car il est spécifiquement conçu pour appliquer des politiques de contenu pour les sorties de modèles de fondation, y compris le filtrage du langage offensant, des discours haineux et d'autres contenus nuisibles. Il s'intègre directement à Bedrock pour appliquer des filtres de sécurité personnalisables et refuser des sujets sans nécessiter de services supplémentaires ou de code personnalisé.

Pourquoi chaque option est juste ou fausse

A

Fausse

Amazon Comprehend

Amazon Comprehend effectue la détection des sentiments, des entités et de la langue ; sa détection de toxicité n'est pas le filtre de sécurité géré intégré à la sortie du modèle Bedrock. Il est tentant en tant que service NLP, mais il convient pour analyser du texte existant, et non pour filtrer les générations en ligne.

B

Fausse

Amazon Rekognition

Amazon Rekognition analyse les images et les vidéos à la recherche d'objets, de scènes et de visages, mais il lui manque la capacité de traitement du langage naturel pour analyser le texte à la recherche de langage offensant, ce qui est l'exigence de ce scénario. Il est tentant car Rekognition inclut la modération de contenu pour le contenu visuel non sécurisé, tel que des images explicites, ce qui en fait un choix plausible pour filtrer le matériel inapproprié dans un contexte différent — spécifiquement, lors de la modération d'actifs d'images ou de vidéos plutôt que de texte généré.

C

Juste

Bedrock Guardrails

Bedrock Guardrails applique des filtres de contenu configurables qui interceptent à la fois les prompts et les réponses, bloquant le langage offensant avant qu'il n'atteigne les utilisateurs. Cela satisfait l'exigence de filtrer les sorties, contrairement à l'ingénierie de prompts ou au post-traitement, car le filtrage se produit au sein même du chemin d'inférence de Bedrock.

D

Fausse

AWS WAF

AWS WAF filtre les requêtes HTTP en périphérie, en inspectant le trafic entrant, et non le texte généré par Bedrock. Il est tentant car il bloque les entrées malvereuses, mais c'est le bon choix pour protéger une application web contre des exploits tels que l'injection SQL, et non pour modérer la sortie du modèle.

Pour aller plus loin

Bedrock Guardrails applique des filtres de contenu configurables, des sujets refusés, des filtres de mots et le masquage des PII directement aux invocations de modèle, évaluant à la fois le prompt et la complétion avant que la réponse ne soit renvoyée. C'est différent d'Amazon Comprehend, qui classe le texte après coup, ou de Rekognition, qui analyse des images et des vidéos, et d'AWS WAF, qui filtre les requêtes HTTP en périphérie. Guardrails prend en charge des seuils de force pour des catégories telles que la haine, la violence et le contenu sexuel, et peut bloquer ou masquer les segments offensants. Dans un pipeline de description de produits, l'application appelle InvokeModel avec un identifiant et une version de guardrail, de sorte que la sortie offensive est interceptée en ligne plutôt que de nécessiter une étape de modération distincte qui ajoute de la latence et des coûts.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AIF-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.