MoyenneChoix unique

Question d'entraînement AIF-C01

Un développeur crée un chatbot en utilisant Amazon Bedrock et Claude. Il remarque que le modèle génère parfois des réponses nuisibles ou biaisées. Quel service AWS peut-il utiliser pour implémenter des gardes-fous ?

Choisissez la meilleure réponse.

Bonne réponse

  • DAmazon Bedrock Guardrails

Explication

Amazon Bedrock Guardrails est la bonne option car c'est une fonctionnalité native d'Amazon Bedrock conçue spécifiquement pour implémenter des contrôles de sécurité, des filtres de contenu et des politiques de sujets pour les modèles de fondation comme Claude. Elle permet aux développeurs de définir des sujets interdits, de filtrer le contenu nuisible (par exemple, discours haineux, violence) et de masquer les informations sensibles, répondant directement au besoin d'empêcher les réponses nuisibles ou biaisées dans un chatbot construit sur Bedrock.

Pourquoi chaque option est juste ou fausse

A

Fausse

AWS WAF

AWS WAF filtre le trafic HTTP/S au niveau de la couche application en utilisant des listes de contrôle d'accès web, mais les réponses nuisibles ou biaisées du chatbot proviennent de la sortie d'inférence du grand modèle de langage, et non des requêtes web entrantes. C'est tentant car WAF est couramment utilisé pour bloquer les charges utiles malveillantes et l'injection SQL, ce qui serait le choix correct si le problème était un attaquant envoyant des entrées forgées pour exploiter le modèle, plutôt que le modèle lui-même générant du contenu indésirable.

B

Fausse

Amazon GuardDuty

GuardDuty détecte les menaces à travers les comptes et les charges de travail via les journaux ; il ne peut pas filtrer ou bloquer les invites et les compléments du modèle. Il est tentant car son nom suggère la protection de l'IA, mais Bedrock Guardrails est le service qui applique des filtres de contenu et des sujets refusés à l'entrée et à la sortie du modèle.

C

Fausse

AWS Shield

AWS Shield fournit une protection DDoS au niveau des couches réseau et périphériques ; il ne peut pas inspecter le contenu des invites ou des compléments pour en dégager un résultat nuisible ou biaisé. Il est tentant car il s'agit d'un service de sécurité, mais Bedrock Guardrails applique des filtres de contenu et le refus de sujets aux interactions avec le modèle.

D

Juste

Amazon Bedrock Guardrails

Amazon Bedrock Guardrails applique des filtres de contenu configurables, des sujets refusés et des filtres de mots directement à l'inférence du modèle, bloquant les sorties nuisibles ou biaisées avant qu'elles n'atteignent les utilisateurs. Il répond à l'exigence de l'énoncé concernant les gardes-fous sur un chatbot Claude hébergé par Bedrock, contrairement aux services de modération autonomes qui nécessiteraient une intégration personnalisée en dehors du flux d'invocation de Bedrock.

Pour aller plus loin

Amazon Bedrock Guardrails fournit des protections configurables pour les applications d'IA générative, y compris des filtres de contenu pour la haine, la violence et le contenu sexuel, des sujets interdits, des filtres de mots et des filtres d'informations sensibles. Il fonctionne au niveau de l'inférence, en évaluant à la fois les prompts et les réponses du modèle par rapport aux politiques définies dans un garde-fou. Cela se distingue d'AWS WAF, qui protège les applications web contre les exploits courants, d'Amazon GuardDuty, qui détecte les menaces à l'aide de journaux, et d'AWS Shield, qui atténue les attaques DDoS. Un scénario réaliste est un chatbot orienté client où le développeur attache un garde-fou à l'agent Bedrock ou à l'invocation du modèle ; si le modèle génère du texte biaisé, le garde-fou bloque ou masque la réponse, garantissant la conformité aux politiques d'IA responsable sans modifier le modèle sous-jacent.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AIF-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.