MédiaMúltipla escolha

Questão de prática de AIF-C01

Um desenvolvedor está construindo um chatbot usando o Amazon Bedrock e o Claude. Ele percebe que o modelo às vezes gera respostas nocivas ou tendenciosas. Qual serviço da AWS ele pode usar para implementar barreiras de proteção (guardrails)?

Escolha a melhor resposta.

Resposta correta

  • DAmazon Bedrock Guardrails

Explicação

O Amazon Bedrock Guardrails é a escolha correta porque é um recurso nativo do Amazon Bedrock projetado especificamente para implementar controles de segurança, filtros de conteúdo e políticas de tópicos para modelos de fundação como Claude. Ele permite que os desenvolvedores definam tópicos negados, filtrem conteúdo nocivo (por exemplo, discurso de ódio, violência) e redijam informações sensíveis, atendendo diretamente à necessidade de evitar respostas nocivas ou tendenciosas em um chatbot construído no Bedrock.

Por que cada alternativa está certa ou errada

A

Incorreta

AWS WAF

O AWS WAF filtra o tráfego HTTP/S na camada de aplicação usando listas de controle de acesso web, mas as respostas nocivas ou tendenciosas do chatbot se originam da saída de inferência do grande modelo de linguagem, e não de solicitações web entrantes. É tentador porque o WAF é comumente usado para bloquear payloads maliciosos e injeção de SQL, o que seria a escolha correta se o problema fosse um invasor enviando entradas criadas para explorar o modelo, em vez do próprio modelo gerando conteúdo indesejável.

B

Incorreta

Amazon GuardDuty

O GuardDuty detecta ameaças em contas e cargas de trabalho por meio de logs; ele não pode filtrar ou bloquear prompts e conclusões do modelo. É tentador porque seu nome sugere a proteção de IA, mas o Bedrock Guardrails é o serviço que aplica filtros de conteúdo e tópicos negados à entrada e saída do modelo.

C

Incorreta

AWS Shield

O AWS Shield fornece proteção contra DDoS nas camadas de rede e de borda; ele não pode inspecionar o conteúdo de prompts ou conclusões em busca de saídas nocivas ou tendenciosas. É tentador porque é um serviço de segurança, mas o Bedrock Guardrails aplica filtros de conteúdo e negação de tópicos às interações com o modelo.

D

Correta

Amazon Bedrock Guardrails

O Amazon Bedrock Guardrails aplica filtros de conteúdo configuráveis, tópicos negados e filtros de palavras diretamente à inferência do modelo, bloqueando saídas nocivas ou tendenciosas antes que cheguen aos usuários. Ele atende ao requisito do enunciado para barreiras de proteção em um chatbot Claude hospedado no Bedrock, ao contrário de serviços de moderação independentes que exigiriam integração personalizada fora do fluxo de invocação do Bedrock.

Para se aprofundar

O Amazon Bedrock Guardrails fornece salvaguardas configuráveis para aplicações de IA gerenerativa, incluindo filtros de conteúdo para ódio, violência e conteúdo sexual, tópicos negados, filtros de palavras e filtros de informações sensíveis. Ele opera no nível de inferência, avaliando tanto os prompts quanto as respostas do modelo em relação às políticas definidas em uma barreira de proteção. Isso é distinto do AWS WAF, que protege aplicativos web contra explorações comuns, do Amazon GuardDuty, que detecta ameaças usando logs, e do AWS Shield, que mitiga ataques DDoS. Um cenário realista é um chatbot voltado para o cliente onde o desenvolvedor anexa uma barreira de proteção ao agente Bedrock ou à invocação do modelo; se o modelo gerar texto tendencioso, a barreira bloqueia ou mascara a resposta, garantindo a conformidade com políticas de IA responsável sem modificar o modelo subjacente.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AIF-C01 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.