MédiaMúltipla escolha

Questão de prática de AI-102

Uma empresa usa o Azure OpenAI para gerar cópias de marketing. Eles querem garantir que o conteúdo gerado não contenha linguagem ofensiva. Qual recurso eles devem habilitar?

Escolha a melhor resposta.

Resposta correta

  • DHabilitar a filtragem de conteúdo no nível de implantação.

Explicação

O Azure OpenAI fornece filtragem de conteúdo integrada no nível de implantação que detecta e bloqueia automaticamente linguagem ofensiva ou prejudicial tanto em prompts de entrada quanto em saídas geradas. Esse recurso usa os modelos de IA Responsável da Microsoft para aplicar políticas de segurança sem exigir código personalizado ou revisão manual, tornando-se a solução mais confiável e escalável para prevenir conteúdo ofensivo em cópias de marketing.

Por que cada alternativa está certa ou errada

A

Incorreta

Usar o DALL-E para gerar imagens em vez de texto.

O DALL-E produz imagens, não cópias de marketing, portanto não pode filtrar linguagem ofensiva em texto gerado. Isso tenta porque mudar de modalidade parece evitar o risco baseado em texto, e o DALL-E estaria correto se a entrega fossem ativos visuais, como banners ou ilustrações, em vez de texto escrito.

B

Incorreta

Usar uma mensagem de sistema instruindo o modelo a evitar linguagem ofensiva.

Uma mensagem de sistema apenas direciona o tom e o estilo por meio de comandos; ela não pode garantir a filtragem, já que o modelo ainda pode emitir linguagem ofensiva. Isso tenta porque as mensagens de sistema são a maneira padrão de moldar o comportamento, e seriam a escolha certa para controlar a formatação, a persona ou a voz da marca, em vez de impor a segurança do conteúdo.

C

Incorreta

Habilitar o registro de diagnóstico para revisar todas as saídas.

O registro de diagnóstico grava prompts e conclusões para auditoria após a geração; ele não bloqueia que linguagem ofensiva chegue aos usuários. Isso tenta porque o registro apoia investigações de conformidade e seria a escolha certa quando o requisito é rastreabilidade ou revisão pós-incidente, em vez de prevenção no momento da geração.

D

Correta

Habilitar a filtragem de conteúdo no nível de implantação.

A filtragem de conteúdo no nível de implantação aplica os modelos de classificação do Azure OpenAI tanto aos prompts quanto às conclusões, bloqueando categorias de ódio, violência, sexual e automutilação. Isso atende diretamente ao requisito de que a cópia de marketing gerada não deve conter linguagem ofensiva, impondo a restrição em cada solicitação roteada por meio dessa implantação.

Para se aprofundar

A filtragem de conteúdo do Azure OpenAI é executada por padrão no serviço e é configurada por implantação por meio de filtros de conteúdo que atribuem limites de gravidade (baixo, médio, alto) a quatro categorias de dano: ódio, sexual, violência e automutilação. O filtro avalia tanto o prompt quanto a conclusão, podendo bloquear, anotar ou permitir o conteúdo dependendo do limite. Uma sutileza: as mensagens do sistema são orientações suaves que o modelo pode ignorar, e o registro de diagnóstico apenas registra a atividade após a geração, portanto, nenhuma das duas impede a saída ofensiva. Na prática, uma equipe de marketing que implanta o GPT-4o para a geração de cópias deve apertar as categorias de ódio e sexual para gravidade baixa na implantação para que as conclusões que excedam os limites retornem um erro content_filter em vez de publicar texto ofensivo.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-102 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.