DifícilMúltipla escolha

Questão de prática de AI-102

Sua empresa usa o Azure OpenAI Service para gerar descrições de produtos. Você precisa garantir que o conteúdo gerado não inclua linguagem ofensiva e siga os princípios de IA responsável. O que você deve implementar?

Escolha a melhor resposta.

Resposta correta

  • BConfigurar filtros de conteúdo no Azure OpenAI

Explicação

Os filtros de conteúdo no Azure OpenAI permitem definir categorias (por exemplo, hate, violence, self-harm) e níveis de gravidade (low, medium, high) para bloquear ou sinalizar automaticamente linguagem ofensiva nas saídas geradas. Isso impõe diretamente os princípios de IA responsável, impedindo que conteúdo prejudicial seja exibido aos usuários, sem exigir o retreinamento do modelo ou alterações na criptografia.

Por que cada alternativa está certa ou errada

A

Incorreta

Habilitar a criptografia com chave gerenciada pelo cliente

As chaves gerenciadas pelo cliente criptografam os dados em repouso no recurso do Azure OpenAI; elas não têm efeito sobre o texto que o modelo gera. A criptografia em repouso é o controle correto quando os requisitos regulatórios exigem a propriedade da chave, e não quando o objetivo é filtrar saídas ofensivas.

B

Correta

Configurar filtros de conteúdo no Azure OpenAI

A configuração de filtros de conteúdo no Azure OpenAI aplica triagem baseada em gravidade nas categorias hate, violence, sexual e self-harm tanto em prompts quanto em conclusões, bloqueando saídas ofensivas antes que cheguem aos usuários. Isso atende diretamente ao requisito do enunciado de prevenir linguagem ofensiva e defender os princípios de IA responsável, ao contrário da engenharia de prompt ou moderação aplicada após a geração.

C

Incorreta

Ajustar com precisão (fine-tune) o modelo com um conjunto de dados selecionado

O ajuste fino molda o tom, o formato e o vocabulário de domínio; ele não impõe a segurança do conteúdo, pois um conjunto de dados selecionado não pode garantir que as saídas evitem linguagem ofensiva. Os filtros de conteúdo são o mecanismo que bloqueia categorias prejudiciais. O ajuste fino é correto ao adaptar o estilo ou a precisão da tarefa, mas não para barreiras de proteção de IA responsável.

D

Incorreta

Definir limites de uso e limitação de taxa (throttling)

Os limites de uso e o throttling limitam o volume de solicitações e o consumo de tokens para controlar custos e abusos; eles não inspecionam nem bloqueiam conteúdo ofensivo dentro de uma resposta. O throttling é correto ao proteger a cota ou evitar gastos excessivos, e não para impor políticas de conteúdo de IA responsável.

Para se aprofundar

Os filtros de conteúdo do Azure OpenAI executam-se como uma camada de classificação independente tanto no prompt quanto na conclusão, pontuando categorias como hate, violence, sexual e self-harm em vários níveis de gravidade. O filtro padrão bloqueia o conteúdo de alta gravidade e pode ser personalizado por implantação, com opções para anotar ou bloquear em cada limite. Como a filtragem ocorre fora dos pesos do modelo, ela se aplica de forma consistente até mesmo em implantações ajustadas (fine-tuned) e retorna um erro ou uma resposta filtrada quando acionada. Este é o controle correto para evitar saídas ofensivas; a criptografia protege os dados em repouso, o ajuste fino (fine-tuning) molda o comportamento, mas não garante segurança, e a limitação de taxa (throttling) gerencia a carga em vez do conteúdo. Um cenário realista é um gerador de descrições de produtos voltado para o cliente, no qual uma injeção de prompt tenta extrair texto abusivo e o filtro o intercepta antes que chegue ao usuário.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-102 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.