Resposta correta
- BConfigurar filtros de conteúdo no Azure OpenAI
Explicação
Os filtros de conteúdo no Azure OpenAI permitem definir categorias (por exemplo, hate, violence, self-harm) e níveis de gravidade (low, medium, high) para bloquear ou sinalizar automaticamente linguagem ofensiva nas saídas geradas. Isso impõe diretamente os princípios de IA responsável, impedindo que conteúdo prejudicial seja exibido aos usuários, sem exigir o retreinamento do modelo ou alterações na criptografia.
Para se aprofundar
Os filtros de conteúdo do Azure OpenAI executam-se como uma camada de classificação independente tanto no prompt quanto na conclusão, pontuando categorias como hate, violence, sexual e self-harm em vários níveis de gravidade. O filtro padrão bloqueia o conteúdo de alta gravidade e pode ser personalizado por implantação, com opções para anotar ou bloquear em cada limite. Como a filtragem ocorre fora dos pesos do modelo, ela se aplica de forma consistente até mesmo em implantações ajustadas (fine-tuned) e retorna um erro ou uma resposta filtrada quando acionada. Este é o controle correto para evitar saídas ofensivas; a criptografia protege os dados em repouso, o ajuste fino (fine-tuning) molda o comportamento, mas não garante segurança, e a limitação de taxa (throttling) gerencia a carga em vez do conteúdo. Um cenário realista é um gerador de descrições de produtos voltado para o cliente, no qual uma injeção de prompt tenta extrair texto abusivo e o filtro o intercepta antes que chegue ao usuário.
Sobre estas questões de prática
Esta é uma das questões de prática originais de AI-102 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.