DifícilMúltipla escolha

Questão de prática de AI-900

Uma empresa usa o Azure OpenAI Service para gerar textos de marketing para postagens em redes sociais. Eles querem evitar que o modelo produza conteúdo que contenha linguagem ofensiva, estereótipos prejudiciais ou temas violentos que vão contra as diretrizes de sua marca. Qual recurso a empresa deve configurar no Azure OpenAI Service?

Escolha a melhor resposta.

Resposta correta

  • BConfiguração da filtragem de conteúdo (filtros de IA responsável)

Explicação

O Azure OpenAI Service inclui um sistema de filtragem de conteúdo integrado (filtros de IA responsável) que detecta e bloqueia automaticamente linguagem ofensiva, estereótipos prejudiciais e temas violentos tanto em prompts de entrada quanto em saídas geradas. Esse recurso impõe as diretrizes da marca sem exigir modificações personalizadas no modelo ou supervisão manual.

Por que cada alternativa está certa ou errada

A

Incorreta

Ajuste fino do modelo com um conjunto de dados personalizado

O ajuste fino treina o modelo em dados específicos para melhorar o desempenho em uma tarefa. No entanto, ele não filtra inerentemente o conteúdo censurável; o modelo ainda pode gerar texto prejudicial se os dados de ajuste fino contiverem tais padrões.

B

Correta

Configuração da filtragem de conteúdo (filtros de IA responsável)

O sistema de filtragem de conteúdo do Azure OpenAI é uma proteção integrada que rastreia automaticamente entradas e saídas em busca de categorias como ódio, violência, conteúdo sexual e automutilação. As empresas podem configurar níveis de gravidade para evitar que conteúdo indesejado seja gerado.

C

Incorreta

Aumento do limite de tokens por resposta

Aumentar o limite de tokens apenas estende o comprimento da resposta; não pode filtrar linguagem ofensiva, estereótipos ou violência, portanto as diretrizes da marca continuam sem ser aplicadas. É tentador porque os limites de tokens resolvem genuinamente conclusões truncadas ou cortadas na geração de texto longo, o que é a correção certa quando o comprimento da saída, e não a segurança do conteúdo, é a restrição.

D

Incorreta

Uso de técnicas de engenharia de prompt

A engenharia de prompt (por exemplo, adicionar instruções como 'não use linguagem imprópria') pode ajudar a guiar o modelo, mas não é um mecanismo de segurança garantido. O modelo ainda pode gerar conteúdo inadequado se a instrução não for perfeitamente seguida. A filtragem de conteúdo é a salvaguarda oficial.

Para se aprofundar

A filtragem de conteúdo do Azure OpenAI executa classificadores sobre o prompt e a conclusão, pontuando categorias como ódio, violência, conteúdo sexual e automutilação em vários níveis de gravidade. Os filtros padrão bloqueiam conteúdo de alta gravidade e anotam gravidades inferiores; você pode criar configurações de filtro personalizadas e anexá-las a uma implantação para apertar ou afrouxar os limites por categoria. A filtragem ocorre no momento da inferência, de forma independente dos pesos do modelo, aplicando-se imediatamente sem retreinamento. O ajuste fino altera o comportamento do modelo, mas não garante a recusa de saídas ofensivas, e os limites de tokens ou a formulação de prompts não aplicam políticas. Para casos de uso de segurança de marca, anexar uma política de filtro personalizada rígida à implantação é o controle confiável, e respostas bloqueadas retornam códigos de erro específicos que você pode registrar e monitorar.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.