MédiaMúltipla escolha

Questão de prática de AI-102

Uma empresa deseja gerar descrições de produtos personalizadas para seu site de comércio eletrônico usando o Azure OpenAI. Eles precisam garantir que a saída do modelo esteja em conformidade com as diretrizes da marca e não gere conteúdo proibido. Qual abordagem eles devem usar?

Escolha a melhor resposta.

Resposta correta

  • AUsar uma mensagem do sistema com diretrizes da marca e aplicar filtragem de conteúdo.

Explicação

O uso de uma mensagem do sistema permite incorporar diretrizes da marca diretamente no contexto da conversa, instruindo o modelo sobre o tom, estilo e conteúdo proibido. O filtragem de conteúdo do Azure OpenAI fornece uma camada de segurança adicional ao detectar e bloquear automaticamente saídas prejudiciais ou que violem políticas, garantindo a conformidade com os requisitos da marca e regulatórios.

Por que cada alternativa está certa ou errada

A

Correta

Usar uma mensagem do sistema com diretrizes da marca e aplicar filtragem de conteúdo.

Uma mensagem do sistema define instruções de comportamento persistentes, portanto, o tom da marca e as regras de tópicos proibidos se aplicam a cada conclusão, enquanto o filtro de conteúdo do Azure OpenAI bloqueia categorias prejudiciais de forma independente. Juntos, eles atendem tanto à restrição de diretrizes da marca quanto à de conteúdo proibido.

B

Incorreta

Usar engenharia de prompt com prompts negativos e ignorar a filtragem de conteúdo.

Ignorar a filtragem de conteúdo remove a salvaguarda de nível de serviço que bloqueia categorias proibidas, de modo que os requisitos de segurança da marca não podem ser atendidos independentemente da redação do prompt. Prompts negativos apenas orientam o estilo dentro da própria geração do modelo. A engenharia de prompt isolada atende ao ajuste de tom e formato onde os filtros de conteúdo padrão do Azure OpenAI já atendem ao limite de conformidade.

C

Incorreta

Fornecer exemplos de poucos disparos (few-shot) na mensagem do usuário e confiar no treinamento do modelo.

Exemplos de poucos disparos moldam o tom, mas não podem impor regras da marca ou bloquear saídas proibidas; o treinamento do modelo é fixo e inverificável. A filtragem de conteúdo e a segurança são configuradas por meio dos filtros de conteúdo e das mensagens do sistema do Azure OpenAI, que é o que este cenário exige.

D

Incorreta

Ajustar (fine-tune) o modelo com diretrizes da marca e desativar a filtragem de conteúdo para melhorar o desempenho.

Desativar a filtragem de conteúdo remove a camada de segurança que bloqueia conteúdo proibido, violando diretamente o requisito. O ajuste fino ensina estilo e tom por meio de exemplos, mas não pode garantir a conformidade com as diretrizes ou evitar saídas prejudiciais. O ajuste fino é adequado para cenários que exigem formatação consistente ou vocabulário de domínio, e não para imposição de segurança de conteúdo.

Para se aprofundar

O Azure OpenAI aplica uma mensagem do sistema no início da conversa que define a persona, o tom e as restrições do modelo; colocar as diretrizes da marca ali direciona cada conclusão sem consumir o contexto das interações do usuário. A filtragem de conteúdo roda por padrão em prompts e conclusões e pode ser configurada por implantação com limites de severidade para categorias de ódio, violência, sexual e automutilação, além de listas de bloqueio opcionais. Combinar uma mensagem do sistema com a filtragem de conteúdo fornece tanto controle estilístico quanto imposição de segurança. O ajuste fino (fine-tuning) pode ensinar estilo, mas não substitui a filtragem de conteúdo, e desativar a filtragem não é permitido para a maioria dos casos de uso. Exemplos de poucos disparos (few-shot) na mensagem do usuário ajudam na formatação, mas são mais fracos do que uma instrução persistente do sistema. Em produção, as equipes também registram respostas filtradas e usam o endpoint de monitoramento de abusos para revisar o conteúdo sinalizado.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-102 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.