MédiaMúltipla escolha

Questão de prática de AI-102

Consulte a imagem.

{
  "content_filters": [
    {
      "type": "hate",
      "action": "block",
      "severity": "high"
    },
    {
      "type": "sexual",
      "action": "block",
      "severity": "medium"
    },
    {
      "type": "self_harm",
      "action": "block",
      "severity": "low"
    }
  ]
}

Você implanta um modelo do Azure OpenAI com a configuração de filtro de conteúdo acima. Um usuário envia um prompt que o sistema classifica como "hate" com o nível de gravidade "medium". O que acontece?

Escolha a melhor resposta.

Resposta correta

  • AO prompt é permitido porque a gravidade está abaixo do limite.

Explicação

A configuração do filtro de conteúdo bloqueia o conteúdo do tipo 'hate' apenas no nível de gravidade 'high'. Como o prompt do usuário foi classificado como 'hate' com gravidade 'medium', ele fica abaixo do limite configurado e é permitido. Os filtros de conteúdo do Azure OpenAI avaliam os níveis de gravidade (low, medium, high) e aplicam a ação configurada somente quando a gravidade detectada atinge ou supera o limite especificado.

Por que cada alternativa está certa ou errada

A

Correta

O prompt é permitido porque a gravidade está abaixo do limite.

O filtro de 'hate' bloqueia na gravidade high, portanto o conteúdo de 'hate' com gravidade medium fica abaixo desse limite e passa. A ação se aplica apenas quando a gravidade avaliada atinge ou supera o nível configurado, de modo que o prompt não é bloqueado.

B

Incorreta

O prompt é bloqueado porque conteúdo de ódio é detectado.

O filtro de 'hate' bloqueia apenas na gravidade high, portanto um prompt classificado como medium passa por esse filtro; a ação de bloqueio se aplica no limite configurado, e não a cada detecção. É tentador porque o conteúdo de ódio é de fato detectado, mas a detecção isolada não aciona o bloqueio abaixo do limite de gravidade.

C

Incorreta

O prompt é bloqueado porque a gravidade é média.

A gravidade medium aciona o bloqueio apenas para a categoria 'sexual', cujo limite é medium; o limite do filtro de 'hate' é high, portanto o conteúdo de 'hate' com gravidade média não é bloqueado. É tentador porque a gravidade média causa bloqueio em outro lugar nesta configuração, mas não para a categoria 'hate'.

D

Incorreta

O prompt é permitido porque o filtro de ódio não está configurado para o nível médio.

O filtro de 'hate' bloqueia na gravidade high, portanto o conteúdo de 'hate' com gravidade medium passa pelo filtro e o prompt é permitido — mas isso é exatamente o que esta opção afirma, então não pode ser a resposta pretendida. Os filtros atuam como limites, não como correspondências exatas; elevar a ação para medium o bloquearia.

Para se aprofundar

Os filtros de conteúdo do Azure OpenAI operam por categoria com limites de gravidade configuráveis: low, medium e high. A ação é aplicada somente quando a gravidade detectada atinge ou supera o limite configurado. Nesta configuração, 'hate' está definido para bloquear em 'high', portanto, uma classificação de 'hate' com gravidade 'medium' fica abaixo do limite e o prompt prossegue. O conteúdo 'sexual' bloqueia em 'medium' e 'self_harm' bloqueia em 'low', de modo que essas categorias seriam acionadas em gravidades menores. Essa granularidade permite que as organizações ajustem a rigidez por categoria de dano. Uma implicação realista é que uma implantação que bloqueia 'hate' apenas em 'high' ainda permitirá a passagem de conteúdo 'hate' com gravidade 'medium', o que pode entrar em conflito com políticas internas mais rígidas e exigir o ajuste do limite para 'medium' ou 'low'.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-102 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.