FácilMúltipla escolha

Questão de prática de AI-900

Um desenvolvedor usa o Azure OpenAI Service para gerar avaliações de produtos para um site de comércio eletrônico. O desenvolvedor percebe que o modelo frequentemente repete as mesmas frases dentro da mesma avaliação, fazendo com que a saída soe não natural. Qual parâmetro o desenvolvedor deve ajustar para reduzir essa repetição?

Escolha a melhor resposta.

Resposta correta

  • DFrequency_penalty

Explicação

O parâmetro frequency_penalty reduz a probabilidade de o modelo repetir as mesmas frases ao penalizar os tokens que já apareceram no texto gerado. Um valor de frequency_penalty mais alto (por exemplo, de 0.5 a 1.0) desencoraja o modelo de reutilizar as mesmas palavras ou frases, tornando a saída mais diversificada e natural. Isso aborda diretamente o problema de frases repetitivas nas avaliações de produtos.

Por que cada alternativa está certa ou errada

A

Incorreta

Temperature

Temperature escala os logits antes do softmax dividindo-os pelo valor definido (0-2), controlando a nitidez da distribuição de probabilidade. Temperaturas mais baixas tornam a amostragem mais determinística e gulosa, enquanto temperaturas mais altas aumentam a aleatoriedade e a diversidade. Ele não rastreia a frequência dos tokens nem aplica nenhuma penalidade para tokens repetidos, portanto ajustá-lo pode alterar a fluidez geral ou a criatividade, mas não corrigirá diretamente um problema específico de repetição.

B

Incorreta

Top_p

Top_p (amostragem por núcleo) seleciona dinamicamente o menor conjunto de tokens cuja massa de probabilidade cumulativa atinge o limite p, redistribuindo então a probabilidade apenas entre esse conjunto. Esse parâmetro limita o grupo de tokens candidatos em cada etapa, mas não rastreia ou desconta tokens que apareceram anteriormente na sequência. Consequentemente, ele pode afetar a variabilidade local, mas não pode penalizar a recorrência de um token específico, deixando a repetição sem solução.

C

Incorreta

Max_tokens

Max_tokens limita o número total de tokens gerados na conclusão, delimitando efetivamente o comprimento da saída. Se um modelo já estiver preso em um loop repetitivo, aumentar ou diminuir esse limite apenas altera onde o texto é cortado; ele não altera a distribuição subjacente de seleção de tokens. Esse parâmetro não tem mecanismo para modificar a probabilidade de um token com base em suas ocorrências anteriores, portanto não pode mitigar a repetição dentro da descrição do produto gerada.

D

Correta

Frequency_penalty

No Azure OpenAI Service, frequency_penalty é um parâmetro de amostragem no intervalo de -2.0 a 2.0 que subtrai uma penalidade proporcional ao número de vezes que um token já apareceu na sequência gerada. Cada vez que um token é selecionado, sua contagem cumulativa aumenta a penalidade aplicada à sua pontuação logit, suprimindo assim a probabilidade de gerar o mesmo token repetidamente. Isso ataca diretamente o sintoma de loops repetitivos, tornando-o o ajuste adequado para descrições de produtos que continuam repetindo frases.

Para se aprofundar

O Azure OpenAI Service expõe tanto frequency_penalty quanto presence_penalty para controlar a repetição. Frequency_penalty escala a pontuação logit de um token por um fator proporcional a quantas vezes ele já apareceu, enquanto presence_penalty aplica um bônus ou penalidade fixos se um token apareceu pelo menos uma vez. Ambos são implementados modificando os logits calculados antes da amostragem, e não por pós-filtragem do texto. Um equívoco comum é que esses parâmetros garantem uma saída lexicalmente única; na prática, eles amenizam mas não eliminam a repetição, e valores extremos podem tornar o texto não natural ou incoerente. Note também que essas penalidades interagem com temperature e top_p: uma temperatura alta pode reintroduzir aleatoriedade que anula parcialmente a penalidade, portanto o ajuste deve considerar todo o pipeline de amostragem. Compreender essas distinções é importante para controlar a qualidade gerativa em cenários como descrições de produtos.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.