DifícilMúltipla escolha

Questão de prática de AI-900

Um escritor usa o Azure OpenAI Service para gerar várias ideias de histórias. Ele descobre que o modelo frequentemente repete os mesmos conceitos em diferentes saídas. Qual parâmetro ele deve aumentar para reduzir a repetição e incentivar conteúdo mais inovador?

Escolha a melhor resposta.

Resposta correta

  • CFrequency penalty

Explicação

O parâmetro frequency penalty no Azure OpenAI Service reduz a probabilidade de repetir os mesmos tokens ou frases aplicando uma penalidade proporcional à frequência dos tokens já gerados. Aumentar esse valor desincentiva o modelo a reutilizar conceitos comuns, promovendo assim ideias de histórias mais inovadoras e diversificadas.

Por que cada alternativa está certa ou errada

A

Incorreta

Temperature

Temperature ajusta a distribuição de probabilidade sobre o vocabulário dimensionando os logits antes da amostragem; um valor mais alto (por exemplo, 1,5) aumenta a aleatoriedade, enquanto um valor mais baixo (por exemplo, 0,2) torna as saídas mais determinísticas. No entanto, ele aplica o mesmo dimensionamento globalmente a todos os tokens candidatos em cada etapa e não rastreia quais tokens já apareceram na sequência gerada. Consequentemente, mesmo com temperatura alta, o modelo ainda pode cair em loops repetitivos porque não há mecanismo para penalizar explicitamente os tokens usados anteriormente. Apenas uma penalidade de repetição dedicada reduz diretamente a probabilidade de gerar o mesmo token novamente.

B

Incorreta

Top_p (nucleus sampling)

Top_p (nucleus sampling) seleciona dinamicamente o menor conjunto de tokens cuja massa de probabilidade cumulativa é igual ou excede o limite p (por exemplo, 0,9) e, em seguida, amostra apenas a partir desse conjunto. Isso pode adicionar variedade ao descartar tokens de probabilidade extremamente baixa e expandir o grupo de candidatos, o que pode reduzir indiretamente alguns padrões repetitivos em gerações curtas. No entanto, o top_p não incorpora nenhum histórico de uso de tokens; ele escolhe entre os mesmos candidatos plausíveis, independentemente de já terem sido gerados ou não. Portanto, se o modelo atribuir alta probabilidade à repetição de um token devido a padrões de repetição em seus dados de treinamento, o top_p não impedirá essa repetição, porque ele nunca ajusta as probabilidades com base em ocorrências anteriores.

C

Correta

Frequency penalty

Frequency penalty é o parâmetro correto porque subtrai explicitamente um valor proporcional a quantas vezes um token já apareceu no texto gerado atual. No Azure OpenAI, a penalidade é aplicada à log-probabilidade de cada token como frequency_penalty * count_of_token_occurrences, de modo que um token usado duas vezes recebe o dobro da penalidade de um token usado uma vez. Isso desincentiva diretamente o modelo de reutilizar as mesmas palavras ou frases repetidamente, tornando a saída mais inovadora e variada. Ele é projetado especificamente para controle de repetição, ao contrário de temperature ou top_p, que apenas moldam a distribuição geral de probabilidade sem fazer referência ao conteúdo gerado.

D

Incorreta

Max tokens

Max tokens define o limite superior absoluto no número de tokens que o serviço Azure OpenAI gerará, comumente usado para limitar o comprimento da resposta, o custo e a latência. Ele não altera a lógica de seleção de tokens em nenhuma etapa de geração individual, portanto, não pode impedir o modelo de escolher tokens repetidos antes de atingir esse limite. Embora um max_tokens mais curto possa truncar uma sequência repetitiva e fazer a saída parecer menos repetitiva, o conteúdo repetido já gerado permanece, e as probabilidades por etapa do modelo permanecem inalteradas. Assim, max tokens é um teto de comprimento, e não um mecanismo de controle de repetição; o escritor deve usar frequency penalty para tratar diretamente o texto repetitivo.

Para se aprofundar

Os controles de repetição do Azure OpenAI abordam um modo de falha comum em modelos de linguagem autorregressivos: a repetição autorreforçada. Durante a amostragem, o modelo calcula uma distribuição de probabilidade para o próximo token com base no contexto precedente; se o contexto contém uma palavra, a probabilidade condicional dessa palavra pode se tornar alta devido aos padrões aprendidos durante o treinamento, levando a um loop de feedback onde o modelo se repete. O frequency penalty modifica isso aplicando uma penalidade linear com base na contagem absoluta de cada token no texto gerado, enquanto o presence penalty aplica uma única penalidade constante se o token aparecer pelo menos uma vez. Ambos são nativos da API de conclusões do Azure OpenAI e podem ser definidos de -2.0 a 2.0; valores positivos reduzem a repetição, sendo o frequency penalty mais forte para tokens usados muitas vezes. Uma nuance sutil, mas importante: o frequency penalty é aplicado à log-probabilidade antes da amostragem, portanto, ele altera a ordem relativa dos tokens candidatos e pode afetar a fluidez, aumentando potencialmente a criatividade, mas também correndo o risco de gerar saídas fora do tópico se configurado muito alto. Em cenários de escrita criativa, combinar um frequency penalty moderado com temperatura ou top_p ajustados pode ajudar a equilibrar novidade e coerência, mas apenas as penalidades de repetição otimizam diretamente para reduzir o conteúdo repetido, o que explica por que elas são a resposta correta quando a repetição é o problema principal.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.