MédiaMúltipla escolha

Questão de prática de AI-900

Uma equipe de marketing usa o Azure OpenAI Service para gerar ideias de títulos para uma campanha. Eles descobrem que os títulos gerados costumam ser muito semelhantes e carecem de criatividade. Qual parâmetro eles devem aumentar para introduzir mais aleatoriedade no texto gerado?

Escolha a melhor resposta.

Resposta correta

  • CTemperature

Explicação

A temperatura está correta porque controla a aleatoriedade da seleção de tokens na distribuição de probabilidade do modelo. Aumentar a temperatura (por exemplo, de 0,7 para 1,0) achata a curva de probabilidade, tornando tokens de menor probabilidade mais propensos a serem escolhidos, o que introduz mais diversidade e criatividade nos títulos gerados.

Por que cada alternativa está certa ou errada

A

Incorreta

Frequency penalty

A penalidade de frequência reduz a repetição do mesmo token dimensionando seu logit de acordo com a frequência com que ele já apareceu, portanto, ela desestimula palavras repetidas em vez de achatar a distribuição de probabilidade. É tentadora porque freia loops textuais em saídas longas, mas o enunciado pede aleatoriedade, que a temperatura (ou top_p) controla.

B

Incorreta

Top_p (nucleus sampling)

Elevar o top_p amplia o núcleo, admitindo mais tokens de baixa probabilidade, portanto, ele aumenta a aleatoriedade — mas a pergunta pede qual parâmetro aumentar, e o top_p é a resposta correta, não uma opção incorreta aqui. A temperatura é o outro controle válido.

C

Correta

Temperature

A temperatura controla a aleatoriedade da seleção de tokens durante a amostragem; elevá-la achata a distribuição de probabilidade, de modo que palavras menos prováveis são escolhidas e as saídas variam mais. Aumentar a temperatura, portanto, reduz diretamente os títulos repetitivos e semelhantes que a equipe está vendo.

D

Incorreta

Presence penalty

A penalidade de presença aplica uma redução fixa de logit a qualquer token que tenha aparecido pelo menos uma vez, incentivando novos tópicos em vez de randomizar a seleção de tokens. Ela se adapta a prompts que precisam de maior cobertura de vocabulário, mas não pode introduzir a aleatoriedade de amostragem que a equipe precisa; a temperatura governa isso.

Para se aprofundar

A temperatura dimensiona os logits antes da função softmax, de modo que valores mais baixos aguçam a distribuição de probabilidade em direção ao token mais provável e valores mais altos a achatam, dando aos tokens menos prováveis mais chances de serem selecionados. Uma sutileza é que a temperatura e o top_p interagem: o top_p trunca a massa de probabilidade cumulativa, portanto, uma temperatura alta com um top_p baixo ainda limita a aleatoriedade. A penalidade de frequência reduz a repetição com base na frequência com que um token já apareceu, enquanto a penalidade de presença penaliza qualquer token que tenha aparecido pelo menos uma vez, de modo que nenhuma delas aumenta diretamente a variação criativa da maneira que a temperatura faz. Na prática, uma equipe de marketing que deseja títulos mais diversos pode elevar a temperatura para cerca de 1,0 ou ligeiramente acima, mantendo o top_p próximo de 0,95 para evitar saídas incoerentes.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.