DifícilMúltipla escolha

Questão de prática de AI-900

Um desenvolvedor usa o Azure OpenAI Service para gerar scripts de transformação de dados. Os scripts gerados às vezes contêm erros lógicos. Para tornar a saída do modelo mais determinística e reduzir a variabilidade, qual parâmetro o desenvolvedor deve diminuir?

Escolha a melhor resposta.

Resposta correta

  • ATemperature

Explicação

A temperature controla a aleatoriedade da saída do modelo. Diminuir a temperature (por exemplo, de 0.7 para 0.1) torna o modelo mais determinístico e focado, reduzindo a variabilidade e a probabilidade de erros lógicos nos scripts gerados. Este é o parâmetro correto a ser ajustado para obter respostas mais consistentes e menos criativas.

Por que cada alternativa está certa ou errada

A

Correta

Temperature

A temperature controla a aleatoriedade na seleção de tokens; abaixá-la faz com que o modelo favoreça os tokens de maior probabilidade, produzindo uma saída de script mais determinística e repetível. Isso reduz diretamente a variabilidade lógica observada pelo desenvolvedor, atendendo ao requisito de scripts de transformação gerados mais consistentes.

B

Incorreta

Top_p

Abaixar o top_p estreita a amostragem de núcleo, mas a temperature é o parâmetro que controla a aleatoriedade; o top_p trunca a massa de probabilidade, portanto, reduzi-lo sozinho ainda permite variabilidade dentro dos tokens retidos. O top_p é adequado para restringir a amplitude do vocabulário em geração criativa, e não para impor uma saída de script determinística.

C

Incorreta

Frequency penalty

A frequency penalty reduz os logits para tokens já gerados com frequência, desestimulando a repetição; abaixá-la permite o uso de frases mais repetidas, e não menor aleatoriedade. É tentadora porque limita loops em saídas longas e seria adequada para um cenário em que o modelo repete linhas idênticas excessivamente.

D

Incorreta

Presence penalty

A presence penalty aplica uma redução fixa a qualquer token que tenha aparecido, empurrando o modelo para novos tópicos; abaixá-la não restringe a aleatoriedade da amostragem. É tentadora porque desestimula a repetição e estaria correta quando a saída fica em loop nas mesmas frases.

Para se aprofundar

A temperature no Azure OpenAI Service dimensiona a distribuição de probabilidade sobre o próximo token antes da amostragem; valores mais baixos aguçam a distribuição em direção aos tokens mais prováveis, tornando a saída mais determinística e reduzindo a variabilidade criativa. O top_p realiza a amostragem de núcleo definindo um limite para o conjunto de candidatos com base em uma massa de probabilidade cumulativa, enquanto as penalidades de frequência e presença ajustam a repetição em vez da aleatoriedade. Um comportamento sutil que vale a pena conhecer: a temperature e o top_p interagem, e a Microsoft recomenda ajustar um de cada vez; definir a temperature como 0 ainda não garante saídas idênticas entre chamadas devido ao não determinismo na pilha de atendimento. Em um cenário real, um desenvolvedor que gera scripts de transformação de dados define uma temperature baixa para obter código consistente e repetível, e então valida os scripts porque a menor aleatoriedade reduz, mas não elimina, os erros lógicos.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.