DifícilMúltipla escolha

Questão de prática de AI-900

Um desenvolvedor usa o Azure OpenAI para gerar trechos de código em Python. Ele deseja evitar que o modelo produza funções excessivamente longas e complexas definindo um comprimento máximo para a saída gerada. Qual parâmetro o desenvolvedor deve definir na chamada de API?

Escolha a melhor resposta.

Resposta correta

  • Cmax_tokens

Explicação

O parâmetro `max_tokens` controla o número máximo de tokens (palavras ou subpalavras) que o modelo pode gerar em uma única resposta. Ao definir um valor menor de `max_tokens`, o desenvolvedor limita o comprimento do código Python gerado, evitando funções excessivamente longas e complexas. Isso atende diretamente ao requisito de limitar o comprimento da saída.

Por que cada alternativa está certa ou errada

A

Incorreta

temperature

temperature reescala a distribuição de probabilidade, alterando a aleatoriedade em vez do número de tokens emitidos, de modo que um valor baixo ainda permite funções longas. É tentador porque uma temperatura mais baixa produz texto mais previsível, o que convém à geração de código determinístico, mas o enunciado requer max_tokens, que impõe o limite de comprimento da saída.

B

Incorreta

top_p

top_p restringe a amostragem a uma massa de probabilidade cumulativa, alterando quais tokens são considerados em vez de quantos são produzidos, de modo que o comprimento da saída permanece ilimitado. É tentador porque restringir o conjunto de tokens parece limitar as respostas, o que convém para controlar a diversidade, mas o enunciado requer max_tokens para limitar o comprimento gerado.

C

Correta

max_tokens

max_tokens limita o número de tokens que o modelo gera em sua conclusão, limitando diretamente o comprimento da saída. Definir esse parâmetro evita funções excessivamente longas e complexas, satisfazendo o requisito do desenvolvedor de um comprimento máximo de saída gerada na chamada de API do Azure OpenAI.

D

Incorreta

frequency_penalty

frequency_penalty desencoraja tokens repetidos, portanto ele reduz frases em loop, mas não pode limitar o comprimento da saída; uma função prolixa ainda é gerada até parar naturalmente. É tentador porque penalizar a repetição parece encurtar o texto, o que convém para reduzir a repetição literal, mas o enunciado requer max_tokens, que trunca a geração em uma contagem fixa de tokens.

Para se aprofundar

max_tokens limita o número de tokens que o modelo pode gerar na conclusão, limitando diretamente o comprimento da saída; ele não afeta o prompt. No Azure OpenAI, o valor deve deixar espaço dentro da janela de contexto do modelo para os tokens de entrada, ou a chamada gerará um erro. Temperature e top_p controlam a aleatoriedade, enquanto frequency_penalty desencoraja a repetição, portanto nenhum deles delimita o comprimento. Uma sutileza: max_tokens conta tokens, não caracteres ou linhas, de modo que um valor como 256 ainda pode produzir uma função longa dependendo da tokenização. Isso importa ao impor restrições de tamanho de resposta para controle de custos, latência ou restrições da UI, e quando o truncamento pode cortar o código no meio de uma instrução.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.