DifícilOpción múltiple

Pregunta de práctica de AI-900

Un desarrollador utiliza Azure OpenAI para generar fragmentos de código en Python. Desea evitar que el modelo produzca funciones demasiado largas y complejas estableciendo una longitud máxima para la salida generada. ¿Qué parámetro debe configurar el desarrollador en la llamada a la API?

Elige la mejor respuesta.

Respuesta correcta

  • Cmax_tokens

Explicación

El parámetro `max_tokens` controla el número máximo de tokens (palabras o subpalabras) que el modelo puede generar en una sola respuesta. Al establecer un valor más bajo de `max_tokens`, el desarrollador limita la longitud del código de Python generado, evitando funciones excesivamente largas y complejas. Esto aborda directamente el requisito de limitar la longitud de la salida.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

temperature

temperature vuelve a escalar la distribución de probabilidad, alterando la aleatoriedad en lugar del número de tokens emitidos, por lo que un valor bajo aún permite funciones largas. Es tentador porque una temperatura más baja produce texto más predecible, lo cual se adapta a la generación de código determinista, pero el enunciado requiere max_tokens, que hace cumplir el límite de longitud de la salida.

B

Incorrecta

top_p

top_p reduce el muestreo a una masa de probabilidad acumulativa, cambiando qué tokens se consideran en lugar de cuántos se producen, por lo que la longitud de la salida sigue sin estar acotada. Es tentador porque restringir el conjunto de tokens parece limitar las respuestas, lo cual se adapta a controlar la diversidad, pero el enunciado requiere max_tokens para limitar la longitud generada.

C

Correcta

max_tokens

max_tokens limita el número de tokens que el modelo genera en su completación, limitando directamente la longitud de la salida. Configurar este parámetro previene funciones excesivamente largas y complejas, satisfaciendo el requerimiento del desarrollador de una longitud máxima de salida generada en la llamada a la API de Azure OpenAI.

D

Incorrecta

frequency_penalty

frequency_penalty desalienta los tokens repetidos, por lo que frena las frases en bucle pero no puede limitar la longitud de la salida; una función verbosa aún se genera hasta que se detiene de forma natural. Es tentador porque penalizar la repetición parece acortar el texto, lo cual se adapta a reducir la imitación literal, pero el enunciado requiere max_tokens, que trunca la generación a un recuento fijo de tokens.

Para profundizar

max_tokens limita el número de tokens que el modelo puede generar en la completación, limitando directamente la longitud de la salida; no afecta al prompt. En Azure OpenAI, el valor debe dejar espacio dentro de la ventana de contexto del modelo para los tokens de entrada, o la llamada arrojará un error. Temperature y top_p controlan la aleatoriedad, mientras que frequency_penalty desalienta la repetición, por lo que ninguno de ellos delimita la longitud. Un detalle sutil: max_tokens cuenta tokens, no caracteres o líneas, por lo que un valor como 256 aún puede producir una función larga dependiendo de la tokenización. Esto importa al aplicar restricciones en el tamaño de la respuesta para el control de costos, la latencia o restricciones de la UI, y cuando el truncamiento podría cortar el código a mitad de una instrucción.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.