DifícilOpción múltiple

Pregunta de práctica de AI-900

Un desarrollador utiliza Azure OpenAI Service para generar scripts de transformación de datos. Los scripts generados a veces contienen errores lógicos. Para hacer que la salida del modelo sea más determinista y reducir la variabilidad, ¿qué parámetro debe disminuir el desarrollador?

Elige la mejor respuesta.

Respuesta correcta

  • ATemperature

Explicación

Temperature controla la aleatoriedad de la salida del modelo. Disminuir la temperatura (por ejemplo, de 0.7 a 0.1) hace que el modelo sea más determinista y enfocado, reduciendo la variabilidad y la probabilidad de errores lógicos en los scripts generados. Este es el parámetro correcto para ajustar con el fin de obtener respuestas más consistentes y menos creativas.

Por qué cada opción es correcta o incorrecta

A

Correcta

Temperature

Temperature controla la aleatoriedad en la selección de tokens; reducirla hace que el modelo favorezca los tokens de mayor probabilidad, produciendo una salida de script más determinista y repetible. Esto reduce directamente la variabilidad lógica que observa el desarrollador, cumpliendo con el requisito de scripts de transformación generados más consistentes.

B

Incorrecta

Top_p

Reducir top_p estrecha el muestreo de núcleo, pero temperature es el parámetro que controla la aleatoriedad; top_p trunca la masa de probabilidad, por lo que reducirlo por sí solo aún permite variabilidad dentro de los tokens retenidos. Top_p se adapta a restringir la amplitud del vocabulario en la generación creativa, no a hacer cumplir la salida de scripts deterministas.

C

Incorrecta

Frequency penalty

Frequency penalty reduce los logits para los tokens que ya se han generado con frecuencia, desalentando la repetición; reducirlo permite frases más repetitivas, no menos aleatoriedad. Es tentador porque frena los bucles en salidas largas y se adaptaría a un escenario donde el modelo repite líneas idénticas en exceso.

D

Incorrecta

Presence penalty

Presence penalty aplica una reducción plana a cualquier token que haya aparecido, empujando al modelo hacia nuevos temas; reducirlo no restringe la aleatoriedad del muestreo. Es tentador porque desalienta la repetición y sería correcto cuando la salida entra en bucle con las mismas frases.

Para profundizar

Temperature en Azure OpenAI Service escala la distribución de probabilidad sobre el siguiente token antes del muestreo; los valores más bajos agudizan la distribución hacia los tokens más probables, haciendo que la salida sea más determinista y reduciendo la variabilidad creativa. Top_p realiza un muestreo de núcleo (nucleus sampling) restringiendo el conjunto candidato a una masa de probabilidad acumulada, y frequency penalty y presence penalty ajustan la repetición en lugar de la aleatoriedad. Un comportamiento sutil que vale la pena conocer: temperature y top_p interactúan, y Microsoft recomienda ajustar uno a la vez; establecer temperature en 0 aún no garantiza salidas idénticas entre llamadas debido a la no determinismo en la pila de servicio. En un escenario real, un desarrollador que genera scripts de transformación de datos establece una temperatura baja para obtener código consistente y repetible, y luego valida los scripts porque una menor aleatoriedad reduce pero no elimina los errores lógicos.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.