FácilOpción múltiple

Pregunta de práctica de AI-900

Un desarrollador utiliza Azure OpenAI Service para generar reseñas de productos para un sitio de comercio electrónico. El desarrollador nota que el modelo a menudo repite las mismas frases dentro de la misma reseña, haciendo que el resultado suene antinatural. ¿Qué parámetro debe ajustar el desarrollador para reducir esta repetición?

Elige la mejor respuesta.

Respuesta correcta

  • DFrequency_penalty

Explicación

El parámetro frequency_penalty reduce la probabilidad de que el modelo repita las mismas frases al penalizar los tokens que ya han aparecido en el texto generado. Un valor de frequency_penalty más alto (por ejemplo, de 0.5 a 1.0) disuade al modelo de reutilizar las mismas palabras o frases, haciendo que el resultado sea más diverso y natural. Esto aborda directamente el problema de las frases repetitivas en las reseñas de productos.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Temperature

Temperature escala los logits antes de softmax dividiéndolos por el valor establecido (0-2), controlando la nitidez de la distribución de probabilidad. Las temperaturas más bajas hacen que el muestreo sea más determinista y voraz, mientras que las temperaturas más altas aumentan la aleatoriedad y la diversidad. No realiza un seguimiento de las frecuencias de los tokens ni aplica ninguna penalización por tokens repetidos, por lo que ajustarlo puede cambiar la fluidez o creatividad general pero no solucionará directamente un problema específico de repetición.

B

Incorrecta

Top_p

Top_p (muestreo por núcleo) selecciona dinámicamente el conjunto más pequeño de tokens cuya masa de probabilidad acumulada alcanza el umbral p, redistribuyendo luego la probabilidad solo entre ese conjunto. Este parámetro limita el grupo de tokens candidatos en cada paso, pero no realiza un seguimiento ni descarta los tokens que han aparecido antes en la secuencia. En consecuencia, puede afectar la variabilidad local pero no puede penalizar la recurrencia de un token específico, dejando la repetición sin resolver.

C

Incorrecta

Max_tokens

Max_tokens limita el número total de tokens generados en la finalización, acotando efectivamente la longitud del resultado. Si un modelo ya está atrapado en un bucle repetitivo, subir o bajar este límite simplemente cambia el lugar donde se corta el texto; no altera la distribución subyacente de selección de tokens. Este parámetro no tiene ningún mecanismo para modificar la probabilidad de un token en función de sus apariciones anteriores, por lo que no puede mitigar la repetición dentro de la descripción del producto generada.

D

Correcta

Frequency_penalty

En Azure OpenAI Service, frequency_penalty es un parámetro de muestreo en el rango de -2.0 a 2.0 que resta una penalización proporcional al número de veces que un token ya ha aparecido en la secuencia generada. Cada vez que se selecciona un token, su recuento acumulado aumenta la penalización aplicada a su puntuación logit, suprimiendo así la probabilidad de generar el mismo token repetidamente. Esto apunta directamente al síntoma de los bucles repetitivos, por lo que es el ajuste adecuado para descripciones de productos que siguen repitiendo frases.

Para profundizar

Azure OpenAI Service expone tanto frequency_penalty como presence_penalty para controlar la repetición. Frequency_penalty escala la puntuación logit de un token por un factor proporcional a la frecuencia con la que ya ha aparecido, mientras que presence_penalty aplica una bonificación o penalización fija si un token ha aparecido al menos una vez. Ambos se implementan modificando los logits calculados antes del muestreo, no mediante un post-filtrado del texto. Una idea errónea común es que estos parámetros garantizan un resultado lécnicamente único; en la práctica, atenúan pero no eliminan la repetición, y los valores extremos pueden hacer que el texto sea antinatural o incoherente. Observe también que estas penalizaciones interactúan con temperature y top_p: una temperatura alta puede reintroducir aleatoriedad que anula parcialmente la penalización, por lo que el ajuste debe considerar todo el proceso de muestreo. Comprender estas distinciones es importante para controlar la calidad generativa en escenarios como las descripciones de productos.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.