MoyenneChoix unique

Question d'entraînement AI-900

Une équipe marketing utilise Azure OpenAI Service pour générer des idées de titres pour une campagne. Ils constatent que les titres générés sont souvent trop similaires et manquent de créativité. Quel paramètre doivent-ils augmenter pour introduire plus d'aléatoire dans le texte généré ?

Choisissez la meilleure réponse.

Bonne réponse

  • CTemperature

Explication

La température est correcte car elle contrôle l'aléatoire de la sélection des jetons dans la distribution de probabilité du modèle. L'augmentation de la température (par exemple, de 0.7 à 1.0) aplatit la courbe de probabilité, rendant les jetons de moindre probabilité plus susceptibles d'être choisis, ce qui introduit davantage de diversité et de créativité dans les titres générés.

Pourquoi chaque option est juste ou fausse

A

Fausse

Frequency penalty

La pénalité de fréquence réduit la répétition du même jeton en mettant à l'échelle son logit selon la fréquence à laquelle il est déjà apparu, de sorte qu'elle décourage les mots répétés plutôt que d'aplatir la distribution de probabilité. C'est tentant car cela freine les boucles textuelles dans les longues sorties, mais l'énoncé demande de l'aléatoire, ce que la température (ou top_p) contrôle.

B

Fausse

Top_p (nucleus sampling)

Élever top_p élargit le noyau, admettant plus de jetons à faible probabilité, ce qui augmente l'aléatoire — mais la question demande quel paramètre augmenter, et top_p est la bonne réponse, pas une option incorrecte ici. La température est l'autre contrôle valide.

C

Juste

Temperature

La température contrôle l'aléatoire de la sélection des jetons lors de l'échantillonnage ; l'élever aplatit la distribution de probabilité, de sorte que des mots moins probables sont choisis et que les sorties varient davantage. Augmenter la température réduit donc directement les titres répétitifs et similaires que l'équipe observe.

D

Fausse

Presence penalty

La pénalité de présence applique une réduction fixe de logit à tout jeton qui est apparu au moins une fois, encourageant de nouveaux sujets plutôt que de randomiser la sélection des jetons. Elle convient aux invites nécessitant une plus large couverture de vocabulaire, mais elle ne peut pas introduire l'aléatoire d'échantillonnage requis par l'équipe ; la température régit cela.

Pour aller plus loin

La température met à l'échelle les logits avant la fonction softmax, de sorte que les valeurs plus basses affinent la distribution de probabilité vers le jeton le plus probable et les valeurs plus élevées l'aplatissent, donnant aux jetons moins probables plus de chances d'être sélectionnés. Une subtilité est que la température et top_p interagissent : top_p tronque la masse de probabilité cumulative, de sorte qu'une température élevée avec un top_p bas limite toujours l'aléatoire. La pénalité de fréquence réduit la répétition en fonction de la fréquence à laquelle un jeton est déjà apparu, tandis que la pénalité de présence pénalise tout jeton qui est apparu au moins une fois, de sorte qu'aucune des deux n'augmente directement la variation créative de la même manière que la température. En pratique, une équipe marketing souhaitant des titres plus diversifiés peut augmenter la température à environ 1,0 ou légèrement au-dessus tout en maintenant top_p proche de 0,95 pour éviter des sorties incohérentes.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.