FacileChoix unique

Question d'entraînement AI-900

Un développeur utilise Azure OpenAI Service pour générer des avis sur des produits pour un site de commerce électronique. Le développeur remarque que le modèle répète souvent les mêmes phrases au sein du même avis, ce qui donne un résultat non naturel. Quel paramètre le développeur doit-il ajuster pour réduire cette répétition?

Choisissez la meilleure réponse.

Bonne réponse

  • DFrequency_penalty

Explication

Le paramètre frequency_penalty réduit la probabilité que le modèle répète les mêmes phrases en pénalisant les jetons qui sont déjà apparus dans le texte généré. Une valeur de frequency_penalty plus élevée (par exemple de 0.5 à 1.0) décourage le modèle de réutiliser les mêmes mots ou phrases, rendant le résultat plus diversifié et naturel. Cela résout directement le problème des formulations répétitives dans les avis sur les produits.

Pourquoi chaque option est juste ou fausse

A

Fausse

Temperature

Temperature met à l'échelle les logits avant softmax en les divisant par la valeur définie (0-2), ce qui contrôle la netteté de la distribution de probabilité. Des températures plus basses rendent l'échantillonnage plus déterministe et glouton, tandis que des températures plus élevées augmentent l'aléas et la diversité. Il ne suit pas la fréquence des jetons et n'applique aucune pénalité pour les jetons répétés, de sorte que son ajustement peut modifier la fluidité ou la créativité globale mais ne corrigera pas directement un problème de répétition spécifique.

B

Fausse

Top_p

Top_p (échantillonnage par noyau) sélectionne dynamiquement le plus petit ensemble de jetons dont la masse de probabilité cumulée atteint le seuil p, puis redistribue la probabilité uniquement au sein de cet ensemble. Ce paramètre limite le groupe de jetons candidats à chaque étape, mais il ne suit ni ne pénalise les jetons apparus plus tôt dans la séquence. Par conséquent, il peut affecter la variabilité locale mais ne peut pas pénaliser la récurrence d'un jeton spécifique, laissant la répétition non résolue.

C

Fausse

Max_tokens

Max_tokens plafonne le nombre total de jetons générés dans la complétion, limitant ainsi la longueur du résultat. Si un modèle est déjà bloqué dans une boucle répétitive, augmenter ou baisser cette limite modifie simplement l'endroit où le texte est coupé; cela ne modifie pas la distribution sous-jacente de sélection des jetons. Ce paramètre n'a aucun mécanisme pour modifier la probabilité d'un jeton en fonction de ses apparitions précédentes, il ne peut donc pas atténuer la répétition dans la description de produit générée.

D

Juste

Frequency_penalty

Dans Azure OpenAI Service, frequency_penalty est un paramètre d'échantillonnage compris entre -2.0 et 2.0 qui soustrait une pénalité proportionnelle au nombre de fois qu'un jeton est déjà apparu dans la séquence générée. Chaque fois qu'un jeton est sélectionné, son compte cumulé augmente la pénalité appliquée à son score logit, supprimant ainsi la probabilité de générer le même jeton de manière répétée. Cela cible directement le symptôme des boucles répétitives, ce qui en fait le réglage approprié pour les descriptions de produits qui continuent de répéter des phrases.

Pour aller plus loin

Azure OpenAI Service expose à la fois frequency_penalty et presence_penalty pour contrôler la répétition. Frequency_penalty met à l'échelle le score logit d'un jeton par un facteur proportionnel à sa fréquence d'apparition, tandis que presence_penalty applique un bonus ou une pénalité fixe si un jeton est apparu au moins une fois. Les deux sont implémentés en modifiant les logits calculés avant l'échantillonnage, et non par un post-filtrage du texte. Une idée reçue fréquente est que ces paramètres garantissent un résultat lexicalement unique; en pratique, ils atténuent mais n'eliminent pas la répétition, et des valeurs extrêmes peuvent rendre le texte non naturel ou incohérent. Notez également que ces pénalisations interagissent avec temperature et top_p: une température élevée peut réintroduire de l'aléas qui neutralise partiellement la pénalité, de sorte que le réglage doit prendre en compte l'ensemble du pipeline d'échantillonnage. Comprendre ces distinctions est important pour contrôler la qualité générative dans des scénarios tels que les descriptions de produits.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.