DifficileChoix unique

Question d'entraînement AI-900

Un auteur utilise Azure OpenAI Service pour générer plusieurs idées d'histoires. Il constate que le modèle répète souvent les mêmes concepts dans différents résultats. Quel paramètre doit-il augmenter pour réduire la répétition et encourager un contenu plus novateur ?

Choisissez la meilleure réponse.

Bonne réponse

  • CFrequency penalty

Explication

Le paramètre frequency penalty dans Azure OpenAI Service réduit la probabilité de répéter les mêmes tokens ou expressions en appliquant une pénalité proportionnelle à la fréquence des tokens déjà générés. L'augmentation de cette valeur décourage le modèle de réutiliser des concepts courants, favorisant ainsi des idées d'histoires plus novatrices et diversifiées.

Pourquoi chaque option est juste ou fausse

A

Fausse

Temperature

Temperature ajuste la distribution de probabilité sur le vocabulaire en mettant à l'échelle les logits avant l'échantillonnage ; une valeur plus élevée (par exemple, 1,5) augmente le caractère aléatoire, tandis qu'une valeur plus faible (par exemple, 0,2) rend les résultats plus déterministes. Cependant, il applique la même mise à l'échelle globalement à tous les tokens candidats à chaque étape et ne suit pas les tokens qui sont déjà apparus dans la séquence générée. Par conséquent, même avec une température élevée, le modèle peut toujours retomber dans des boucles répétitives car il n'existe aucun mécanisme pour pénaliser explicitement les tokens utilisés précédemment. Seule une pénalité de répétition dédiée réduit directement la probabilité de générer à nouveau le même token.

B

Fausse

Top_p (nucleus sampling)

Top_p (nucleus sampling) sélectionne dynamiquement le plus petit ensemble de tokens dont la masse de probabilité cumulée est égale ou supérieure au seuil p (par exemple, 0,9), puis effectue un échantillonnage uniquement à partir de cet ensemble. Cela peut ajouter de la variété en éliminant les tokens à probabilité extrêmement faible et en élargissant le bassin de candidats, ce qui pourrait réduire indirectement certains schémas répétitifs dans les générations courtes. Cependant, top_p n'intègre aucun historique d'utilisation des tokens ; il choisit parmi les mêmes candidats plausibles, qu'ils aient déjà été générés ou non. Par conséquent, si le modèle attribue une forte probabilité à la répétition d'un token en raison de motifs de répétition dans ses données d'entraînement, top_p n'empêchera pas cette répétition, car il n'ajuste jamais les probabilités en fonction des occurrences antérieures.

C

Juste

Frequency penalty

Frequency penalty est le paramètre correct car il soustrait explicitement une valeur proportionnelle au nombre de fois qu'un token est déjà apparu dans le texte généré actuel. Dans Azure OpenAI, la pénalité est appliquée à la log-probabilité de chaque token sous la forme frequency_penalty * count_of_token_occurrences, de sorte qu'un token utilisé deux fois reçoit deux fois la pénalité d'un token utilisé une seule fois. Cela décourage directement le modèle de réutiliser sans cesse les mêmes mots ou expressions, rendant le résultat plus novateur et varié. Il est spécifiquement conçu pour le contrôle de la répétition, contrairement à temperature ou top_p qui ne font que façonner la distribution de probabilité globale sans faire référence au contenu généré.

D

Fausse

Max tokens

Max tokens définit la limite supérieure absolue du nombre de tokens que le service Azure OpenAI générera, couramment utilisé pour limiter la longueur de la réponse, le coût et la latence. Il ne modifie pas la logique de sélection des tokens à une étape de génération individuelle, il ne peut donc pas empêcher le modèle de choisir des tokens répétés avant d'atteindre cette limite. Bien qu'un max_tokens plus court puisse tronquer une séquence répétitive et donner l'impression que le résultat est moins répétitif, le contenu répété déjà généré demeure, et les probabilités par étape du modèle restent inchangées. Ainsi, max tokens est un plafond de longueur, et non un mécanisme de contrôle de la répétition ; l'auteur doit utiliser frequency penalty pour traiter directement le texte répétitif.

Pour aller plus loin

Les contrôles de répétition d'Azure OpenAI s'attaquent à un mode de défaillance courant dans les modèles de langage autorégressifs : la répétition auto-renforcée. Lors de l'échantillonnage, le modèle calcule une distribution de probabilité pour le token suivant en se basant sur le contexte précédent ; si le contexte contient un mot, la probabilité conditionnelle de ce mot peut devenir élevée en raison des motifs appris lors de l'entraînement, ce qui conduit à une boucle de rétroaction où le modèle se répète. Le frequency penalty modifie cela en appliquant une pénalité linéaire basée sur le décompte absolu de chaque token dans le texte généré, tandis que le presence penalty applique une pénalité constante unique si le token apparaît ne serait-ce qu'une seule fois. Les deux sont natifs de l'API de complétion d'Azure OpenAI et peuvent être définis de -2,0 à 2,0 ; les valeurs positives réduisent la répétition, le frequency penalty étant plus fort pour les tokens utilisés de nombreuses fois. Une nuance subtile mais importante : le frequency penalty est appliqué à la log-probabilité avant l'échantillonnage, il modifie donc l'ordre relatif des tokens candidats et peut affecter la fluidité, augmentant potentiellement la créativité mais risquant également des résultats hors sujet s'il est réglé trop haut. Dans les scénarios d'écriture créative, combiner un frequency penalty modéré avec une température ou un top_p ajusté peut aider à équilibrer nouveauté et cohérence, mais seules les pénalités de répétition optimisent directement la réduction du contenu répété, c'est pourquoi elles constituent la bonne réponse lorsque la répétition est le problème principal.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.