Bonne réponse
Explication
Le paramètre frequency penalty dans Azure OpenAI Service réduit la probabilité de répéter les mêmes tokens ou expressions en appliquant une pénalité proportionnelle à la fréquence des tokens déjà générés. L'augmentation de cette valeur décourage le modèle de réutiliser des concepts courants, favorisant ainsi des idées d'histoires plus novatrices et diversifiées.
Pour aller plus loin
Les contrôles de répétition d'Azure OpenAI s'attaquent à un mode de défaillance courant dans les modèles de langage autorégressifs : la répétition auto-renforcée. Lors de l'échantillonnage, le modèle calcule une distribution de probabilité pour le token suivant en se basant sur le contexte précédent ; si le contexte contient un mot, la probabilité conditionnelle de ce mot peut devenir élevée en raison des motifs appris lors de l'entraînement, ce qui conduit à une boucle de rétroaction où le modèle se répète. Le frequency penalty modifie cela en appliquant une pénalité linéaire basée sur le décompte absolu de chaque token dans le texte généré, tandis que le presence penalty applique une pénalité constante unique si le token apparaît ne serait-ce qu'une seule fois. Les deux sont natifs de l'API de complétion d'Azure OpenAI et peuvent être définis de -2,0 à 2,0 ; les valeurs positives réduisent la répétition, le frequency penalty étant plus fort pour les tokens utilisés de nombreuses fois. Une nuance subtile mais importante : le frequency penalty est appliqué à la log-probabilité avant l'échantillonnage, il modifie donc l'ordre relatif des tokens candidats et peut affecter la fluidité, augmentant potentiellement la créativité mais risquant également des résultats hors sujet s'il est réglé trop haut. Dans les scénarios d'écriture créative, combiner un frequency penalty modéré avec une température ou un top_p ajusté peut aider à équilibrer nouveauté et cohérence, mais seules les pénalités de répétition optimisent directement la réduction du contenu répété, c'est pourquoi elles constituent la bonne réponse lorsque la répétition est le problème principal.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.