Bonne réponse
Explication
La température est correcte car elle contrôle l'aléatoire de la sélection des jetons dans la distribution de probabilité du modèle. L'augmentation de la température (par exemple, de 0.7 à 1.0) aplatit la courbe de probabilité, rendant les jetons de moindre probabilité plus susceptibles d'être choisis, ce qui introduit davantage de diversité et de créativité dans les titres générés.
Pour aller plus loin
La température met à l'échelle les logits avant la fonction softmax, de sorte que les valeurs plus basses affinent la distribution de probabilité vers le jeton le plus probable et les valeurs plus élevées l'aplatissent, donnant aux jetons moins probables plus de chances d'être sélectionnés. Une subtilité est que la température et top_p interagissent : top_p tronque la masse de probabilité cumulative, de sorte qu'une température élevée avec un top_p bas limite toujours l'aléatoire. La pénalité de fréquence réduit la répétition en fonction de la fréquence à laquelle un jeton est déjà apparu, tandis que la pénalité de présence pénalise tout jeton qui est apparu au moins une fois, de sorte qu'aucune des deux n'augmente directement la variation créative de la même manière que la température. En pratique, une équipe marketing souhaitant des titres plus diversifiés peut augmenter la température à environ 1,0 ou légèrement au-dessus tout en maintenant top_p proche de 0,95 pour éviter des sorties incohérentes.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.