DifficileChoix unique

Question d'entraînement AI-900

Un développeur utilise Azure OpenAI Service pour générer des scripts de transformation de données. Les scripts générés contiennent parfois des erreurs logiques. Pour rendre la sortie du modèle plus déterministe et réduire la variabilité, quel paramètre le développeur doit-il diminuer?

Choisissez la meilleure réponse.

Bonne réponse

  • ATemperature

Explication

Temperature contrôle le caractère aléatoire de la sortie du modèle. Abaisser la température (par exemple, de 0,7 à 0,1) rend le modèle plus déterministe et ciblé, réduisant la variabilité et la probabilité d'erreurs logiques dans les scripts générés. C'est le paramètre correct à ajuster pour obtenir des réponses plus cohérentes et moins créatives.

Pourquoi chaque option est juste ou fausse

A

Juste

Temperature

Temperature contrôle le caractère aléatoire dans la sélection des jetons; l'abaisser amène le modèle à privilégier les jetons à plus forte probabilité, produisant une sortie de script plus déterministe et répétable. Cela réduit directement la variabilité logique observée par le développeur, répondant à l'exigence de scripts de transformation générés plus cohérents.

B

Fausse

Top_p

L'abaissement de top_p restreint l'échantillonnage par noyau, mais temperature est le paramètre contrôlant le caractère aléatoire; top_p tronque la masse de probabilité, de sorte que sa réduction seule permet toujours une variabilité au sein des jetons conservés. Top_p convient pour contraindre l'étendue du vocabulaire dans la génération créative, et non pour imposer une sortie de script déterministe.

C

Fausse

Frequency penalty

Frequency penalty réduit les logits pour les jetons déjà générés fréquemment, décourageant la répétition; l'abaisser permet plus de phrases répétées, et non moins de caractère aléatoire. C'est tentant car il freine les boucles dans les longues sorties et conviendrait à un scénario où le modèle répète des lignes identiques de manière excessive.

D

Fausse

Presence penalty

Presence penalty applique une réduction forfaitaire à tout jeton qui est apparu, poussant le modèle vers de nouveaux sujets; l'abaisser ne contraint pas le caractère aléatoire de l'échantillonnage. C'est tentant car il décourage la répétition, et serait correct lorsque la sortie boucle sur les mêmes phrases.

Pour aller plus loin

Temperature dans Azure OpenAI Service met à l'échelle la distribution de probabilité sur le jeton suivant avant l'échantillonnage; des valeurs plus basses affinent la distribution vers les jetons les plus probables, rendant la sortie plus déterministe et réduisant la variabilité créative. Top_p effectue un échantillonnage par noyau (nucleus sampling) en restreignant l'ensemble candidat à une masse de probabilité cumulative, et frequency penalty et presence penalty ajustent la répétition plutôt que le caractère aléatoire. Un comportement subtil à connaître : temperature et top_p interagissent, et Microsoft recommande d'en ajuster un seul à la fois; définir temperature sur 0 ne garantit toujours pas des sorties identiques entre les appels en raison du non-déterminisme de la pile de service. Dans un scénario réel, un développeur générant des scripts de transformation de données définit une température basse pour obtenir un code cohérent et répétable, puis valide les scripts car un caractère aléatoire réduit diminue mais n'élimine pas les erreurs logiques.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.