MoyenneChoix unique

Question d'entraînement AI-900

Un analyste financier utilise Azure OpenAI Service pour générer des résumés de rapports de résultats trimestriels. L'analyste fournit le texte brut du rapport dans l'invite et souhaite que le résumé s'en tienne strictement aux faits présentés dans ce texte, sans ajouter d'informations externes ni de spéculation. Quelle technique l'analyste doit-il employer pour minimiser le risque que le modèle invente des informations ?

Choisissez la meilleure réponse.

Bonne réponse

  • BUtiliser l'ancrage en incluant le texte du rapport dans l'invite et en instruisant explicitement le modèle de baser le résumé uniquement sur ce texte.

Explication

Ancrer (grounding) le modèle avec le texte source et lui donner pour instruction explicite de baser le résumé uniquement sur ce texte est le moyen le plus direct de réduire les hallucinations. Azure OpenAI Service s'appuie sur l'invite pour obtenir du contexte ; en fournissant le rapport brut et une consigne stricte, le modèle est contraint d'extraire des faits du contenu fourni plutôt que de générer de nouvelles informations.

Pourquoi chaque option est juste ou fausse

A

Fausse

Définir le paramètre temperature sur une valeur élevée.

Une température élevée élargit la distribution d'échantillonnage, augmentant le caractère aléatoire et la probabilité de contenu fabriqué, ce qui aggrave directement les hallucinations. C'est tentant car la température contrôle la créativité, ce qui convient au brainstorming ou à la génération de textes marketing où l'on recherche un résultat varié et novateur plutôt qu'un ancrage strict dans le texte fourni.

B

Juste

Utiliser l'ancrage en incluant le texte du rapport dans l'invite et en instruisant explicitement le modèle de baser le résumé uniquement sur ce texte.

Inclure le texte du rapport dans l'invite fournit au modèle un contexte ancré, de sorte que sa sortie est conditionnée par ces tokens plutôt que par sa mémoire paramétrique. L'instruction explicite contraint davantage la génération aux éléments de preuve fournis, ce qui répond directement à l'exigence de l'énoncé d'éviter toute information externe ou spéculation.

C

Fausse

Définir le paramètre frequency penalty sur la valeur maximale autorisée.

La pénalité de fréquence réduit la répétition des tokens déjà émis ; elle ne contraint pas le modèle au texte source fourni, de sorte que les faits inventés restent possibles. C'est tentant car cela façonne le style de sortie, et ce serait le bon levier lorsque le texte généré répète excessivement des expressions.

D

Fausse

Définir le paramètre max_tokens sur un nombre très petit.

max_tokens limite uniquement la longueur de la réponse ; une sortie courte peut toujours contenir des faits fabriqués, et la troncature peut couper le résumé au milieu d'une phrase. C'est tentant car limiter la sortie semble restreindre l'invention, et c'est vraiment utile pour contrôler le coût et la latence, mais pas l'ancrage factuel.

Pour aller plus loin

L'ancrage (grounding) contraint la génération en fournissant directement le texte source de référence dans l'invite et en ordonnant au modèle de répondre uniquement à partir de celui-ci, ce qui réduit les hallucinations car le modèle conditionne ses tokens sur le contexte fourni plutôt que sur sa mémoire paramétrique. Azure OpenAI Service propose également la fonctionnalité On Your Data, qui récupère et cite des documents, mais l'ancrage en ligne est l'approche légère ici. La température contrôle le caractère aléatoire de l'échantillonnage et non la fidélité factuelle, donc l'abaisser n'aide que de manière marginale ; la pénalité de fréquence décourage la répétition et max_tokens ne fait que tronquer la sortie. Une limite subtile : même les modèles ancrés peuvent fabriquer des informations si le contexte est ambigu, de sorte que la vérification des citations reste prudente. Cela compte pour les résumés de résultats où un chiffre inventé pourrait déclencher des problèmes de conformité.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.