Bonne réponse
- BUtiliser l'ancrage en incluant le texte du rapport dans l'invite et en instruisant explicitement le modèle de baser le résumé uniquement sur ce texte.
Explication
Ancrer (grounding) le modèle avec le texte source et lui donner pour instruction explicite de baser le résumé uniquement sur ce texte est le moyen le plus direct de réduire les hallucinations. Azure OpenAI Service s'appuie sur l'invite pour obtenir du contexte ; en fournissant le rapport brut et une consigne stricte, le modèle est contraint d'extraire des faits du contenu fourni plutôt que de générer de nouvelles informations.
Pour aller plus loin
L'ancrage (grounding) contraint la génération en fournissant directement le texte source de référence dans l'invite et en ordonnant au modèle de répondre uniquement à partir de celui-ci, ce qui réduit les hallucinations car le modèle conditionne ses tokens sur le contexte fourni plutôt que sur sa mémoire paramétrique. Azure OpenAI Service propose également la fonctionnalité On Your Data, qui récupère et cite des documents, mais l'ancrage en ligne est l'approche légère ici. La température contrôle le caractère aléatoire de l'échantillonnage et non la fidélité factuelle, donc l'abaisser n'aide que de manière marginale ; la pénalité de fréquence décourage la répétition et max_tokens ne fait que tronquer la sortie. Une limite subtile : même les modèles ancrés peuvent fabriquer des informations si le contexte est ambigu, de sorte que la vérification des citations reste prudente. Cela compte pour les résumés de résultats où un chiffre inventé pourrait déclencher des problèmes de conformité.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.