MoyenneChoix unique

Question d'entraînement Generative AI Leader

Une entreprise déploie un grand modèle de langage (LLM) pour la synthèse de documents internes. Les utilisateurs se plaignent que les résumés incluent parfois des affirmations absentes du document d'origine. Quelle stratégie d'atténuation l'équipe doit-elle prioriser pour résoudre ce problème d'hallucination ?

Choisissez la meilleure réponse.

Bonne réponse

  • BMettre en œuvre la génération augmentée par récupération (RAG) pour ancrer le modèle dans les documents d'origine et exiger des citations.

Explication

La génération augmentée par récupération (RAG) est l'atténuation la plus directe et la plus efficace contre les hallucinations dans la synthèse de documents, car elle force le LLM à baser sa sortie sur des segments récupérés du document d'origine. En exigeant des citations, le modèle doit faire référence à des passages spécifiques, ce qui le rend vérifiable et réduit la probabilité de fabriquer du contenu. Cela ancre la génération dans le matériel source, s'attaquant à la cause racine de l'hallucination (le manque d'ancrage factuel) plutôt que de s'appuyer sur une correction a posteriori ou un réglage de la sortie.

Pourquoi chaque option est juste ou fausse

A

Fausse

Entraîner un modèle discriminateur pour détecter les hallucinations et effectuer un entraînement contradictoire.

L'entraînement d'un discriminateur par entraînement contradictoire est un pipeline gourmand en recherche nécessitant des données d'hallucination étiquetées et un réentraînement, ce qui ne contraint pas directement le décodage du synthétiseur. C'est tentant car les méthodes contradictoires renforcent les classifieurs contre les entrées forgées, et cela conviendrait aux tests de robustesse plutôt qu'à l'ancrage des résumés dans les documents sources.

B

Juste

Mettre en œuvre la génération augmentée par récupération (RAG) pour ancrer le modèle dans les documents d'origine et exiger des citations.

La génération augmentée par récupération ancre chaque résumé dans des passages récupérés du document source, de sorte que le modèle conditionne sa sortie sur du texte réel plutôt que sur la seule mémoire paramétrique. Exiger des citations force une attribution vérifiable, satisfaisant directement la contrainte de l'énoncé selon laquelle les résumés ne doivent pas contenir d'affirmations absentes de l'original.

C

Fausse

Appliquer l'apprentissage par renforcement à partir de retours humains (RLHF) à l'aide d'un modèle de récompense qui pénalise les hallucinations.

Le RLHF avec un modèle de récompense pénalisant les hallucinations nécessite une annotation de préférence humaine à grande échelle et un réglage fin complet du modèle, un cycle lent et coûteux qui ne garantit pas la fidélité lors de l'inférence. C'est tentant car le RLHF aligne globalement le comportement du modèle, et il serait correct pour ajuster le ton, l'utilité ou le comportement de refus sur de nombreuses interactions.

D

Fausse

Réduire le paramètre de température du modèle à 0 pour rendre les sorties déterministes.

Une température de 0 rend le décodage glouton et répétitif, mais le déterminisme n'empêche pas le modèle d'affirmer des faits non étayés ; les mêmes jetons erronés sont produits à chaque fois. C'est tentant car une température basse freine la dérive créative, et ce serait correct lorsque la formulation cohérente et reproductible importe plus que l'ancrage factuel.

Pour aller plus loin

Le RAG fonctionne en intégrant les documents sources dans une base de données vectorielle, puis, au moment de l'inférence, en récupérant les k segments les plus pertinents via une recherche de similarité cosinus (par exemple, en utilisant FAISS) et en les préfixant au prompt du LLM en tant que contexte. Cela contraint efficacement l'espace de sortie du modèle aux informations présentes dans les segments récupérés, et exiger des citations (par exemple, 'Selon la section 3.2...') permet aux réviseurs humains de vérifier la fidélité. En pratique, même avec le RAG, des hallucinations peuvent encore se produire si l'étape de récupération ne renvoie pas de segments pertinents ou si le LLM ignore le contexte fourni, de sorte que la taille et le chevauchement des segments doivent être soigneusement ajustés.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement Generative AI Leader originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.