Bonne réponse
- BMettre en œuvre la génération augmentée par récupération (RAG) pour ancrer le modèle dans les documents d'origine et exiger des citations.
Explication
La génération augmentée par récupération (RAG) est l'atténuation la plus directe et la plus efficace contre les hallucinations dans la synthèse de documents, car elle force le LLM à baser sa sortie sur des segments récupérés du document d'origine. En exigeant des citations, le modèle doit faire référence à des passages spécifiques, ce qui le rend vérifiable et réduit la probabilité de fabriquer du contenu. Cela ancre la génération dans le matériel source, s'attaquant à la cause racine de l'hallucination (le manque d'ancrage factuel) plutôt que de s'appuyer sur une correction a posteriori ou un réglage de la sortie.
Pour aller plus loin
Le RAG fonctionne en intégrant les documents sources dans une base de données vectorielle, puis, au moment de l'inférence, en récupérant les k segments les plus pertinents via une recherche de similarité cosinus (par exemple, en utilisant FAISS) et en les préfixant au prompt du LLM en tant que contexte. Cela contraint efficacement l'espace de sortie du modèle aux informations présentes dans les segments récupérés, et exiger des citations (par exemple, 'Selon la section 3.2...') permet aux réviseurs humains de vérifier la fidélité. En pratique, même avec le RAG, des hallucinations peuvent encore se produire si l'étape de récupération ne renvoie pas de segments pertinents ou si le LLM ignore le contexte fourni, de sorte que la taille et le chevauchement des segments doivent être soigneusement ajustés.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement Generative AI Leader originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.