MoyenneChoix unique

Question d'entraînement AI-102

Une entreprise utilise Azure OpenAI Service pour générer des descriptions de produits. Elle remarque que les descriptions contiennent parfois des informations factuelles incorrectes. Quelle stratégie doit-elle utiliser pour réduire les hallucinations ?

Choisissez la meilleure réponse.

Bonne réponse

  • BImplémenter Retrieval-Augmented Generation (RAG) en ancrant les prompts avec une base de connaissances.

Explication

Retrieval-Augmented Generation (RAG) fonde la réponse du modèle sur une base de connaissances externe et fiable, fournissant un contexte factuel qui réduit directement les hallucinations. En récupérant des documents pertinents et en les injectant dans le prompt, le modèle génère des réponses basées sur des informations vérifiées plutôt que de s'appuyer uniquement sur sa mémoire paramétrique, qui est la principale cause des inexactitudes factuelles dans Azure OpenAI Service.

Pourquoi chaque option est juste ou fausse

A

Fausse

Augmenter le paramètre temperature à 1.0.

Augmenter la température à 1.0 accroît le caractère aléatoire de l'échantillonnage, ce qui amplifie le contenu inventé au lieu de le réduire ; l'atténuation des hallucinations nécessite une température plus basse et un ancrage. Le réglage de la température est utile pour la diversité créative dans le brainstorming ou la génération de textes marketing, où la variété de la formulation importe plus que l'exactitude factuelle.

B

Juste

Implémenter Retrieval-Augmented Generation (RAG) en ancrant les prompts avec une base de connaissances.

RAG ancre les réponses du modèle dans du contenu récupéré et vérifiable provenant d'une base de connaissances, de sorte que les descriptions générées font référence à de véritables données produit plutôt que de reposer uniquement sur la mémoire paramétrique. Cela réduit directement les faits inventés, répondant ainsi à l'exigence de diminution des hallucinations.

C

Fausse

Réduire le paramètre max_tokens pour limiter la longueur de la sortie.

max_tokens limite uniquement la longueur de la réponse ; il n'améliore pas l'ancrage factuel, et tronquer la sortie peut même supprimer un contexte qualificatif. Il est utilisé pour contrôler les coûts et la latence. La réduction des hallucinations nécessite d'ancrer le modèle avec des données sources récupérées et vérifiables.

D

Fausse

Ajouter un message système instruisant le modèle d'être plus prudent.

Un message système façonne le ton, le format et le comportement mais ne fournit aucun ancrage factuel, de sorte que le modèle peut toujours inventer des détails avec assurance. Les messages système sont utilisés pour définir la personnalité et les contraintes de sortie. Les hallucinations sont réduites en ancrant les prompts dans des documents sources récupérés.

Pour aller plus loin

En arrière-plan, RAG fonctionne en intégrant les requêtes des utilisateurs et les documents d'une base de connaissances dans un espace vectoriel à l'aide de modèles tels que text-embedding-ada-002, puis en effectuant une recherche de similarité (par exemple, la similarité cosinus) pour récupérer les fragments les plus pertinents. Ces fragments sont préfixés au prompt, ce qui contraint efficacement la génération du modèle au contexte récupéré, réduisant ainsi la probabilité d'hallucination en limitant la dépendance du modèle vis-à-vis de la distribution de ses données d'entraînement. Dans un scénario réel, un catalogue de produits comportant des milliers de SKU peut être indexé dans Azure Cognitive Search, et le pipeline RAG garantit que chaque description générée fait référence aux spécifications réelles du produit issues de la base de données.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-102 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.