FacileChoix unique

Question d'entraînement Generative AI Leader

Une startup développe un chatbot de support client en utilisant Vertex AI et souhaite ancrer les réponses dans sa documentation produit pour réduire les hallucinations. Quelle approche doivent-ils utiliser ?

Choisissez la meilleure réponse.

Bonne réponse

  • AActiver Vertex AI Grounding avec un magasin de données d'entreprise personnalisé contenant la documentation.

Explication

Vertex AI Grounding avec un magasin de données d'entreprise personnalisé est l'approche correcte car elle permet au chatbot de récupérer et de citer des extraits spécifiques de la documentation produit en temps réel, réduisant directement les hallucinations en limitant les réponses à du contenu vérifié. Cette méthode utilise le service d'ancrage sous-jacent pour interroger un magasin de données vectoriel (propulsé par Vertex AI Search) et ajouter des références de source à la sortie du modèle, garantissant l'exactitude factuelle sans réentraînement.

Pourquoi chaque option est juste ou fausse

A

Juste

Activer Vertex AI Grounding avec un magasin de données d'entreprise personnalisé contenant la documentation.

L'ancrage avec un magasin de données d'entreprise personnalisé extrait des passages de la documentation produit et les injecte dans le prompt, de sorte que les réponses citent du contenu réel plutôt que de s'appuyer sur la mémoire paramétrique. Cela répond directement à la contrainte d'hallucination énoncée.

B

Fausse

Utiliser l'API Codey pour la génération de texte.

Codey génère et complète du code ; il ne peut pas récupérer la documentation produit, de sorte que les réponses restent non ancrées. C'est tentant car Codey est un modèle de génération de texte Vertex AI, et ce serait le bon choix pour des tâches d'assistance au code telles que la complétion, la génération ou le chat de code, et non pour des réponses de support basées sur des documents.

C

Fausse

Utiliser le modèle de base sans aucun ancrage pour maximiser la flexibilité.

L'utilisation du modèle de base seul rend les réponses dépendantes de la connaissance paramétrique, de sorte que les hallucinations persistent et aucune documentation n'est consultée. C'est tentant car les modèles de base offrent une grande flexibilité sur tous les sujets, et ce serait correct pour des tâches créatives ou générales ouvertes où un ancrage dans un corpus spécifique n'est pas requis.

D

Fausse

Affiner le modèle sur la documentation et le déployer.

Le fine-tuning intègre la documentation dans les poids, ce qui ne permet pas de citer des sources ni de se mettre à jour sans réentraînement, de sorte qu'il n'ancre pas les réponses au moment de l'inférence. C'est tentant car le fine-tuning adapte un modèle au contenu du domaine, et ce serait correct pour enseigner un style cohérent ou un format de tâche plutôt que de récupérer des faits.

Pour aller plus loin

Sous le capot, Vertex AI Grounding utilise un pipeline de génération augmentée par récupération (RAG) où la requête de l'utilisateur est convertie en vecteur, une recherche des plus proches voisins est effectuée sur le magasin de données personnalisé (qui indexe la documentation en morceaux avec des représentations vectorielles), et les meilleurs résultats sont injectés dans le prompt comme contexte. Le modèle génère ensuite une réponse ancrée dans ces passages récupérés, et le service inclut automatiquement des citations avec des URL de source et des numéros de page. Un comportement subtil est que le seuil de confiance de l'ancrage peut être ajusté ; s'il est défini trop haut, le modèle peut refuser de répondre, et s'il est défini trop bas, il peut toujours halluciner en ignorant le contexte récupéré.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement Generative AI Leader originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.