MoyenneChoix unique

Question d'entraînement AI-900

Qu'est-ce que la 'retrieval augmented generation' (RAG) et quels services Azure l'implémentent-ils typiquement ?

Choisissez la meilleure réponse.

Bonne réponse

  • BAssociation d'Azure AI Search (recherche) et d'Azure OpenAI (génération) pour ancrer les réponses du LLM dans une base de connaissances

Explication

La 'Retrieval Augmented Generation' (RAG) est un modèle qui associe une étape de recherche à une étape générative. Sur Azure, cela est typiquement implémenté en utilisant Azure AI Search pour récupérer des documents ou des segments pertinents à partir d'une base de connaissances, puis en transmettant ces résultats comme contexte à un modèle Azure OpenAI (par exemple, GPT-4) pour générer une réponse ancrée et factuelle. Cette approche réduit les hallucinations et garantit que la sortie repose sur des données officielles plutôt que sur les seules données d'entraînement du modèle.

Pourquoi chaque option est juste ou fausse

A

Fausse

Utilisation d'Azure Storage pour récupérer des données d'entraînement pour le réglage fin du modèle

RAG récupère du contenu d'ancrage au moment de la requête et l'injecte dans le 'prompt'; il ne récupère pas de données d'entraînement pour le réglage fin ('fine-tuning'), ce qui modifie les poids du modèle plutôt que d'augmenter les 'prompts'. C'est tentant car les deux impliquent Azure Storage et des modèles de langage. Cette option serait correcte lorsque l'exigence est le réglage fin d'un modèle sur des données d'entraînement stockées.

B

Juste

Association d'Azure AI Search (recherche) et d'Azure OpenAI (génération) pour ancrer les réponses du LLM dans une base de connaissances

RAG récupère des documents pertinents d'une base de connaissances, puis les fournit comme contexte au modèle de langage afin que les réponses soient ancrées dans ces données. Azure AI Search effectue la recherche et Azure OpenAI effectue la génération, ce qui réduit les hallucinations.

C

Fausse

Utilisation d'Azure CDN pour livrer du contenu généré par IA plus rapidement à l'échelle mondiale

Un CDN met en cache et distribue géographiquement des réponses statiques ou générées; il n'effectue aucune recherche de documents d'ancrage ni aucune augmentation de 'prompt', il ne peut donc pas implémenter RAG. C'est tentant car les points de terminaison RAG bénéficient d'une livraison à faible latence. Azure CDN serait le bon choix lorsque l'exigence est d'accélérer la livraison mondiale de contenu déjà généré.

D

Fausse

Une méthode de compression de grands ensembles de données avant d'entraîner des modèles de langage

RAG récupère des documents pertinents et les ajoute au 'prompt' au moment de l'inférence; il ne comprime pas les ensembles de données et ne modifie pas l'entraînement. C'est tentant car les index de recherche et les 'embeddings' consomment du stockage, mais la compression n'a aucun rapport avec l'ancrage. La compression d'ensembles de données serait l'approche correcte lorsque l'objectif est de réduire les corpus d'entraînement ou la taille du modèle.

Pour aller plus loin

RAG fonctionne en convertissant une requête utilisateur en un 'vector embedding', en exécutant une recherche de similarité sur un corpus indexé et en injectant les meilleurs passages récupérés dans le 'prompt' du LLM en tant que contexte d'ancrage avant la génération. Sur Azure, Azure AI Search fournit l'index vectoriel/hybride et le 'semantic ranker', tandis qu'Azure OpenAI fournit les modèles d'intégration ('embedding') et de complétion de chat; l'orchestration est généralement connectée via la fonctionnalité 'Add your data', Azure AI Studio ou Semantic Kernel. Un comportement subtil à connaître est que la qualité de la recherche limite la qualité de la réponse, de sorte que la taille des segments ('chunk size'), le chevauchement et le score hybride affectent sensiblement les taux d'hallucination. Un scénario réaliste est un assistant de politique de ressources humaines (HR) interne qui doit citer des documents actuels plutôt que de s'appuyer sur des connaissances pré-entraînées obsolètes.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.