MediaOpción múltiple

Pregunta de práctica de AI-900

¿Qué es la 'retrieval augmented generation' (RAG) y qué servicios de Azure la implementan típicamente?

Elige la mejor respuesta.

Respuesta correcta

  • BCombinación de Azure AI Search (recuperación) con Azure OpenAI (generación) para fundamentar las respuestas del LLM en una base de conocimiento

Explicación

La 'Retrieval Augmented Generation' (RAG) es un patrón que combina un paso de recuperación con un paso generativo. En Azure, esto se implementa típicamente utilizando Azure AI Search para recuperar documentos o fragmentos relevantes de una base de conocimiento, y luego pasando esos resultados como contexto a un modelo de Azure OpenAI (por ejemplo, GPT-4) para generar una respuesta fundamentada y basada en hechos. Este enfoque reduce las alucinaciones y garantiza que la salida se base en datos autorizados y no únicamente en los datos de entrenamiento del modelo.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Uso de Azure Storage para recuperar datos de entrenamiento para el ajuste fino del modelo

RAG recupera contenido de fundamentación en el momento de la consulta y lo inyecta en el 'prompt'; no extrae datos de entrenamiento para el ajuste fino ('fine-tuning'), lo cual cambia los pesos del modelo en lugar de aumentar los 'prompts'. Es tentador porque ambos involucran Azure Storage y modelos de lenguaje. Esta opción sería correcta cuando el requisito es ajustar un modelo utilizando datos de entrenamiento almacenados.

B

Correcta

Combinación de Azure AI Search (recuperación) con Azure OpenAI (generación) para fundamentar las respuestas del LLM en una base de conocimiento

RAG recupera documentos relevantes de una base de conocimiento y luego los suministra como contexto al modelo de lenguaje para que las respuestas se fundamenten en dichos datos. Azure AI Search realiza la recuperación y Azure OpenAI realiza la generación, lo que reduce las alucinaciones.

C

Incorrecta

Uso de Azure CDN para entregar contenido generado por IA más rápido a nivel global

Una CDN almacena en caché y distribuye geográficamente respuestas estáticas o generadas; no realiza ninguna recuperación de documentos de fundamentación ni aumento de 'prompts', por lo que no puede implementar RAG. Es tentador porque los puntos de conexión RAG se benefician de una entrega de baja latencia. Azure CDN sería la opción correcta cuando el requisito es acelerar la entrega global de contenido ya generado.

D

Incorrecta

Un método para comprimir grandes conjuntos de datos antes de entrenar modelos de lenguaje

RAG recupera documentos relevantes y los adjunta al 'prompt' en el momento de la inferencia; no comprime conjuntos de datos ni altera el entrenamiento. Es tentador porque los índices de recuperación y los 'embeddings' consumen almacenamiento, pero la compresión no está relacionada con la fundamentación. La compresión de conjuntos de datos sería el enfoque correcto cuando el objetivo es reducir los corpus de entrenamiento o disminuir el tamaño del modelo.

Para profundizar

RAG funciona convirtiendo una consulta de usuario en un 'vector embedding', ejecutando una búsqueda de similitud contra un corpus indexado e inyectando los principales pasajes recuperados en el 'prompt' del LLM como contexto de fundamentación antes de la generación. En Azure, Azure AI Search proporciona el índice vectorial/híbrido y el 'semantic ranker', mientras que Azure OpenAI suministra los modelos de 'embedding' y 'chat completion'; la orquestación normalmente se conecta mediante la característica 'Add your data', Azure AI Studio o Semantic Kernel. Un comportamiento sutil que vale la pena conocer es que la calidad de la recuperación limita la calidad de la respuesta; por lo tanto, el tamaño de los fragmentos ('chunk size'), la superposición y la puntuación híbrida afectan materialmente las tasas de alucinación. Un escenario realista es un asistente de políticas de recursos humanos (HR) interno que debe citar documentos actuales en lugar de depender de conocimientos preentrenados obsoletos.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.