MediaOpción múltiple

Pregunta de práctica de AI-102

Una empresa utiliza Azure OpenAI Service para generar descripciones de productos. Nota que las descripciones a veces contienen información incorrecta. ¿Qué estrategia debe utilizar para reducir las alucinaciones?

Elige la mejor respuesta.

Respuesta correcta

  • BImplementar Retrieval-Augmented Generation (RAG) anclando los prompts con una base de conocimiento.

Explicación

Retrieval-Augmented Generation (RAG) fundamenta la respuesta del modelo en una base de conocimiento externa y confiable, proporcionando contexto factual que reduce directamente las alucinaciones. Al recuperar documentos relevantes e inyectarlos en el prompt, el modelo genera respuestas basadas en información verificada en lugar de depender únicamente de su memoria paramétrica, la cual es la causa principal de las imprecisiones fácticas en Azure OpenAI Service.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Aumentar el parámetro temperature a 1.0.

Elevar la temperatura a 1.0 aumenta la aleatoriedad en el muestreo, lo que amplifica en lugar de reducir el contenido fabricado; la mitigación de alucinaciones requiere una temperatura más baja junto con un anclaje. El ajuste de temperatura es útil para la diversidad creativa en la generación de textos de marketing o lluvia de ideas, donde la variación en la redacción importa más que la precisión fáctica.

B

Correcta

Implementar Retrieval-Augmented Generation (RAG) anclando los prompts con una base de conocimiento.

RAG fundamenta las respuestas del modelo en contenido recuperado y verificable de una base de conocimiento, de modo que las descripciones generadas hacen referencia a datos reales de productos en lugar de depender únicamente de la memoria paramétrica. Esto reduce directamente los hechos fabricados, cumpliendo con el requisito de disminuir las alucinaciones.

C

Incorrecta

Reducir el parámetro max_tokens para limitar la longitud de la salida.

max_tokens limita únicamente la longitud de la respuesta; no mejora la fundamentación fáctica, y truncar la salida puede incluso eliminar contexto calificativo. Se utiliza para controlar costos y latencia. Reducir las alucinaciones requiere fundamentar el modelo con datos de origen recuperados y verificables.

D

Incorrecta

Agregar un mensaje de sistema que instruya al modelo a ser más cuidadoso.

Un mensaje de sistema moldea el tono, el formato y el comportamiento, pero no proporciona ningún fundamento fáctico, por lo que el modelo aún puede inventar detalles con confianza. Los mensajes de sistema se utilizan para establecer la personalidad y restricciones de salida. Las alucinaciones se reducen fundamentando los prompts en documentos de origen recuperados.

Para profundizar

Internamente, RAG funciona incorporando consultas de usuarios y documentos de una base de conocimiento en un espacio vectorial utilizando modelos como text-embedding-ada-002, para luego realizar una búsqueda de similitud (por ejemplo, similitud de coseno) y recuperar los fragmentos más relevantes. Estos fragmentos se anteponen al prompt, limitando efectivamente la generación del modelo al contexto recuperado, lo que reduce la probabilidad de alucinación al disminuir la dependencia de la distribución de los datos de entrenamiento. En un escenario del mundo real, un catálogo de productos con miles de SKUs puede indexarse en Azure Cognitive Search, y el flujo de RAG garantiza que cada descripción generada haga referencia a las especificaciones reales del producto desde la base de datos.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-102 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.