Respuesta correcta
- BImplementar generación aumentada por recuperación (RAG) para fundamentar el modelo en los documentos originales y exigir citas.
Explicación
La generación aumentada por recuperación (RAG) es la mitigación más directa y eficaz para la alucinación en la sumarización de documentos porque obliga al LLM a basar su salida en fragmentos recuperados del documento original. Al exigir citas, el modelo debe hacer referencia a pasajes específicos, lo que lo hace verificable y reduce la probabilidad de fabricar contenido. Esto fundamenta la generación en el material de origen, abordando la causa raíz de la alucinación (la falta de fundamentación fáctica) en lugar de depender de la corrección posterior o del ajuste de la salida.
Para profundizar
RAG funciona incrustando los documentos de origen en una base de datos vectorial; luego, en el momento de la inferencia, recupera los k fragmentos más relevantes mediante la búsqueda de similitud de coseno (por ejemplo, utilizando FAISS) y los antepone al indicador del LLM como contexto. Esto limita eficazmente el espacio de salida del modelo a la información presente en los fragmentos recuperados, y exigir citas (por ejemplo, 'Según la sección 3.2...') permite a los revisores humanos verificar la fidelidad. En la práctica, incluso con RAG, aún pueden ocurrir alucinaciones si el paso de recuperación no devuelve los fragmentos relevantes o si el LLM ignora el contexto proporcionado, por lo que el tamaño y la superposición de los fragmentos deben ajustarse cuidadosamente.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de Generative AI Leader de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.