MediaOpción múltiple

Pregunta de práctica de Generative AI Leader

Una empresa implementa un modelo de lenguaje grande (LLM) para la sumarización de documentos internos. Los usuarios se quejan de que los resúmenes a veces incluyen declaraciones que no están presentes en el documento original. ¿Qué estrategia de mitigación debe priorizar el equipo para abordar este problema de alucinación?

Elige la mejor respuesta.

Respuesta correcta

  • BImplementar generación aumentada por recuperación (RAG) para fundamentar el modelo en los documentos originales y exigir citas.

Explicación

La generación aumentada por recuperación (RAG) es la mitigación más directa y eficaz para la alucinación en la sumarización de documentos porque obliga al LLM a basar su salida en fragmentos recuperados del documento original. Al exigir citas, el modelo debe hacer referencia a pasajes específicos, lo que lo hace verificable y reduce la probabilidad de fabricar contenido. Esto fundamenta la generación en el material de origen, abordando la causa raíz de la alucinación (la falta de fundamentación fáctica) en lugar de depender de la corrección posterior o del ajuste de la salida.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Entrenar un modelo discriminador para detectar alucinaciones y realizar entrenamiento adversarial.

Entrenar un discriminador con entrenamiento adversarial es una tubería que requiere mucha investigación, datos de alucinaciones etiquetados y reentrenamiento, lo que no limita directamente la decodificación del sumariador. Es tentador porque los métodos adversariales endurecen los clasificadores contra entradas manipuladas, y se adaptaría a las pruebas de robustez en lugar de fundamentar los resúmenes en los documentos de origen.

B

Correcta

Implementar generación aumentada por recuperación (RAG) para fundamentar el modelo en los documentos originales y exigir citas.

La generación aumentada por recuperación fundamenta cada resumen en pasajes recuperados del documento original, de modo que el modelo condiciona su salida en texto real en lugar de solo en la memoria paramétrica. Exigir citas fuerza una atribución verificable, satisfaciendo directamente la restricción del enunciado de que los resúmenes no deben contener declaraciones ausentes del original.

C

Incorrecta

Aplicar aprendizaje por refuerzo a partir de retroalimentación humana (RLHF) utilizando un modelo de recompensa que penalice las alucinaciones.

RLHF con un modelo de recompensa que penaliza las alucinaciones requiere anotaciones de preferencias humanas a gran escala y un ajuste fino completo del modelo, un ciclo lento y costoso que no garantiza la fidelidad en la inferencia. Es tentador porque RLHF alinea el comportamiento del modelo en términos generales, y sería correcto para ajustar el tono, la utilidad o el comportamiento de negativa en muchas interacciones.

D

Incorrecta

Reducir el parámetro de temperatura del modelo a 0 para hacer que las salidas sean deterministas.

La temperatura 0 hace que la decodificación sea codiciosa y repetible, pero el determinismo no impide que el modelo afirme hechos no respaldados; los mismos tokens erróneos se producen cada vez. Es tentador porque la temperatura baja frena la deriva creativa, y sería correcto cuando la redacción consistente y reproducible importa más que la base fáctica.

Para profundizar

RAG funciona incrustando los documentos de origen en una base de datos vectorial; luego, en el momento de la inferencia, recupera los k fragmentos más relevantes mediante la búsqueda de similitud de coseno (por ejemplo, utilizando FAISS) y los antepone al indicador del LLM como contexto. Esto limita eficazmente el espacio de salida del modelo a la información presente en los fragmentos recuperados, y exigir citas (por ejemplo, 'Según la sección 3.2...') permite a los revisores humanos verificar la fidelidad. En la práctica, incluso con RAG, aún pueden ocurrir alucinaciones si el paso de recuperación no devuelve los fragmentos relevantes o si el LLM ignora el contexto proporcionado, por lo que el tamaño y la superposición de los fragmentos deben ajustarse cuidadosamente.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de Generative AI Leader de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.