FácilOpción múltiple

Pregunta de práctica de Generative AI Leader

Una startup está creando un chatbot de atención al cliente utilizando Vertex AI y desea fundamentar las respuestas en su documentación de productos para reducir las alucinaciones. ¿Qué enfoque deben utilizar?

Elige la mejor respuesta.

Respuesta correcta

  • AHabilitar Vertex AI Grounding con un almacén de datos empresarial personalizado que contenga la documentación.

Explicación

Vertex AI Grounding con un almacén de datos empresarial personalizado es el enfoque correcto porque permite que el chatbot recupere y cite fragmentos específicos de la documentación del producto en tiempo real, reduciendo directamente las alucinaciones al limitar las respuestas al contenido verificado. Este método utiliza el servicio de base subyacente para consultar un almacén de datos basado en vectores (potenciado por Vertex AI Search) y adjuntar referencias de origen a la salida del modelo, garantizando la precisión fáctica sin necesidad de reentrenamiento.

Por qué cada opción es correcta o incorrecta

A

Correcta

Habilitar Vertex AI Grounding con un almacén de datos empresarial personalizado que contenga la documentación.

La conexión a tierra con un almacén de datos empresarial personalizado recupera pasajes de la documentación del producto y los inyecta en el indicador, de modo que las respuestas citan contenido real en lugar de depender de la memoria paramétrica. Esto aborda directamente la restricción de alucinación en el enunciado.

B

Incorrecta

Utilizar la API de Codey para la generación de texto.

Codey genera y completa código; no puede recuperar la documentación del producto, por lo que las respuestas permanecen sin fundamento. Es tentador porque Codey es un modelo de generación de texto de Vertex AI, y sería la opción correcta para tareas de asistencia de código como autocompletado, generación o chat de código, no para respuestas de soporte basadas en documentos.

C

Incorrecta

Utilizar el modelo base sin ninguna base para maximizar la flexibilidad.

Usar el modelo base por sí solo deja las respuestas dependientes del conocimiento paramétrico, por lo que las alucinaciones persisten y no se consulta ninguna documentación. Es tentador porque los modelos base ofrecen una amplia flexibilidad en todos los temas, y sería correcto para tareas creativas o generales abiertas donde no se requiere fundamentación en un corpus específico.

D

Incorrecta

Ajustar finamente el modelo en la documentación y desplegarlo.

El ajuste fino integra la documentación en los pesos, lo cual no puede citar fuentes ni actualizarse sin un reentrenamiento, por lo que no fundamenta las respuestas en el momento de la inferencia. Es tentador porque el ajuste fino adapta un modelo al contenido del dominio, y sería correcto para enseñar un estilo coherente o un formato de tarea en lugar de recuperar hechos.

Para profundizar

Bajo el capó, Vertex AI Grounding utiliza una canalización de generación aumentada por recuperación (RAG) donde la consulta del usuario se incrusta en un vector, se realiza una búsqueda de vecinos más cercanos contra el almacén de datos personalizado (que indexa la documentación en fragmentos con incrustaciones), y los resultados principales se inyectan en el indicador como contexto. A continuación, el modelo genera una respuesta fundamentada en esos pasajes recuperados, y el servicio incluye automáticamente citas con URL de origen y números de página. Un comportamiento sutil es que el umbral de confianza de base se puede ajustar; si se establece demasiado alto, es posible que el modelo se niegue a responder, y si se establece demasiado bajo, aún podría alucinar ignorando el contexto recuperado.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de Generative AI Leader de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.