MediaSelección múltiple

Pregunta de práctica de Generative AI Leader

Una institución financiera está implementando un chatbot de IA generativa para gestionar las consultas de los clientes. La institución debe cumplir con los requisitos reglamentarios (por ejemplo, GDPR, SOX) y garantizar la privacidad de los datos. ¿Qué DOS acciones debe tomar la institución?

Elige todas las respuestas correctas.

Respuestas correctas

  • AEstablecer un Centro de Excelencia (CoE) para la gobernanza de la IA para supervisar el despliegue y el seguimiento de los modelos.
  • DImplementar la validación y prueba de modelos para garantizar que los resultados cumplan con los estándares reglamentarios.

Explicación

La opción A es correcta porque establecer un Centro de Excelencia (CoE) para la gobernanza de la IA proporciona la supervisión, la aplicación de políticas y el seguimiento necesarios para mantener un chatbot de IA generativa en cumplimiento con el GDPR y la SOX, abarcando el despliegue de modelos, la gestión de riesgos y la rendición de cuentas. La opción D es correcta porque la validación y prueba de modelos son esenciales para verificar que los resultados del chatbot cumplan con las normas reglamentarias, detectar sesgos o fugas de datos, y garantizar el cumplimiento continuo antes y después del despliegue. La opción B es incorrecta porque usar Vertex AI sin controles adicionales de gobernanza de datos no cumple con los requisitos de privacidad y auditoría del GDPR y la SOX. La opción C es incorrecta porque un modelo preentrenado sin personalización no satisface por sí solo las obligaciones de cumplimiento normativo o privacidad de datos. La opción E es incorrecta porque el despliegue local por sí solo no garantiza el cumplimiento y puede no ser viable o suficiente para las necesidades reglamentarias y operativas de la institución.

Por qué cada opción es correcta o incorrecta

A

Correcta

Establecer un Centro de Excelencia (CoE) para la gobernanza de la IA para supervisar el despliegue y el seguimiento de los modelos.

Un CoE centraliza la gobernanza de la IA, otorgando a la institución financiera la estructura de supervisión necesaria para hacer cumplir los controles del GDPR y la SOX en el despliegue y el seguimiento de los modelos. Asigna responsabilidades, estandariza las puertas de revisión y garantiza que los requisitos de privacidad se apliquen de manera coherente.

B

Incorrecta

Usar Vertex AI sin controles adicionales de gobernanza de datos para simplificar el despliegue.

Vertex AI sin controles de gobernanza deja la clasificación de datos, el registro de accesos y la retención sin gestionar, por lo que no se cumplen las obligaciones del GDPR y la SOX. Es tentador porque Vertex AI proporciona el alojamiento de modelos administrados y las herramientas necesarias para construir el chatbot rápidamente; sería correcto cuando la carga de trabajo no conlleva datos personales o financieros regulados que requieran dichos controles.

C

Incorrecta

Usar un modelo preentrenado sin personalización para reducir el tiempo de desarrollo.

Un modelo preentrenado sin personalización sigue procesando datos de los clientes, por lo que los controles de privacidad y reglamentarios quedan sin abordar; un menor tiempo de desarrollo no satisface el GDPR ni la SOX. Es tentador porque los modelos preentrenados aceleran genuinamente la entrega, y serían la opción correcta para casos de uso de bajo riesgo y no regulados donde no se manipulan datos personales o financieros.

D

Correcta

Implementar la validación y prueba de modelos para garantizar que los resultados cumplan con los estándares reglamentarios.

La validación y prueba de modelos satisface directamente la restricción de cumplimiento normativo al verificar sistemáticamente que las salidas generativas se alineen con los requisitos del GDPR y la SOX antes del despliegue. Las pruebas detectan salidas que podrían infringir las reglas de privacidad de datos, proporcionando evidencia auditable de la diligencia debida. Este mecanismo de garantía proactiva es esencial para una institución financiera que enfrenta un escrutinio regulatorio estricto.

E

Incorrecta

Desplegar el modelo únicamente de forma local para mantener los datos dentro de la infraestructura local.

El despliegue local no satisface por sí solo el GDPR ni la SOX; esas obligaciones conciernen al manejo, la retención y la auditabilidad de los datos dondequiera que se produzca el procesamiento. Es tentador porque mantener los datos dentro de la infraestructura local aborda genuinamente las preocupaciones de soberanía y residencia de datos, y sería la opción correcta cuando la regulación prohíbe explícitamente la transferencia transfronteriza o exige el aislamiento físico.

Para profundizar

Un Centro de Excelencia para la gobernanza de la IA normalmente define niveles de riesgo de modelos, flujos de trabajo de aprobación y KPI de seguimiento alineados con marcos como NIST AI RMF e ISO/IEC 42001. La validación de modelos para la IA generativa va más allá de las pruebas de precisión: incluye pruebas de penetración (red-teaming) para inyección de instrucciones, detección de fugas de PII, medición de la tasa de alucinación y filtrado de salidas frente a léxicos reglamentarios. Según el Artículo 22 del GDPR, la toma de decisiones automatizada requiere supervisión humana y explicabilidad, lo cual un Centro de Excelencia puede poner en práctica a través de puertas de revisión. La Sección 404 de la SOX exige controles internos sobre la información financiera, por lo que cualquier IA que toque datos financieros debe contar con gestión de cambios y pistas de auditoría. En la práctica, los bancos despliegan un enfoque en capas: una junta de gobernanza establece la política, las canalizaciones de MLOps imponen puertas de validación y la supervisión continua detecta la desviación o las infracciones de políticas posteriores al despliegue.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de Generative AI Leader de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.