MediaSelección múltiple

Pregunta de práctica de Generative AI Leader

Una empresa está estableciendo prácticas de gobernanza para modelos de IA generativa. ¿Qué tres acciones son esenciales para el despliegue de IA responsable?

Elige todas las respuestas correctas.

Respuestas correctas

  • AUtilizar el versionado de modelos para rastrear los cambios.
  • BAuditar regularmente las salidas de los modelos en busca de sesgos.
  • DImplementar un proceso de revisión humana para decisiones críticas.

Explicación

El versionado de modelos es esencial porque permite realizar un seguimiento de los cambios en los modelos de IA generativa a lo largo del tiempo, garantizando la reproducibilidad, la capacidad de reversión y el cumplimiento de las políticas de gobernanza. Sin el versionado, resulta imposible auditar qué modelo produjo una salida específica, lo que socava la rendición de cuentas y el cumplimiento normativo.

Por qué cada opción es correcta o incorrecta

A

Correcta

Utilizar el versionado de modelos para rastrear los cambios.

El versionado garantiza la reproducibilidad y la rendición de cuentas para las actualizaciones de los modelos.

B

Correcta

Auditar regularmente las salidas de los modelos en busca de sesgos.

La auditoría de sesgos es una práctica fundamental de IA responsable para detectar y mitigar la injusticia.

C

Incorrecta

Monitorear en busca de fugas de datos a partir de los datos de entrenamiento.

Importante para la privacidad pero a menudo parte de la seguridad, no siempre considerado gobernanza central para la IA responsable.

D

Correcta

Implementar un proceso de revisión humana para decisiones críticas.

La supervisión humana es crucial para aplicaciones de alto riesgo con el fin de prevenir daños.

E

Incorrecta

Hacer que el modelo sea de código abierto (open-source) para garantizar la transparencia.

Hacerlo de código abierto no es obligatorio y puede no ser apropiado para casos de uso propietarios o sensibles.

Para profundizar

La gobernanza de la IA generativa responsable se basa en la trazabilidad, el control de sesgos y la supervisión humana. El versionado de modelos registra qué pesos, instrucciones (prompts) y configuraciones produjeron una salida, lo que permite la reversión y la auditoría. Las auditorías periódicas de sesgos muestrean las salidas en grupos demográficos o lingüísticos para detectar generaciones sesgadas o dañinas. La revisión humana para decisiones críticas mantiene a una persona responsable cuando los errores conllevan consecuencias legales, financieras o de seguridad. La supervisión de la fuga de datos es un control útil, pero no es una de las tres acciones esenciales aquí, y hacer que el modelo sea de código abierto (open-source) es una opción de distribución, no un requisito de gobernanza. Esto importa en entornos regulados donde un auditor pregunta cómo se produjo una salida específica y quién la aprobó.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de Generative AI Leader de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.