Respuestas correctas
- AUtilizar el versionado de modelos para rastrear los cambios.
- BAuditar regularmente las salidas de los modelos en busca de sesgos.
- DImplementar un proceso de revisión humana para decisiones críticas.
Explicación
El versionado de modelos es esencial porque permite realizar un seguimiento de los cambios en los modelos de IA generativa a lo largo del tiempo, garantizando la reproducibilidad, la capacidad de reversión y el cumplimiento de las políticas de gobernanza. Sin el versionado, resulta imposible auditar qué modelo produjo una salida específica, lo que socava la rendición de cuentas y el cumplimiento normativo.
Para profundizar
La gobernanza de la IA generativa responsable se basa en la trazabilidad, el control de sesgos y la supervisión humana. El versionado de modelos registra qué pesos, instrucciones (prompts) y configuraciones produjeron una salida, lo que permite la reversión y la auditoría. Las auditorías periódicas de sesgos muestrean las salidas en grupos demográficos o lingüísticos para detectar generaciones sesgadas o dañinas. La revisión humana para decisiones críticas mantiene a una persona responsable cuando los errores conllevan consecuencias legales, financieras o de seguridad. La supervisión de la fuga de datos es un control útil, pero no es una de las tres acciones esenciales aquí, y hacer que el modelo sea de código abierto (open-source) es una opción de distribución, no un requisito de gobernanza. Esto importa en entornos regulados donde un auditor pregunta cómo se produjo una salida específica y quién la aprobó.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de Generative AI Leader de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.