Respuestas correctas
- BIncluir la revisión humana para decisiones de alto impacto
- CImplementar guardrails para filtrar contenido dañino
- DMonitorear continuamente las salidas del modelo en busca de desviaciones
Explicación
La opción B es correcta porque la implementación de IA responsable requiere supervisión humana (human-in-the-loop) para decisiones de alto impacto (por ejemplo, contratación, préstamos, triaje médico), de modo que una persona calificada pueda validar o anular el resultado del modelo antes de que afecte los derechos o la seguridad de alguien. La opción C es correcta porque las guardrails (filtros de entrada y salida, clasificadores de moderación de contenido y capas de cumplimiento de políticas) son un control estándar para evitar que los foundation models generen contenido dañino, inseguro o que viole políticas. La opción D es correcta porque los foundation models pueden degradar o cambiar su comportamiento con el tiempo debido a la desviación de datos (data drift), la desviación de conceptos (concept drift) o actualizaciones de modelos anteriores, por lo que el monitoreo continuo de las salidas (con métricas, alertas y activadores de reentrenamiento) es esencial para mantener la confiabilidad y la equidad. La opción A no se recomienda: recopilar comentarios de los usuarios es una señal valiosa para identificar sesgos y mejorar los modelos, por lo que evitarlo reduciría la rendición de cuentas en lugar de mejorar la responsabilidad. La opción E no se recomienda: el secreto de caja negra opaca socava la transparencia, la explicabilidad y la auditabilidad, que son principios fundamentales de la IA responsable; los componentes internos y la documentación del modelo deben divulgarse adecuadamente a las partes interesadas.