Respuesta correcta
- BLos humanos deben mantener la responsabilidad y la supervisión sobre los sistemas de IA y sus impactos
Explicación
El principio de 'accountability' en el marco de IA responsable de Microsoft significa que los humanos son los responsables finales del diseño, la implementación y los resultados de los sistemas de IA. Este principio garantiza que los sistemas de IA no sean tomadores de decisiones autónomos sin supervisión humana; en cambio, las organizaciones deben mantener una propiedad y gobernanza claras para abordar cualquier impacto o sesgo no intencionado.
Para profundizar
La accountability en el marco de IA responsable de Microsoft significa que las personas y las organizaciones siguen siendo responsables de cómo se comportan los sistemas de IA y de sus resultados, razón por la cual existen órganos de gobernanza, evaluaciones de impacto y procesos de revisión en torno a los modelos implementados. Es distinto de la transparencia, que se refiere a explicar cómo funciona un sistema, y de la fiabilidad, que se refiere a la operación segura. Una sutileza es que la accountability no puede delegarse al propio modelo; incluso un sistema automatizado necesita un propietario designado que pueda intervenir, revertir o deshabilitarlo. En la práctica, un banco que implementa un modelo de calificación crediticia asigna un ejecutivo responsable, documenta las decisiones de diseño y establece una ruta de escalada cuando el modelo produce decisiones disputadas.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.