Respuesta correcta
Explicación
Transparencia. El escenario describe una red neuronal profunda que no puede explicar su decisión de denegar un aumento de límite de crédito, lo cual infringe directamente el principio de transparencia. El principio de AI responsable de transparencia de Microsoft exige que los sistemas de AI sean comprensibles y que sus decisiones puedan explicarse a los usuarios, especialmente cuando dichas decisiones tienen un impacto significativo en las personas.
Para profundizar
La transparencia en los principios de AI responsable de Microsoft significa que las personas deben comprender cómo los sistemas de AI llegan a las decisiones, especialmente cuando los resultados las afectan. Una red neuronal profunda cuyos pesos internos no son interpretables por humanos produce decisiones opacas, por lo que un límite de crédito rechazado no se puede explicar, lo que entra en conflicto con la transparencia y las expectativas regulatorias relacionadas, como los avisos de acción adversa. Técnicas como SHAP, LIME o modelos inherentemente interpretables pueden mostrar las contribuciones de las características, aunque se aproximan en lugar de revelar completamente el razonamiento de la red. Un detalle sutil que vale la pena conocer: la transparencia también abarca la documentación de los datos de entrenamiento, las limitaciones del modelo y el uso previsto. Esto importa en las finanzas, donde los clientes tienen derechos legales a explicaciones y los reguladores escrutan las decisiones crediticias automatizadas.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.