Respuesta correcta
Explicación
El requisito del banco de explicar por qué se rechazó un préstamo se alinea directamente con el principio de transparencia, el cual exige que los sistemas de AI sean comprensibles y que sus decisiones puedan comunicarse a los usuarios. En este escenario, el modelo de aprendizaje profundo complejo debe ser interpretable, a menudo mediante técnicas como el análisis de importancia de características o modelos sustitutos, para proporcionar razones específicas de rechazo. La transparencia garantiza que los clientes puedan recibir explicaciones significativas, lo que genera confianza y permite la rendición de cuentas.
Para profundizar
La transparencia en el marco de AI responsable de Microsoft se centra en hacer que el comportamiento del modelo sea comprensible y estédocumentado, razón por la cual existen herramientas de explicabilidad como InterpretML y el panel de AI responsable. Una red neuronal profunda para decisiones de crédito es efectivamente una caja negra; técnicas como los valores SHAP, explicaciones contrafactuales y la importancia de características revelan qué entradas impulsaron un rechazo. Esto es importante porque las regulaciones como ECOA y GDPR otorgan a los solicitantes el derecho a obtener razones significativas para decisiones desfavorables. La confiabilidad y seguridad se refieren a la solidez y los modos de falla, la equidad aborda el impacto dispar entre grupos y la privacidad cubre el manejo de datos, pero solo la transparencia habla directamente de articular por qué se tomó una decisión específica.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.