DifícilOpción múltiple

Pregunta de práctica de AI-900

Un banco implementa un sistema de AI que utiliza un modelo de aprendizaje profundo complejo para aprobar o rechazar solicitudes de préstamos. Cuando se rechaza un préstamo, los clientes exigen conocer los motivos específicos. El banco desea asegurarse de que el sistema de AI funcione de manera que les permita explicar sus decisiones. ¿Qué principio de AI responsable de Microsoft es el más directamente relevante para este requisito?

Elige la mejor respuesta.

Respuesta correcta

  • BTransparency

Explicación

El requisito del banco de explicar por qué se rechazó un préstamo se alinea directamente con el principio de transparencia, el cual exige que los sistemas de AI sean comprensibles y que sus decisiones puedan comunicarse a los usuarios. En este escenario, el modelo de aprendizaje profundo complejo debe ser interpretable, a menudo mediante técnicas como el análisis de importancia de características o modelos sustitutos, para proporcionar razones específicas de rechazo. La transparencia garantiza que los clientes puedan recibir explicaciones significativas, lo que genera confianza y permite la rendición de cuentas.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Reliability and safety

La confiabilidad y seguridad se relacionan con una operación consistente y confiable y con el manejo de fallas, no con la justificación de resultados. Es tentador porque las decisiones de préstamo deben ser confiables, pero el requisito es explicar los rechazos individuales, lo cual la explicabilidad aborda exigiendo un comportamiento de modelo interpretable y un razonamiento documentado.

B

Correcta

Transparency

La transparencia requiere que los sistemas de AI sean comprensibles para que las partes interesadas puedan comprender cómo se alcanzan las decisiones. Para los rechazos de préstamos, esto significa que el banco debe proporcionar explicaciones interpretables del razonamiento del modelo, satisfaciendo directamente la demanda de los clientes de motivos de rechazo específicos.

C

Incorrecta

Privacy and security

La privacidad y la seguridad rigen el manejo de datos, el consentimiento y la protección, no la explicación de decisiones. Es tentador porque los datos de los préstamos son sensibles, pero el requisito es la transparencia sobre por qué ocurrió un rechazo, lo cual aborda el principio de explicabilidad exigiendo un razonamiento de modelo comprensible.

D

Incorrecta

Fairness

La equidad apunta al sesgo y a los resultados equitativos entre grupos, no a la explicación por decisión. Es tentador porque la discriminación crediticia es un riesgo real, pero el enunciado pregunta por qué se rechazó una solicitud individual, lo cual cubre la explicabilidad al hacer que el razonamiento del modelo sea interpretable para los clientes y el personal.

Para profundizar

La transparencia en el marco de AI responsable de Microsoft se centra en hacer que el comportamiento del modelo sea comprensible y estédocumentado, razón por la cual existen herramientas de explicabilidad como InterpretML y el panel de AI responsable. Una red neuronal profunda para decisiones de crédito es efectivamente una caja negra; técnicas como los valores SHAP, explicaciones contrafactuales y la importancia de características revelan qué entradas impulsaron un rechazo. Esto es importante porque las regulaciones como ECOA y GDPR otorgan a los solicitantes el derecho a obtener razones significativas para decisiones desfavorables. La confiabilidad y seguridad se refieren a la solidez y los modos de falla, la equidad aborda el impacto dispar entre grupos y la privacidad cubre el manejo de datos, pero solo la transparencia habla directamente de articular por qué se tomó una decisión específica.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.