FácilOpción múltiple

Pregunta de práctica de AI-900

Un banco utiliza un sistema de IA para aprobar préstamos personales. Algunos clientes cuyos préstamos fueron denegados han solicitado una explicación de por qué su solicitud fue rechazada. ¿Qué principio de IA responsable de Microsoft requiere que el banco proporcione estas explicaciones?

Elige la mejor respuesta.

Respuesta correcta

  • CTransparency

Explicación

La transparencia es el principio correcto porque exige que los sistemas de IA sean comprensibles y que las decisiones se puedan explicar a los usuarios. En este escenario, los clientes a los que se les negaron los préstamos tienen derecho a saber por qué la IA tomó esa decisión, lo cual se alinea con el principio de transparencia de Microsoft: garantizar que los sistemas de IA comuniquen su propósito, limitaciones y razonamiento en términos claros y accesibles.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Fairness

Fairness aborda el sesgo entre grupos demográficos, asegurando que el modelo no discrimine, y no explica una decisión individual. Es tentador porque la aprobación de préstamos es un escenario clásico de equidad, y este principio sería correcto si el banco necesitara demostrar que su modelo trató a los grupos protegidos de manera equitativa.

B

Incorrecta

Reliability and safety

Reliability and safety se refiere a que un sistema de IA funcione de manera consistente y sin causar daños, no a divulgar el razonamiento de las decisiones. Es tentador porque los modelos de préstamos inestables o inseguros son un riesgo bancario genuino, y este principio sería la respuesta si el sistema produjera aprobaciones erráticas o dañinas en lugar de negaciones inexplicables.

C

Correcta

Transparency

Transparency requiere que los sistemas de IA sean comprensibles, por lo que el banco debe explicar cómo se llegaron a las decisiones sobre los préstamos. Los clientes afectados por las denegaciones necesitan los factores detrás del resultado, lo que este principio obliga al banco a divulgar.

D

Incorrecta

Accountability

Accountability se refiere a quién es responsable de los resultados de un sistema de IA y su gobernanza, no al mecanismo para explicar decisiones individuales a los clientes. Es tentador porque el banco debe responder en última instancia por su IA, y este principio sería correcto si la pregunta preguntara quién posee la supervisión del sistema de préstamos.

Para profundizar

El principio de transparencia de Microsoft en la IA responsable enfatiza que las personas deben comprender cómo los sistemas de IA toman decisiones, especialmente en dominios de alto riesgo como el crédito y los préstamos. Esto se operacionaliza mediante herramientas como Responsible AI Dashboard, que proporciona explicaciones de modelos utilizando técnicas como SHAP para mostrar las contribuciones de las características a las predicciones individuales. Una sutileza es que la transparencia no satisface automáticamente los requisitos legales como el derecho a la explicación del EU GDPR o la US Equal Credit Opportunity Act, que exigen avisos de acción adversa específicos; las organizaciones deben mapear las explicaciones técnicas al lenguaje normativo. En un escenario realista, un solicitante de préstamo denegado puede solicitar motivos, y el banco debe revelar qué factores, como la relación deuda-ingresos o la duración del historial crediticio, influyeron más en la salida del modelo, lo que requiere modelos interpretables o herramientas de explicación post-hoc.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.