FácilOpción múltiple

Pregunta de práctica de AI-900

Una institución financiera utiliza un sistema de AI para recomendar límites de crédito a nuevos clientes. Cuando a un cliente se le rechaza un aumento en el límite de crédito, este pregunta el motivo, pero la institución no puede ofrecer ninguna explicación porque el modelo es una red neuronal profunda compleja y el proceso de toma de decisiones es opaco. ¿Qué principio de AI responsable de Microsoft se viola de forma más directa?

Elige la mejor respuesta.

Respuesta correcta

  • ATransparency

Explicación

Transparencia. El escenario describe una red neuronal profunda que no puede explicar su decisión de denegar un aumento de límite de crédito, lo cual infringe directamente el principio de transparencia. El principio de AI responsable de transparencia de Microsoft exige que los sistemas de AI sean comprensibles y que sus decisiones puedan explicarse a los usuarios, especialmente cuando dichas decisiones tienen un impacto significativo en las personas.

Por qué cada opción es correcta o incorrecta

A

Correcta

Transparency

La transparencia requiere que los sistemas de AI sean comprensibles y que los usuarios afectados puedan comprender cómo se toman las decisiones. Una red neuronal profunda opaca que no puede explicar una denegación de límite de crédito infringe directamente este principio, dejando al cliente sin ningún razonamiento.

B

Incorrecta

Reliability and safety

La confiabilidad y seguridad abarca la operación consistente y confiable y la prevención de daños; un modelo opaco pero estable no lo infringe. Es tentador porque el crédito denegado conlleva un riesgo financiero, y la confiabilidad y seguridad sería el principio correcto si el modelo produjera recomendaciones erráticas o inseguras.

C

Incorrecta

Fairness

La equidad concierne al trato diferencial entre grupos demográficos; el enunciado no describe ningún impacto dispar, solo la incapacidad de explicar una decisión individual. Es tentador porque las decisiones crediticias son un escenario clásico de equidad, y la equidad sería el principio en cuestión si el modelo perjudicara sistemáticamente a un grupo protegido.

D

Incorrecta

Privacy and security

La privacidad y seguridad rige el manejo de datos personales y la protección contra el uso indebido; el enunciado no plantea ninguna exposición o violación de datos, solo decisiones inexplicables. Es tentador porque los datos crediticios son sensibles, y la privacidad y seguridad sería el principio en cuestión si la información del cliente se filtrara o se accediera a ella de manera inadecuada.

Para profundizar

La transparencia en los principios de AI responsable de Microsoft significa que las personas deben comprender cómo los sistemas de AI llegan a las decisiones, especialmente cuando los resultados las afectan. Una red neuronal profunda cuyos pesos internos no son interpretables por humanos produce decisiones opacas, por lo que un límite de crédito rechazado no se puede explicar, lo que entra en conflicto con la transparencia y las expectativas regulatorias relacionadas, como los avisos de acción adversa. Técnicas como SHAP, LIME o modelos inherentemente interpretables pueden mostrar las contribuciones de las características, aunque se aproximan en lugar de revelar completamente el razonamiento de la red. Un detalle sutil que vale la pena conocer: la transparencia también abarca la documentación de los datos de entrenamiento, las limitaciones del modelo y el uso previsto. Esto importa en las finanzas, donde los clientes tienen derechos legales a explicaciones y los reguladores escrutan las decisiones crediticias automatizadas.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.