FácilOpción múltiple

Pregunta de práctica de AI-900

Un banco implementa un sistema de AI para aprobar o rechazar automáticamente solicitudes de préstamos. Después de seis meses, una auditoría revela que el sistema aprueba préstamos a una tasa significativamente menor para solicitantes de un grupo étnico específico en comparación con otros grupos con perfiles financieros similares. ¿Qué principio de AI responsable de Microsoft se infringe más directamente con este resultado?

Elige la mejor respuesta.

Respuesta correcta

  • BFairness

Explicación

La disparidad en la tasa de aprobación del sistema de AI para un grupo étnico específico, a pesar de perfiles financieros similares, infringe directamente el principio de Fairness. Fairness requiere que los sistemas de AI traten a todos los grupos de manera equitativa y eviten la discriminación basada en atributos sensibles como la etnicidad. Este resultado demuestra una falta de equidad en el proceso de toma de decisiones del modelo.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Transparency

Transparency significa que las decisiones y procesos del sistema deben ser comprensibles y explicables para las partes interesadas. Aunque la transparencia es importante, el problema principal aquí es el resultado sesgado que afecta a un grupo específico, no la falta de explicación.

B

Correcta

Fairness

Fairness requiere que los sistemas de AI traten a todas las personas de manera justa y no discriminen en función de atributos sensibles como la etnicidad. La tasa de aprobación significativamente menor para un grupo étnico a pesar de perfiles financieros similares es una infracción directa de Fairness.

C

Incorrecta

Privacy

Privacy rige el manejo de datos personales, el consentimiento y la minimización de datos, no las tasas de aprobación dispares entre grupos demográficos. Es tentador porque las solicitudes de préstamos contienen datos personales, pero la auditoría encontró resultados desiguales, lo cual es un problema de equidad; la privacidad se aplicaría si los datos fueran mal utilizados o expuestos.

D

Incorrecta

Reliability

Reliability se refiere a una operación consistente y confiable y a la resistencia a errores, no a tasas de aprobación diferenciales entre grupos. Es tentador porque las predicciones poco confiables podrían sesgar los resultados, pero la disparidad descrita es una infracción de equidad; la confiabilidad sería la respuesta si el modelo fallara intermitentemente o produjera resultados inestables.

Para profundizar

Los principios de AI responsable de Microsoft incluyen fairness, que requiere que los sistemas de AI traten a todos los grupos de manera equitativa y eviten asignar beneficios o daños basados en atributos sensibles como etnicidad, género o edad. El impacto dispar en los préstamos se puede medir a través de métricas como la diferencia de paridad demográfica o las probabilidades igualadas, y en muchas jurisdicciones también infringe la ley de préstamos justos. La sutileza es que un modelo puede ser técnicamente preciso en general pero presentar un impacto dispar debido a que los datos de entrenamiento históricos codificaron la discriminación pasada. Un escenario realista: la auditoría de un banco encuentra que las tasas de aprobación difieren en 18 puntos porcentuales entre grupos étnicos con puntajes de crédito equivalentes; la remediación implica volver a ponderar los datos de entrenamiento, eliminar características proxy como ZIP y aplicar los algoritmos de mitigación de Fairlearn antes de la reimplementación.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.