Respuesta correcta
Explicación
La disparidad en la tasa de aprobación del sistema de AI para un grupo étnico específico, a pesar de perfiles financieros similares, infringe directamente el principio de Fairness. Fairness requiere que los sistemas de AI traten a todos los grupos de manera equitativa y eviten la discriminación basada en atributos sensibles como la etnicidad. Este resultado demuestra una falta de equidad en el proceso de toma de decisiones del modelo.
Para profundizar
Los principios de AI responsable de Microsoft incluyen fairness, que requiere que los sistemas de AI traten a todos los grupos de manera equitativa y eviten asignar beneficios o daños basados en atributos sensibles como etnicidad, género o edad. El impacto dispar en los préstamos se puede medir a través de métricas como la diferencia de paridad demográfica o las probabilidades igualadas, y en muchas jurisdicciones también infringe la ley de préstamos justos. La sutileza es que un modelo puede ser técnicamente preciso en general pero presentar un impacto dispar debido a que los datos de entrenamiento históricos codificaron la discriminación pasada. Un escenario realista: la auditoría de un banco encuentra que las tasas de aprobación difieren en 18 puntos porcentuales entre grupos étnicos con puntajes de crédito equivalentes; la remediación implica volver a ponderar los datos de entrenamiento, eliminar características proxy como ZIP y aplicar los algoritmos de mitigación de Fairlearn antes de la reimplementación.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.