Bonne réponse
Explication
La disparité du taux d'approbation du système d'AI pour un groupe ethnique spécifique, malgré des profils financiers similaires, viole directement le principe de Fairness. Fairness exige que les systèmes d'AI traitent tous les groupes de manière équitable et évitent la discrimination fondée sur des attributs sensibles tels que l'origine ethnique. Ce résultat démontre un manque d'équité dans le processus de prise de décision du modèle.
Pour aller plus loin
Les principes d'AI responsable de Microsoft incluent fairness, qui exige que les systèmes d'AI traitent tous les groupes de manière équitable et évitent d'attribuer des avantages ou des préjudices basés sur des attributs sensibles tels que l'origine ethnique, le genre ou l'âge. L'impact disproportionné dans les prêts est mesurable grâce à des métriques telles que la différence de parité démographique ou les chances égalisées, et dans de nombreuses juridictions, il enfreint également la loi sur l'équité en matière de prêt. La subtilité est qu'un modèle peut être globalement précis sur le plan technique tout en présentant un impact disproportionné parce que les données d'entraînement historiques ont codé une discrimination passée. Un scénario réaliste : l'audit d'une banque révèle que les taux d'approbation diffèrent de 18 points de pourcentage entre des groupes ethniques ayant des cotes de crédit équivalentes ; la correction implique de pondérer à nouveau les données d'entraînement, de supprimer les caractéristiques proxy telles que ZIP et d'appliquer les algorithmes d'atténuation de Fairlearn avant le redéploiement.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.