FacileChoix unique

Question d'entraînement AI-900

Une banque déploie un système d'AI pour approuver ou rejeter automatiquement les demandes de prêt. Après six mois, un audit révèle que le système approuve les prêts à un taux nettement inférieur pour les demandeurs d'un groupe ethnique spécifique par rapport à d'autres groupes ayant des profils financiers similaires. Quel principe d'AI responsable de Microsoft est le plus directement violé par ce résultat ?

Choisissez la meilleure réponse.

Bonne réponse

  • BFairness

Explication

La disparité du taux d'approbation du système d'AI pour un groupe ethnique spécifique, malgré des profils financiers similaires, viole directement le principe de Fairness. Fairness exige que les systèmes d'AI traitent tous les groupes de manière équitable et évitent la discrimination fondée sur des attributs sensibles tels que l'origine ethnique. Ce résultat démontre un manque d'équité dans le processus de prise de décision du modèle.

Pourquoi chaque option est juste ou fausse

A

Fausse

Transparency

Transparency signifie que les décisions et les processus du système doivent être compréhensibles et explicables pour les parties prenantes. Bien que la transparence soit importante, le problème principal ici est le résultat biaisé affectant un groupe spécifique, et non le manque d'explication.

B

Juste

Fairness

Fairness exige que les systèmes d'AI traitent toutes les personnes de manière équitable et ne discriminent pas sur la base d'attributs sensibles comme l'origine ethnique. Le taux d'approbation nettement inférieur pour un groupe ethnique malgré des profils financiers similaires constitue une violation directe de Fairness.

C

Fausse

Privacy

Privacy régit le traitement des données personnelles, le consentement et la minimisation des données, et non les taux d'approbation disparates entre les groupes démographiques. C'est tentant car les demandes de prêt contiennent des données personnelles, mais l'audit a révélé des résultats inégaux, ce qui est un problème d'équité ; la confidentialité s'appliquerait si les données étaient mal utilisées ou exposées.

D

Fausse

Reliability

Reliability concerne un fonctionnement cohérent et fiable ainsi que la résilience aux erreurs, et non des taux d'approbation différentiels selon les groupes. C'est tentant car des prédictions peu fiables pourraient fausser les résultats, mais la disparité décrite est une violation de l'équité ; la fiabilité serait la réponse si le modèle échouait par intermittence ou produisait des résultats instables.

Pour aller plus loin

Les principes d'AI responsable de Microsoft incluent fairness, qui exige que les systèmes d'AI traitent tous les groupes de manière équitable et évitent d'attribuer des avantages ou des préjudices basés sur des attributs sensibles tels que l'origine ethnique, le genre ou l'âge. L'impact disproportionné dans les prêts est mesurable grâce à des métriques telles que la différence de parité démographique ou les chances égalisées, et dans de nombreuses juridictions, il enfreint également la loi sur l'équité en matière de prêt. La subtilité est qu'un modèle peut être globalement précis sur le plan technique tout en présentant un impact disproportionné parce que les données d'entraînement historiques ont codé une discrimination passée. Un scénario réaliste : l'audit d'une banque révèle que les taux d'approbation diffèrent de 18 points de pourcentage entre des groupes ethniques ayant des cotes de crédit équivalentes ; la correction implique de pondérer à nouveau les données d'entraînement, de supprimer les caractéristiques proxy telles que ZIP et d'appliquer les algorithmes d'atténuation de Fairlearn avant le redéploiement.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.