FacileChoix unique

Question d'entraînement AI-900

Une banque utilise un système d'IA pour approuver des prêts personnels. Certains clients dont les prêts ont été refusés ont demandé une explication des raisons du rejet de leur demande. Quel principe d'IA responsable de Microsoft exige que la banque fournisse ces explications?

Choisissez la meilleure réponse.

Bonne réponse

  • CTransparency

Explication

La transparence est le bon principe car elle exige que les systèmes d'IA soient compréhensibles et que les décisions soient explicables aux utilisateurs. Dans ce scénario, les clients dont les prêts ont été refusés ont le droit de savoir pourquoi l'IA a pris cette décision, ce qui correspond au principe de transparence de Microsoft : garantir que les systèmes d'IA communiquent leur objectif, leurs limites et leur raisonnement en termes clairs et accessibles.

Pourquoi chaque option est juste ou fausse

A

Fausse

Fairness

Fairness traite des biais entre les groupes démographiques, garantissant que le modèle ne discrimine pas, et n'explique pas une décision individuelle. C'est tentant car l'approbation de prêt est un scénario classique d'équité, et ce principe serait correct si la banque devait prouver que son modèle a traité les groupes protégés de manière équitable.

B

Fausse

Reliability and safety

Reliability and safety concerne un système d'IA qui fonctionne de manière cohérente et sans causer de préjudice, et non la divulgation du raisonnement d'une décision. C'est tentant car des modèles de prêt instables ou non sécurisés constituent un véritable risque bancaire, et ce principe serait la réponse si le système produisait des approbations erratiques ou nuisibles plutôt que des refus inexpliqués.

C

Juste

Transparency

Transparency exige que les systèmes d'IA soient compréhensibles, de sorte que la banque doit expliquer comment les décisions de prêt ont été prises. Les clients touchés par des refus ont besoin des facteurs sous-tendant le résultat, ce que ce principe oblige la banque à divulguer.

D

Fausse

Accountability

Accountability concerne la personne qui est responsable des résultats d'un système d'IA et de sa gouvernance, et non le mécanisme permettant d'expliquer des décisions individuelles aux clients. C'est tentant car la banque doit en fin de compte répondre de son IA, et ce principe serait correct si la question demandait qui détient la supervision du système de prêt.

Pour aller plus loin

Le principe de transparence de Microsoft en matière d'IA responsable souligne que les personnes doivent comprendre comment les systèmes d'IA prennent des décisions, en particulier dans les domaines à forts enjeux tels que le crédit et les prêts. Cela est mis en œuvre par des outils tels que Responsible AI Dashboard, qui fournit des explications de modèles à l'aide de techniques telles que SHAP pour montrer les contributions des caractéristiques aux prédictions individuelles. Une subtilité est que la transparence ne satisfait pas automatiquement aux exigences légales telles que le droit à l'explication du EU GDPR ou le US Equal Credit Opportunity Act, qui exigent des avis d'action adverse spécifiques ; les organisations doivent faire correspondre les explications techniques au langage réglementaire. Dans un scénario réaliste, un demandeur de prêt refusé peut demander des motifs, et la banque doit indiquer quels facteurs, tels que le ratio dette/revenu ou la durée de l'historique de crédit, ont le plus influencé la sortie du modèle, ce qui nécessite des modèles interprétables ou des outils d'explication post-hoc.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.