Bonne réponse
Explication
La transparence est le bon principe car elle exige que les systèmes d'IA soient compréhensibles et que les décisions soient explicables aux utilisateurs. Dans ce scénario, les clients dont les prêts ont été refusés ont le droit de savoir pourquoi l'IA a pris cette décision, ce qui correspond au principe de transparence de Microsoft : garantir que les systèmes d'IA communiquent leur objectif, leurs limites et leur raisonnement en termes clairs et accessibles.
Pour aller plus loin
Le principe de transparence de Microsoft en matière d'IA responsable souligne que les personnes doivent comprendre comment les systèmes d'IA prennent des décisions, en particulier dans les domaines à forts enjeux tels que le crédit et les prêts. Cela est mis en œuvre par des outils tels que Responsible AI Dashboard, qui fournit des explications de modèles à l'aide de techniques telles que SHAP pour montrer les contributions des caractéristiques aux prédictions individuelles. Une subtilité est que la transparence ne satisfait pas automatiquement aux exigences légales telles que le droit à l'explication du EU GDPR ou le US Equal Credit Opportunity Act, qui exigent des avis d'action adverse spécifiques ; les organisations doivent faire correspondre les explications techniques au langage réglementaire. Dans un scénario réaliste, un demandeur de prêt refusé peut demander des motifs, et la banque doit indiquer quels facteurs, tels que le ratio dette/revenu ou la durée de l'historique de crédit, ont le plus influencé la sortie du modèle, ce qui nécessite des modèles interprétables ou des outils d'explication post-hoc.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.