DifficileChoix unique

Question d'entraînement AI-900

Une banque déploie un système d'IA qui utilise un modèle d'apprentissage profond complexe pour approuver ou rejeter des demandes de prêt. Lorsqu'un prêt est rejeté, les clients exigent de connaître les raisons spécifiques. La banque veut s'assurer que le système d'IA fonctionne d'une manière qui lui permet d'expliquer ses décisions. Quel principe d'IA responsable de Microsoft est le plus directement pertinent pour cette exigence ?

Choisissez la meilleure réponse.

Bonne réponse

  • BTransparency

Explication

L'exigence de la banque d'expliquer pourquoi un prêt a été rejeté s'aligne directement sur le principe de transparence, qui impose que les systèmes d'IA soient compréhensibles et que leurs décisions puissent être communiquées aux utilisateurs. Dans ce scénario, le modèle d'apprentissage profond complexe doit être interprétable, souvent grâce à des techniques telles que l'analyse de l'importance des caractéristiques ou des modèles de substitution, afin de fournir des motifs précis de rejet. La transparence garantit que les clients peuvent recevoir des explications significatives, renforçant la confiance et permettant la responsabilité.

Pourquoi chaque option est juste ou fausse

A

Fausse

Reliability and safety

Reliability and safety concerne un fonctionnement cohérent, fiable et la gestion des pannes, et non la justification des résultats. C'est tentant car les décisions de prêt doivent être fiables, mais l'exigence est d'expliquer les rejets individuels, ce que l'explicabilité aborde en exigeant un comportement de modèle interprétable et un raisonnement documenté.

B

Juste

Transparency

Transparency exige que les systèmes d'IA soient compréhensibles, afin que les parties prenantes puissent comprendre comment les décisions sont prises. Pour les rejets de prêt, cela signifie que la banque doit fournir des explications interprétables du raisonnement du modèle, répondant directement à la demande des clients concernant des motifs de rejet spécifiques.

C

Fausse

Privacy and security

Privacy and security régit la gestion des données, le consentement et la protection, et non l'explication des décisions. C'est tentant car les données de prêt sont sensibles, mais l'exigence est la transparence sur la raison pour laquelle un rejet s'est produit, ce que le principe d'explicabilité aborde en exigeant un raisonnement de modèle compréhensible.

D

Fausse

Fairness

Fairness cible les biais et les résultats équitables entre les groupes, et non l'explication par décision. C'est tentant car la discrimination en matière de prêt est un risque réel, mais l'énoncé demande pourquoi une demande individuelle a été rejetée, ce que l'explicabilité couvre en rendant le raisonnement du modèle interprétable pour les clients et le personnel.

Pour aller plus loin

La transparence dans le cadre de l'IA responsable de Microsoft se concentre sur la compréhension et la documentation du comportement des modèles, ce qui explique l'existence d'outils d'explicabilité tels que InterpretML et le tableau de bord de l'IA responsable. Un réseau de neurones profond pour les décisions de crédit est effectivement une boîte noire ; des techniques telles que les valeurs SHAP, les explications contrefactuelles et l'importance des caractéristiques mettent en évidence les entrées qui ont motivé un rejet. Cela importe car des réglementations telles que l'ECOA et le GDPR accordent aux demandeurs le droit à des motifs significatifs en cas de décisions défavorables. La fiabilité et la sécurité concernent la robustesse et les modes de défaillance, l'équité aborde l'impact disparate entre les groupes et la confidentialité couvre la gestion des données, mais seule la transparence parle directement de l'articulation de la raison pour laquelle une décision spécifique a été prise.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.