Bonne réponse
Explication
L'exigence de la banque d'expliquer pourquoi un prêt a été rejeté s'aligne directement sur le principe de transparence, qui impose que les systèmes d'IA soient compréhensibles et que leurs décisions puissent être communiquées aux utilisateurs. Dans ce scénario, le modèle d'apprentissage profond complexe doit être interprétable, souvent grâce à des techniques telles que l'analyse de l'importance des caractéristiques ou des modèles de substitution, afin de fournir des motifs précis de rejet. La transparence garantit que les clients peuvent recevoir des explications significatives, renforçant la confiance et permettant la responsabilité.
Pour aller plus loin
La transparence dans le cadre de l'IA responsable de Microsoft se concentre sur la compréhension et la documentation du comportement des modèles, ce qui explique l'existence d'outils d'explicabilité tels que InterpretML et le tableau de bord de l'IA responsable. Un réseau de neurones profond pour les décisions de crédit est effectivement une boîte noire ; des techniques telles que les valeurs SHAP, les explications contrefactuelles et l'importance des caractéristiques mettent en évidence les entrées qui ont motivé un rejet. Cela importe car des réglementations telles que l'ECOA et le GDPR accordent aux demandeurs le droit à des motifs significatifs en cas de décisions défavorables. La fiabilité et la sécurité concernent la robustesse et les modes de défaillance, l'équité aborde l'impact disparate entre les groupes et la confidentialité couvre la gestion des données, mais seule la transparence parle directement de l'articulation de la raison pour laquelle une décision spécifique a été prise.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.