Bonne réponse
Explication
Transparence. Le scénario décrit un réseau de neurones profond qui ne peut pas expliquer sa décision de refuser une augmentation de la limite de crédit, ce qui viole directement le principe de transparence. Le principe d'IA responsable de Microsoft relatif à la transparence exige que les systèmes d'IA soient compréhensibles et que leurs décisions puissent être expliquées aux utilisateurs, en particulier lorsque ces décisions ont un impact significatif sur les individus.
Pour aller plus loin
La transparence dans les principes d'IA responsable de Microsoft signifie que les personnes doivent comprendre comment les systèmes d'IA prennent des décisions, en particulier lorsque les résultats les affectent. Un réseau de neurones profond dont les poids internes ne sont pas interprétables par l'homme produit des décisions opaques, de sorte qu'un refus de limite de crédit ne peut être expliqué, ce qui entre en conflit avec la transparence et les attentes réglementaires connexes telles que les avis d'action défavorable. Des techniques telles que SHAP, LIME ou des modèles intrinsèquement interprétables peuvent mettre en évidence les contributions des caractéristiques, bien qu'elles fassent une approximation plutôt qu'elles ne révèlent pleinement le raisonnement du réseau. Une subtilité qu'il est bon de connaître : la transparence couvre également la documentation des données d'entraînement, des limites du modèle et de l'utilisation prévue. Cela importe en finance, où les clients ont des droits légaux à des explications et où les régulateurs examinent de près les décisions de crédit automatisées.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.