FacileChoix unique

Question d'entraînement AI-900

Une institution financière utilise un système d'IA pour recommander des limites de crédit aux nouveaux clients. Lorsqu'un client se voit refuser une augmentation de sa limite de crédit, il en demande la raison, mais l'institution ne peut fournir aucune explication car le modèle est un réseau de neurones profond complexe et le processus de prise de décision est opaque. Quel principe d'IA responsable de Microsoft est le plus directement violé ?

Choisissez la meilleure réponse.

Bonne réponse

  • ATransparence

Explication

Transparence. Le scénario décrit un réseau de neurones profond qui ne peut pas expliquer sa décision de refuser une augmentation de la limite de crédit, ce qui viole directement le principe de transparence. Le principe d'IA responsable de Microsoft relatif à la transparence exige que les systèmes d'IA soient compréhensibles et que leurs décisions puissent être expliquées aux utilisateurs, en particulier lorsque ces décisions ont un impact significatif sur les individus.

Pourquoi chaque option est juste ou fausse

A

Juste

Transparence

La transparence exige que les systèmes d'IA soient compréhensibles et que les utilisateurs concernés puissent comprendre comment les décisions sont prises. Un réseau de neurones profond opaque qui ne peut pas expliquer un refus de limite de crédit enfreint directement ce principe, laissant le client sans aucun raisonnement.

B

Fausse

Fiabilité et sécurité

La fiabilité et la sécurité couvrent un fonctionnement cohérent et fiable ainsi que l'évitement des dommages ; un modèle opaque mais stable ne l'enfreint pas. C'est tentant car un crédit refusé comporte un risque financier, et la fiabilité et la sécurité seraient le principe correct si le modèle produisait des recommandations erratiques ou non sécurisées.

C

Fausse

Équité

L'équité concerne le traitement différencié entre les groupes démographiques ; la description ne mentionne aucun impact disparate, seulement l'incapacité d'expliquer une décision individuelle. C'est tentant car les décisions de crédit constituent un scénario d'équité classique, et l'équité serait le principe en question si le modèle défavorisait systématiquement un groupe protégé.

D

Fausse

Confidentialité et sécurité

La confidentialité et la sécurité régissent le traitement des données personnelles et la protection contre une utilisation abusive ; la description ne soulève aucune exposition ou violation de données, seulement des décisions inexplicables. C'est tentant car les données de crédit sont sensibles, et la confidentialité et la sécurité seraient le principe en question si les informations des clients avaient fuite ou avaient fait l'objet d'un accès inapproprié.

Pour aller plus loin

La transparence dans les principes d'IA responsable de Microsoft signifie que les personnes doivent comprendre comment les systèmes d'IA prennent des décisions, en particulier lorsque les résultats les affectent. Un réseau de neurones profond dont les poids internes ne sont pas interprétables par l'homme produit des décisions opaques, de sorte qu'un refus de limite de crédit ne peut être expliqué, ce qui entre en conflit avec la transparence et les attentes réglementaires connexes telles que les avis d'action défavorable. Des techniques telles que SHAP, LIME ou des modèles intrinsèquement interprétables peuvent mettre en évidence les contributions des caractéristiques, bien qu'elles fassent une approximation plutôt qu'elles ne révèlent pleinement le raisonnement du réseau. Une subtilité qu'il est bon de connaître : la transparence couvre également la documentation des données d'entraînement, des limites du modèle et de l'utilisation prévue. Cela importe en finance, où les clients ont des droits légaux à des explications et où les régulateurs examinent de près les décisions de crédit automatisées.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.