MoyenneChoix unique

Question d'entraînement AIF-C01

Une équipe déploie un modèle de régression pour l'approbation de prêts. Pour garantir la transparence vis-à-vis des régulateurs, ils doivent expliquer les prédictions individuelles. Quelle méthode d'interprétabilité peut fournir des explications locales en approximant le modèle par un substitut plus simple ?

Choisissez la meilleure réponse.

Bonne réponse

  • CLIME

Explication

LIME (Local Interpretable Model-agnostic Explanations) est le bon choix car elle génère des explications locales en ajustant un modèle de substitution plus simple et interprérable (par exemple, une régression linéaire ou un arbre de décision) autour d'une seule prédiction. Cela permet à l'équipe d'expliquer pourquoi une demande de prêt spécifique a été approuvée ou rejetée, répondant aux exigences de transparence réglementaire sans avoir besoin d'accéder aux mécanismes internes du modèle original.

Pourquoi chaque option est juste ou fausse

A

Fausse

SHAP values

SHAP est une méthode locale mais basée sur la théorie des jeux coopératifs, et non sur des modèles de substitution.

B

Fausse

Partial dependence plots

Les graphiques de dépendance partielle montrent l'effet marginal moyen d'une caractéristique sur l'ensemble du jeu de données, produisant une courbe globale unique plutôt qu'une explication pour un seul demandeur. Ils sont tentants car ils constituent le bon choix pour décrire le comportement global du modèle aux régulateurs, mais l'approximation par un substitut local nécessite LIME.

C

Juste

LIME

LIME perturbe des instances individuelles et ajuste un substitut interprérable creux, tel qu'un modèle linéaire, autour de chaque prédiction. Cela produit des attributions de caractéristiques locales expliquant pourquoi une demande de prêt spécifique a été approuvée ou rejetée, offrant aux régulateurs une transparence au niveau du cas plutôt qu'une simple importance globale des caractéristiques.

D

Fausse

Permutation feature importance

L'importance des caractéristiques par permutation mesure dans quelle mesure le mélange d'une caractéristique dégrade la précision globale du modèle, produisant un classement global unique sans attribution par instance. C'est tentant car c'est le bon choix pour identifier quelles caractéristiques pilotent le modèle en général, mais l'approximation par un substitut local nécessite LIME.

Pour aller plus loin

LIME fonctionne en générant des échantillons perturbés autour de l'instance d'intérêt, en les pondérant par proximité (à l'aide d'un noyau exponentiel), puis en entraînant un modèle linéaire creux (par exemple, Lasso) sur ces échantillons pondérés pour approximer localement le comportement du modèle original. Un comportement subtil est que le choix de la largeur du noyau et du nombre d'échantillons perturbés peut affecter considérablement la stabilité et la fidélité de l'explication, nécessitant un réglage minutieux en production. Dans un scénario réel d'approbation de prêt, LIME peut mettre en évidence qu'un demandeur spécifique s'est vu refuser le prêt en raison d'un ratio d'endettement élevé, même si le modèle global s'appuie fortement sur la cote de crédit.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AIF-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.