MédiaMúltipla escolha

Questão de prática de AIF-C01

Uma equipe está implantando um modelo de regressão para aprovação de empréstimos. Para garantir transparência aos reguladores, eles precisam explicar previsões individuais. Qual método de interpretabilidade pode fornecer explicações locais aproximando o modelo com um substituto mais simples?

Escolha a melhor resposta.

Resposta correta

  • CLIME

Explicação

LIME (Local Interpretable Model-agnostic Explanations) é a escolha correta porque gera explicações locais ajustando um modelo substituto mais simples e interpretável (por exemplo, regressão linear ou árvore de decisão) em torno de uma única previsão. Isso permite que a equipe explique por que um pedido de empréstimo específico foi aprovado ou rejeitado, atendendo aos requisitos de transparência regulatória sem precisar acessar os detalhes internos do modelo original.

Por que cada alternativa está certa ou errada

A

Incorreta

SHAP values

O SHAP é um método local, mas baseado na teoria dos jogos cooperativos, e não em modelos substitutos.

B

Incorreta

Partial dependence plots

Os gráficos de dependência parcial mostram o efeito marginal médio de uma característica em todo o conjunto de dados, produzindo uma única curva global em vez de uma explicação para um único solicitante. Eles são tentadores porque são a escolha correta para descrever o comportamento geral do modelo aos reguladores, mas a aproximação por substituto local requer o LIME.

C

Correta

LIME

O LIME perturba instâncias individuais e ajusta um substituto interpretável esparso, como um modelo linear, em torno de cada previsão. Isso produz atribuições de características locais que explicam por que um pedido de empréstimo específico foi aprovado ou rejeitado, dando aos reguladores transparência em nível de caso em vez de apenas a importância global das características.

D

Incorreta

Permutation feature importance

A importância das características por permutação mede quanto a permutação de uma característica degrada a precisão geral do modelo, gerando um único ranking global sem atribuição por instância. É tentadora porque é a escolha correta para identificar quais características impulsionam o modelo em geral, mas a aproximação por substituto local requer o LIME.

Para se aprofundar

O LIME funciona gerando amostras perturbadas em torno da instância de interesse, ponderando-as por proximidade (usando um núcleo exponencial) e treinando um modelo linear esparso (por exemplo, Lasso) nessas amostras ponderadas para aproximar o comportamento do modelo original localmente. Um comportamento sutil é que a escolha da largura do núcleo e o número de amostras perturbadas podem afetar significativamente a estabilidade e a fidelidade da explicação, exigindo um ajuste cuidadoso em produção. Em um cenário real de aprovação de empréstimos, o LIME pode destacar que um solicitante específico teve o empréstimo negado devido a uma alta relação dívida-renda, mesmo que o modelo global dependa fortemente do escore de crédito.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AIF-C01 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.