DifícilMúltipla escolha

Questão de prática de AI-900

Um banco implanta um sistema de IA que usa um modelo complexo de aprendizado profundo para aprovar ou rejeitar pedidos de empréstimo. Quando um empréstimo é rejeitado, os clientes exigem saber os motivos específicos. O banco quer garantir que o sistema de IA opere de uma forma que lhes permita explicar suas decisões. Qual princípio de IA responsável da Microsoft é mais diretamente relevante para esse requisito?

Escolha a melhor resposta.

Resposta correta

  • BTransparência

Explicação

O requisito do banco de explicar por que um empréstimo foi rejeitado alinha-se diretamente ao princípio de transparência, que exige que os sistemas de IA sejam compreensíveis e que suas decisões possam ser comunicadas aos usuários. Nesse cenário, o modelo complexo de aprendizado profundo deve ser interpretável, muitas vezes por meio de técnicas como análise de importância de recursos ou modelos substitutos, para fornecer motivos específicos para a rejeição. A transparência garante que os clientes possam receber explicações significativas, construindo confiança e permitindo a responsabilidade.

Por que cada alternativa está certa ou errada

A

Incorreta

Confiabilidade e segurança

Confiabilidade e segurança dizem respeito à operação consistente e confiável e ao tratamento de falhas, não à justificativa de resultados. É tentador porque as decisões de empréstimo devem ser confiáveis, mas o requisito é explicar rejeições individuais, o que a explicabilidade aborda exigindo comportamento interpretável do modelo e raciocínio documentado.

B

Correta

Transparência

A transparência exige que os sistemas de IA sejam compreensíveis, para que as partes interessadas possam entender como as decisões são tomadas. Para rejeições de empréstimos, isso significa que o banco deve fornecer explicações interpretáveis do raciocínio do modelo, satisfazendo diretamente a demanda dos clientes por motivos específicos de rejeição.

C

Incorreta

Privacidade e segurança

Privacidade e segurança regem o tratamento de dados, consentimento e proteção, não a explicação de decisões. É tentador porque os dados de empréstimo são sensíveis, mas o requisito é transparência sobre por que uma rejeição ocorreu, o que o princípio da explicabilidade aborda exigindo raciocínio compreensível do modelo.

D

Incorreta

Justiça

A justiça visa preconceitos e resultados equitativos entre grupos, não a explicação por decisão. É tentador porque a discriminação em empréstimos é um risco real, mas a pergunta pede por que um pedido individual foi rejeitado, o que a explicabilidade cobre tornando o raciocínio do modelo interpretável para clientes e funcionários.

Para se aprofundar

A transparência na estrutura de IA Responsável da Microsoft concentra-se em tornar o comportamento do modelo compreensível e documentado, razão pela qual existem ferramentas de explicabilidade como o InterpretML e o painel de IA responsável. Uma rede neural profunda para decisões de crédito é efetivamente uma caixa preta; técnicas como valores SHAP, explicações contrafatuais e importância de recursos revelam quais entradas levaram a uma rejeição. Isso é importante porque regulamentações como ECOA e GDPR concedem aos candidatos o direito a motivos significativos para decisões adversas. Confiabilidade e segurança preocupam-se com robustez e modos de falha, a justiça aborda o impacto díspar entre grupos e a privacidade cobre o tratamento de dados, mas apenas a transparência fala diretamente sobre articular por que uma decisão específica foi tomada.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.