FácilMúltipla escolha

Questão de prática de AI-900

Um banco usa um sistema de IA para aprovar empréstimos pessoais. Alguns clientes cujos empréstimos foram negados solicitaram uma explicação sobre o motivo pelo qual sua aplicação foi rejeitada. Qual princípio de IA responsável da Microsoft exige que o banco forneça essas explicações?

Escolha a melhor resposta.

Resposta correta

  • CTransparency

Explicação

Transparency é o princípio correto porque exige que os sistemas de IA sejam compreensíveis e que as decisões possam ser explicadas aos usuários. Nesse cenário, os clientes com empréstimos negados têm o direito de saber por que a IA tomou essa decisão, o que se alinha ao princípio de transparency da Microsoft, que garante que os sistemas de IA comuniquem seu propósito, suas limitações e seu raciocínio em termos claros e acessíveis.

Por que cada alternativa está certa ou errada

A

Incorreta

Fairness

O princípio de fairness aborda o viés entre grupos demográficos, garantindo que o modelo não discrimine, e não a explicação de uma decisão individual. É tentador porque a aprovação de empréstimos é um cenário clássico de fairness, e esse princípio estaria correto se o banco precisasse provar que seu modelo tratou grupos protegidos de forma equitativa.

B

Incorreta

Reliability and safety

Reliability and safety diz respeito a um sistema de IA que opera de forma consistente e sem causar danos, e não à divulgação do raciocínio de decisão. É tentador porque modelos de empréstimo instáveis ou inseguros são um risco bancário genuíno, e esse princípio seria a resposta se o sistema produzisse aprovações erráticas ou prejudiciais em vez de negações inexplicadas.

C

Correta

Transparency

O princípio de transparency exige que os sistemas de IA sejam compreensíveis, de modo que o banco deve explicar como as decisões de empréstimo foram alcançadas. Os clientes afetados por negações precisam dos fatores por trás do resultado, o que este princípio obriga o banco a divulgar.

D

Incorreta

Accountability

Accountability diz respeito a quem é responsável pelos resultados e pela governança de um sistema de IA, e não ao mecanismo de explicação de decisões individuais aos clientes. É tentador porque o banco deve prestar contas por sua IA, e esse princípio estaria correto se a pergunta perguntasse quem é o proprietário da supervisão do sistema de empréstimos.

Para se aprofundar

O princípio de Transparency da Microsoft em IA responsável enfatiza que as pessoas devem entender como os sistemas de IA tomam decisões, especialmente em domínios de alto impacto, como crédito e empréstimos. Isso é operacionalizado por meio de ferramentas como o Responsible AI Dashboard, que fornece explicações de modelos usando técnicas como SHAP para mostrar as contribuições de recursos para previsões individuais. Uma sutileza é que a transparency não atende automaticamente a requisitos legais como o direito à explicação do GDPR da UE ou o Equal Credit Opportunity Act dos EUA, que determinam avisos específicos de ação adversa; as organizações devem mapear explicações técnicas para a linguagem regulatória. Em um cenário realista, um solicitante de empréstimo negado pode solicitar motivos, e o banco deve expor quais fatores, como a relação dívida-renda ou o tempo de histórico de crédito, influenciaram mais a saída do modelo, exigindo modelos interpretáveis ou ferramentas de explicação pós-hoc.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.