FácilMúltipla escolha

Questão de prática de AI-900

Um banco implementa um sistema de AI para aprovar ou rejeitar automaticamente solicitações de empréstimo. Após seis meses, uma auditoria revela que o sistema aprova empréstimos a uma taxa significativamente menor para solicitantes de um grupo étnico específico em comparação com outros grupos com perfis financeiros semelhantes. Qual princípio de AI responsável da Microsoft é violado mais diretamente por esse resultado?

Escolha a melhor resposta.

Resposta correta

  • BFairness

Explicação

A disparidade na taxa de aprovação do sistema de AI para um grupo étnico específico, apesar de perfis financeiros semelhantes, viola diretamente o princípio de Fairness. Fairness exige que os sistemas de AI tratem todos os grupos de maneira equitativa e evitem a discriminação com base em atributos sensíveis como a etnia. Esse resultado demonstra uma falta de equidade no processo de tomada de decisão do modelo.

Por que cada alternativa está certa ou errada

A

Incorreta

Transparency

Transparency significa que as decisões e os processos do sistema devem ser compreensíveis e explicáveis para as partes interessadas. Embora a transparência seja importante, o principal problema aqui é o resultado tendencioso que afeta um grupo específico, e não a falta de explicação.

B

Correta

Fairness

Fairness exige que os sistemas de AI tratem todas as pessoas de maneira justa e não discriminem com base em atributos sensíveis como a etnia. A taxa de aprovação significativamente menor para um grupo étnico, apesar de perfis financeiros semelhantes, é uma violação direta de Fairness.

C

Incorreta

Privacy

Privacy rege o tratamento de dados pessoais, o consentimento e a minimização de dados, e não taxas de aprovação díspares entre grupos demográficos. É tentador porque as solicitações de empréstimo contêm dados pessoais, mas a auditoria encontrou resultados desiguais, o que é um problema de equidade; a privacidade se aplicaria se os dados fossem mal utilizados ou expostos.

D

Incorreta

Reliability

Reliability diz respeito à operação consistente e confiável e à resiliência a erros, e não a taxas de aprovação diferenciais entre grupos. É tentador porque previsões não confiáveis poderiam distorcer os resultados, mas a disparidade descrita é uma violação de equidade; a confiabilidade seria a resposta se o modelo falhasse intermitentemente ou produzisse resultados instáveis.

Para se aprofundar

Os princípios de AI responsável da Microsoft incluem fairness, que exige que os sistemas de AI tratem todos os grupos de maneira equitativa e evitem alocar benefícios ou danos com base em atributos sensíveis como etnia, gênero ou idade. O impacto díspar em empréstimos é mensurável por meio de métricas como diferença de paridade demográfica ou probabilidades equalizadas, e em muitas jurisdições também viola a lei de empréstimo justo. A sutileza é que um modelo pode ser tecnicamente preciso no geral, mas apresentar impacto díspar porque os dados históricos de treinamento codificaram discriminação passada. Um cenário realista: a auditoria de um banco descobre que as taxas de aprovação diferem em 18 pontos percentuais entre grupos étnicos com pontuações de crédito equivalentes; a remediação envolve reponderar os dados de treinamento, remover recursos de proxy como ZIP e aplicar os algoritmos de mitigação do Fairlearn antes da nova implantação.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.