Resposta correta
Explicação
A disparidade na taxa de aprovação do sistema de AI para um grupo étnico específico, apesar de perfis financeiros semelhantes, viola diretamente o princípio de Fairness. Fairness exige que os sistemas de AI tratem todos os grupos de maneira equitativa e evitem a discriminação com base em atributos sensíveis como a etnia. Esse resultado demonstra uma falta de equidade no processo de tomada de decisão do modelo.
Para se aprofundar
Os princípios de AI responsável da Microsoft incluem fairness, que exige que os sistemas de AI tratem todos os grupos de maneira equitativa e evitem alocar benefícios ou danos com base em atributos sensíveis como etnia, gênero ou idade. O impacto díspar em empréstimos é mensurável por meio de métricas como diferença de paridade demográfica ou probabilidades equalizadas, e em muitas jurisdições também viola a lei de empréstimo justo. A sutileza é que um modelo pode ser tecnicamente preciso no geral, mas apresentar impacto díspar porque os dados históricos de treinamento codificaram discriminação passada. Um cenário realista: a auditoria de um banco descobre que as taxas de aprovação diferem em 18 pontos percentuais entre grupos étnicos com pontuações de crédito equivalentes; a remediação envolve reponderar os dados de treinamento, remover recursos de proxy como ZIP e aplicar os algoritmos de mitigação do Fairlearn antes da nova implantação.
Sobre estas questões de prática
Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.