Questão de prática de AI-900
Uma empresa cria um sistema de AI para filtrar candidaturas de emprego e classificar candidatos. O sistema é treinado com dados históricos de contratação. Para reduzir o potencial viés, a empresa remove atributos protegidos, como gênero e etnia, dos dados de treinamento. No entanto, após a implantação, o sistema ainda apresenta um viés estatisticamente significativo contra candidatas do sexo feminino. Qual princípio de AI responsável da Microsoft exige mais diretamente que a empresa investigue e trate esse viés remanescente, mesmo quando os atributos protegidos são removidos?
Resposta correta
Explicação
O princípio de Fairness exige que os sistemas de AI tratem todas as pessoas de forma justa e evitem criar ou reforçar resultados discriminatórios. Mesmo quando atributos protegidos como o gênero são removidos dos dados de treinamento, o viés pode persistir por meio de variáveis proxy (por exemplo, código postal, histórico educacional) que se correlacionam com os atributos protegidos. A empresa deve investigar e mitigar esse viés remanescente porque Fairness exige avaliação proativa e correção de impacto desproporcional, e não apenas a remoção de características óbvias.
Para se aprofundar
O princípio de Fairness na estrutura de AI responsável da Microsoft aborda o fato de que remover atributos protegidos —uma técnica chamada justiça por ignorância— raramente elimina o impacto desproporcional, porque características proxy correlacionadas, como código postal, universidade, lacunas na carreira ou até nomes, podem codificar o mesmo sinal. Sob o capô, um modelo treinado com dados históricos de contratação aprende os padrões estatísticos de decisões passadas, portanto, se as mulheres foram historicamente menos contratadas, a própria distribuição de rótulos carrega o viés, e remover o gênero do vetor de recursos não o remove do alvo. Detectar isso requer avaliação desagregada: medir taxas de seleção entre grupos e calcular métricas como diferença de paridade demográfica ou probabilidades equalizadas. Em uma implantação real, uma ferramenta de triagem de HR poderia passar por uma auditoria ingênua e ainda rejeitar candidatas femininas ao dobro da taxa, o que é exatamente o dano que o princípio de Fairness obriga a empresa a investigar e mitigar.
Sobre estas questões de prática
Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.