MédiaMúltipla escolha

Questão de prática de AI-900

Uma empresa cria um sistema de AI para filtrar candidaturas de emprego e classificar candidatos. O sistema é treinado com dados históricos de contratação. Para reduzir o potencial viés, a empresa remove atributos protegidos, como gênero e etnia, dos dados de treinamento. No entanto, após a implantação, o sistema ainda apresenta um viés estatisticamente significativo contra candidatas do sexo feminino. Qual princípio de AI responsável da Microsoft exige mais diretamente que a empresa investigue e trate esse viés remanescente, mesmo quando os atributos protegidos são removidos?

Escolha a melhor resposta.

Resposta correta

  • AFairness

Explicação

O princípio de Fairness exige que os sistemas de AI tratem todas as pessoas de forma justa e evitem criar ou reforçar resultados discriminatórios. Mesmo quando atributos protegidos como o gênero são removidos dos dados de treinamento, o viés pode persistir por meio de variáveis proxy (por exemplo, código postal, histórico educacional) que se correlacionam com os atributos protegidos. A empresa deve investigar e mitigar esse viés remanescente porque Fairness exige avaliação proativa e correção de impacto desproporcional, e não apenas a remoção de características óbvias.

Por que cada alternativa está certa ou errada

A

Correta

Fairness

Fairness exige que os sistemas de AI tratem todos os grupos de maneira equitativa, de modo que a empresa deve investigar e mitigar o impacto desproporcional residual sobre as candidatas. Apenas remover os atributos protegidos não elimina o viés, porque características proxy correlacionadas o preservam.

B

Incorreta

Inclusiveness

Inclusiveness diz respeito ao design de sistemas que capacitam e envolvem a todos, incluindo pessoas com deficiência, em vez de detectar e corrigir viés estatístico nos resultados de classificação. É tentador porque fairness e inclusiveness se sobrepõem conceitualmente, e estaria correto onde o requisito for design acessível ou ampla participação dos usuários.

C

Incorreta

Reliability and safety

Reliability and safety aborda operação consistente e confiável e prevenção de danos contra falhas, e não discriminação estatística contra um grupo protegido. É tentador porque saídas com viés causam danos no mundo real, e estaria correto onde a preocupação forem falhas do sistema, erros inesperados ou condições operacionais inseguras.

D

Incorreta

Transparency

Transparency diz respeito a documentar capacidades, limitações e decisões para que as partes interessadas entendam o comportamento do sistema; isso por si só não obriga a correção de resultados discriminatórios. É tentador porque a investigação de viés frequentemente envolve divulgação, e estaria correto onde o requisito seja explicar como o modelo chega às decisões ou publicar a documentação do modelo.

Para se aprofundar

O princípio de Fairness na estrutura de AI responsável da Microsoft aborda o fato de que remover atributos protegidos —uma técnica chamada justiça por ignorância— raramente elimina o impacto desproporcional, porque características proxy correlacionadas, como código postal, universidade, lacunas na carreira ou até nomes, podem codificar o mesmo sinal. Sob o capô, um modelo treinado com dados históricos de contratação aprende os padrões estatísticos de decisões passadas, portanto, se as mulheres foram historicamente menos contratadas, a própria distribuição de rótulos carrega o viés, e remover o gênero do vetor de recursos não o remove do alvo. Detectar isso requer avaliação desagregada: medir taxas de seleção entre grupos e calcular métricas como diferença de paridade demográfica ou probabilidades equalizadas. Em uma implantação real, uma ferramenta de triagem de HR poderia passar por uma auditoria ingênua e ainda rejeitar candidatas femininas ao dobro da taxa, o que é exatamente o dano que o princípio de Fairness obriga a empresa a investigar e mitigar.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.