Resposta correta
- CInvestigar a causa raiz e retreinar com dados balanceados
Explicação
A IA responsável exige compreender e mitigar o viés em sua origem, e não apenas mascará-lo. Investigar a causa raiz (por exemplo, viés de coleta de dados, viés de rotulagem ou recursos proxy) e retreinar com dados balanceados aborda diretamente a métrica de viés alta detectada pelo SageMaker Clarify, alinhando-se ao princípio de equidade da AWS. Simplesmente remover o atributo de gênero pode não eliminar o viés se outros recursos agirem como proxies, e aumentar o limite não corrige o viés subjacente do modelo.
Para se aprofundar
O SageMaker Clarify calcula métricas de viés como diferença nas proporções positivas em rótulos previstos (DPPL) e impacto disperso (disparate impact), comparando resultados em facetas como gênero. Uma métrica de viés alta indica que as previsões do modelo favorecem desproporcionalmente um grupo, o que pode decorrer de dados de treinamento desbalanceados, recursos proxy correlacionados com o gênero ou viés de rótulo. Simplesmente remover o atributo de gênero não resolve o problema porque recursos correlacionados, como código postal ou ocupação, ainda podem codificá-lo, um fenômeno conhecido como redlining. A ação responsável é investigar as causas raiz, depois mitigar rebalanceando os dados, ajustando os limites por grupo ou usando dessensibilização adversarial (adversarial debiasing), e reavaliar. Em um cenário de risco de crédito, implantar um modelo tendencioso pode violar os regulamentos de empréstimo justo, portanto o cientista de dados deve documentar o viés, retreinar com dados balanceados e verificar se métricas como o DPPL caem dentro de limites aceitáveis antes da implantação.
Sobre estas questões de prática
Esta é uma das questões de prática originais de AIF-C01 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.