Resposta correta
Explicação
Transparência. O cenário descreve uma rede neural profunda que não pode explicar sua decisão de negar um aumento de limite de crédito, o que viola diretamente o princípio da transparência. O princípio de AI responsável de transparência da Microsoft exige que os sistemas de AI sejam compreensíveis e que suas decisões possam ser explicadas aos usuários, especialmente quando essas decisões têm impacto significativo sobre os indivíduos.
Para se aprofundar
Transparência nos princípios de AI responsável da Microsoft significa que as pessoas devem entender como os sistemas de AI chegam às decisões, especialmente quando os resultados as afetam. Uma rede neural profunda cujos pesos internos não são interpretáveis por humanos produz decisões opacas, portanto, um limite de crédito recusado não pode ser explicado, o que entra em conflito com a transparência e expectativas regulatórias relacionadas, como avisos de ação adversa. Técnicas como SHAP, LIME ou modelos inerentemente interpretáveis podem expor contribuições de recursos, embora façam aproximações em vez de revelar totalmente o raciocínio da rede. Uma sutileza que vale a pena conhecer: a transparência também abrange a documentação de dados de treinamento, limitações do modelo e uso pretendido. Isso importa em finanças, onde os clientes têm direitos legais a explicações e os reguladores examinam decisões de crédito automatizadas.
Sobre estas questões de prática
Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.