Resposta correta
Explicação
O requisito do banco de explicar por que um empréstimo foi rejeitado alinha-se diretamente ao princípio de transparência, que exige que os sistemas de IA sejam compreensíveis e que suas decisões possam ser comunicadas aos usuários. Nesse cenário, o modelo complexo de aprendizado profundo deve ser interpretável, muitas vezes por meio de técnicas como análise de importância de recursos ou modelos substitutos, para fornecer motivos específicos para a rejeição. A transparência garante que os clientes possam receber explicações significativas, construindo confiança e permitindo a responsabilidade.
Para se aprofundar
A transparência na estrutura de IA Responsável da Microsoft concentra-se em tornar o comportamento do modelo compreensível e documentado, razão pela qual existem ferramentas de explicabilidade como o InterpretML e o painel de IA responsável. Uma rede neural profunda para decisões de crédito é efetivamente uma caixa preta; técnicas como valores SHAP, explicações contrafatuais e importância de recursos revelam quais entradas levaram a uma rejeição. Isso é importante porque regulamentações como ECOA e GDPR concedem aos candidatos o direito a motivos significativos para decisões adversas. Confiabilidade e segurança preocupam-se com robustez e modos de falha, a justiça aborda o impacto díspar entre grupos e a privacidade cobre o tratamento de dados, mas apenas a transparência fala diretamente sobre articular por que uma decisão específica foi tomada.
Sobre estas questões de prática
Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.