FácilMúltipla escolha

Questão de prática de AI-900

Uma instituição financeira usa um sistema de AI para recomendar limites de crédito para novos clientes. Quando um cliente tem um aumento de limite de crédito recusado, ele pergunta o motivo, mas a instituição não pode fornecer nenhuma explicação porque o modelo é uma rede neural profunda complexa e o processo de tomada de decisão é opaco. Qual princípio de AI responsável da Microsoft é violado de forma mais direta?

Escolha a melhor resposta.

Resposta correta

  • ATransparency

Explicação

Transparência. O cenário descreve uma rede neural profunda que não pode explicar sua decisão de negar um aumento de limite de crédito, o que viola diretamente o princípio da transparência. O princípio de AI responsável de transparência da Microsoft exige que os sistemas de AI sejam compreensíveis e que suas decisões possam ser explicadas aos usuários, especialmente quando essas decisões têm impacto significativo sobre os indivíduos.

Por que cada alternativa está certa ou errada

A

Correta

Transparency

A transparência exige que os sistemas de AI sejam compreensíveis e que os usuários afetados possam entender como as decisões são tomadas. Uma rede neural profunda opaca que não pode explicar uma recusa de limite de crédito viola diretamente esse princípio, deixando o cliente sem nenhum raciocínio.

B

Incorreta

Reliability and safety

Confiabilidade e segurança cobrem a operação consistente e confiável e a prevenção de danos; um modelo opaco, mas estável, não o viola. É tentador porque o crédito recusado traz risco financeiro, e confiabilidade e segurança seria o princípio correto se o modelo produzisse recomendações erráticas ou inseguras.

C

Incorreta

Fairness

A equidade diz respeito ao tratamento diferencial entre grupos demográficos; o enunciado não descreve nenhum impacto díspar, apenas a incapacidade de explicar uma decisão individual. É tentador porque as decisões de crédito são um cenário clássico de equidad, e a equidade seria o princípio em questão se o modelo desfavorecesse sistematicamente um grupo protegido.

D

Incorreta

Privacy and security

Privacidade e segurança regem o tratamento de dados pessoais e a proteção contra uso indevido; o enunciado não levanta exposição ou violação de dados, apenas decisões inexplicáveis. É tentador porque os dados de crédito são sensíveis, e privacidade e segurança seria o princípio em questão se as informações do cliente fossem vazadas ou acessadas indevidamente.

Para se aprofundar

Transparência nos princípios de AI responsável da Microsoft significa que as pessoas devem entender como os sistemas de AI chegam às decisões, especialmente quando os resultados as afetam. Uma rede neural profunda cujos pesos internos não são interpretáveis por humanos produz decisões opacas, portanto, um limite de crédito recusado não pode ser explicado, o que entra em conflito com a transparência e expectativas regulatórias relacionadas, como avisos de ação adversa. Técnicas como SHAP, LIME ou modelos inerentemente interpretáveis podem expor contribuições de recursos, embora façam aproximações em vez de revelar totalmente o raciocínio da rede. Uma sutileza que vale a pena conhecer: a transparência também abrange a documentação de dados de treinamento, limitações do modelo e uso pretendido. Isso importa em finanças, onde os clientes têm direitos legais a explicações e os reguladores examinam decisões de crédito automatizadas.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.