FácilMúltipla escolha

Questão de prática de AI-900

Uma empresa de saúde implanta um sistema de IA para auxiliar médicos no diagnóstico de condições de pele a partir de imagens. O sistema é uma rede neural profunda que não fornece explicações para suas previsões. A empresa implementa um processo em que cada recomendação de IA é registrada e uma equipe médica revisa quaisquer resultados adversos para determinar se o sistema ou um humano cometeu um erro. A empresa também atribui claramente a responsabilidade pelas saídas do sistema a um comitê de supervisão clínica específico. Qual princípio de IA responsável da Microsoft está sendo implementado mais diretamente por essas ações?

Escolha a melhor resposta.

Resposta correta

  • AAccountability

Explicação

As ações descritas — registrar recomendações de IA, revisar resultados adversos para determinar a origem do erro e atribuir um comitê de supervisão clínica — implementam diretamente o princípio de Accountability. A Accountability exige que as organizações atribuam claramente a responsabilidade pelas saídas do sistema de IA e tenham processos para revisar e abordar os impactos, que é exatamente o que a empresa faz ao criar um ciclo de revisão humana e um comitê designado.

Por que cada alternativa está certa ou errada

A

Correta

Accountability

Registrar cada recomendação, revisar resultados adversos e atribuir responsabilidade a um comitê de supervisão clínica são medidas de governança e prestação de contas. Accountability é o princípio que cobre a responsabilidade humana sobre os resultados do sistema de IA, correspondendo às ações de supervisão e revisão de erros do enunciado.

B

Incorreta

Fairness

Essas ações implementam accountability: registrar saídas, revisar resultados adversos e atribuir responsabilidade a um comitê de supervisão. Fairness diz respeito ao tratamento equitativo entre grupos, o que o enunciado nunca aborda. Fairness é tentadora porque o viés de IA em saúde é uma discussão comum, mas nenhuma disparidade demográfica ou mitigação é descrita aqui.

C

Incorreta

Reliability and safety

Reliability and safety exigem desempenho consistente sob condições esperadas. Embora o registro e a revisão possam ajudar a melhorar a confiabilidade, o foco principal das ações descritas é atribuir responsabilidade, e não testar ou garantir a operação segura do sistema.

D

Incorreta

Transparency

Transparency significa que os usuários podem entender como e por que o sistema tomou uma decisão. Como o sistema é uma caixa preta sem explicações, a transparência não é alcançada. As medidas de accountability não tornam o funcionamento interno do sistema transparente.

Para se aprofundar

A accountability na estrutura de IA responsável da Microsoft significa que pessoas e organizações continuam responsáveis pelos resultados do sistema de IA, o que é operacionalizado por meio de órgãos de governança, supervisão documentada e trilhas de auditoria. Registrar cada recomendação e ter um comitê clínico revisando resultados adversos cria a cadeia de evidências e a propriedade humana que a accountability exige. Difere da transparência, que diz respeito a explicar como o modelo funciona, e da confiabilidade e segurança, que dizem respeito a um desempenho consistente e seguro. Na saúde, isso importa porque reguladores e conselhos de ética esperam uma parte responsável nomeada e um processo de revisão, não apenas um cartão de modelo, de modo que o comitê de supervisão e o registro são os mecanismos concretos que satisfazem o princípio.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.