FácilMúltipla escolha

Questão de prática de AI-900

O que é o princípio de 'accountability' no framework de IA responsável da Microsoft?

Escolha a melhor resposta.

Resposta correta

  • BOs humanos devem manter a responsabilidade e a supervisão sobre os sistemas de IA e seus impactos

Explicação

O princípio de 'accountability' no framework de IA responsável da Microsoft significa que os humanos são os responsáveis finais pelo design, implementação e resultados dos sistemas de IA. Este princípio garante que os sistemas de IA não sejam tomadores de decisão autônomos sem supervisão humana; em vez disso, as organizações devem manter propriedade e governança claras para abordar quaisquer impactos ou vieses não intencionais.

Por que cada alternativa está certa ou errada

A

Incorreta

Os sistemas de IA devem corrigir automaticamente seus próprios erros

Accountability significa que pessoas e organizações permanecem responsáveis pela operação e pelos resultados dos sistemas de IA, com governança e supervisão. É tentador porque soa como autocorreção operacional, mas a correção automática de erros não é um princípio de IA responsável; a accountability diz respeito à responsabilidade humana, não à remediação autônoma.

B

Correta

Os humanos devem manter a responsabilidade e a supervisão sobre os sistemas de IA e seus impactos

A accountability exige que as pessoas, não os sistemas, permaneçam responsáveis pelos resultados da IA, com mecanismos de supervisão humana e governança em vigor. Isso satisfaz o foco do enunciado na responsabilidade pelos impactos, distinguindo-o dos princípios de equidade, confiabilidade e transparência.

C

Incorreta

Os sistemas de IA devem registrar todas as interações dos usuários para auditoria

Accountability significa que as pessoas permanecem responsáveis pelos sistemas de IA e seus resultados, com governança e supervisão. O registro de interações apoia a auditabilidade, mas não é o princípio em si. A opção é tentadora porque o registro soa como accountability, mas o framework exige propriedade humana e mecanismos de reparação, não apenas coleta de telemetria.

D

Incorreta

Todo código de IA deve ser de código aberto para revisão pública

Accountability significa que as pessoas permanecem responsáveis pelos sistemas de IA e seus resultados, não que o código seja publicado. É tentador porque a transparência envolve abertura sobre como os sistemas funcionam, e liberar o código estaria correto se a pergunta fosse sobre transparência em vez de accountability.

Para se aprofundar

A accountability no framework de IA responsável da Microsoft significa que pessoas e organizações permanecem responsáveis por como os sistemas de IA se comportam e por seus resultados, razão pela qual existem órgãos de governança, avaliações de impacto e processos de revisão em torno dos modelos implantados. É distinto da transparência, que diz respeito a explicar como um sistema funciona, e da confiabilidade, que diz respeito à operação segura. Uma sutileza é que a accountability não pode ser delegada ao próprio modelo; mesmo um sistema automatizado precisa de um proprietário nomeado que possa intervir, reverter ou desativá-lo. Na prática, um banco que implanta um modelo de pontuação de crédito designa um executivo responsável, documenta as decisões de design e estabelece um caminho de escalonamento quando o modelo produz decisões contestadas.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.