Resposta correta
- BOs humanos devem manter a responsabilidade e a supervisão sobre os sistemas de IA e seus impactos
Explicação
O princípio de 'accountability' no framework de IA responsável da Microsoft significa que os humanos são os responsáveis finais pelo design, implementação e resultados dos sistemas de IA. Este princípio garante que os sistemas de IA não sejam tomadores de decisão autônomos sem supervisão humana; em vez disso, as organizações devem manter propriedade e governança claras para abordar quaisquer impactos ou vieses não intencionais.
Para se aprofundar
A accountability no framework de IA responsável da Microsoft significa que pessoas e organizações permanecem responsáveis por como os sistemas de IA se comportam e por seus resultados, razão pela qual existem órgãos de governança, avaliações de impacto e processos de revisão em torno dos modelos implantados. É distinto da transparência, que diz respeito a explicar como um sistema funciona, e da confiabilidade, que diz respeito à operação segura. Uma sutileza é que a accountability não pode ser delegada ao próprio modelo; mesmo um sistema automatizado precisa de um proprietário nomeado que possa intervir, reverter ou desativá-lo. Na prática, um banco que implanta um modelo de pontuação de crédito designa um executivo responsável, documenta as decisões de design e estabelece um caminho de escalonamento quando o modelo produz decisões contestadas.
Sobre estas questões de prática
Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.