Respostas corretas
- AUsar o controle de versão de modelos para rastrear alterações.
- BAuditar regularmente as saídas dos modelos em busca de viés.
- DImplementar um processo de revisão humana para decisões críticas.
Explicação
O controle de versão de modelos é essencial porque permite rastrear alterações em modelos de IA generativa ao longo do tempo, garantindo reprodutibilidade, capacidade de reversão e conformidade com políticas de governança. Sem o controle de versão, torna-se impossível auditar qual modelo produziu uma saída específica, prejudicando a prestação de contas e a conformidade regulatória.
Para se aprofundar
A governança de IA generativa responsável baseia-se na rastreabilidade, controle de viés e supervisão humana. O controle de versão de modelos registra quais pesos, instruções (prompts) e configurações produziram uma saída, permitindo a reversão e auditoria. Auditorias regulares de viés amostram saídas em grupos demográficos ou linguísticos para detectar gerações tendenciosas ou prejudiciais. A revisão humana para decisões críticas mantém uma pessoa responsável quando os erros acarretam consequências legais, financeiras ou de segurança. O monitoramento de vazamento de dados é um controle útil, mas não é uma das três ações essenciais aqui, e tornar o modelo de código aberto (open-source) é uma escolha de distribuição, e não um requisito de governança. Isso importa em ambientes regulados onde um auditor pergunta como uma saída específica foi produzida e quem a aprovou.
Sobre estas questões de prática
Esta é uma das questões de prática originais de Generative AI Leader da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.