MédiaVárias respostas

Questão de prática de Generative AI Leader

Uma empresa está estabelecendo práticas de governança para modelos de IA generativa. Quais três ações são essenciais para a implantação de IA responsável?

Escolha todas as respostas corretas.

Respostas corretas

  • AUsar o controle de versão de modelos para rastrear alterações.
  • BAuditar regularmente as saídas dos modelos em busca de viés.
  • DImplementar um processo de revisão humana para decisões críticas.

Explicação

O controle de versão de modelos é essencial porque permite rastrear alterações em modelos de IA generativa ao longo do tempo, garantindo reprodutibilidade, capacidade de reversão e conformidade com políticas de governança. Sem o controle de versão, torna-se impossível auditar qual modelo produziu uma saída específica, prejudicando a prestação de contas e a conformidade regulatória.

Por que cada alternativa está certa ou errada

A

Correta

Usar o controle de versão de modelos para rastrear alterações.

O versionamento garante reprodutibilidade e prestação de contas para atualizações de modelos.

B

Correta

Auditar regularmente as saídas dos modelos em busca de viés.

A auditoria de viés é uma prática fundamental de IA responsável para detectar e mitigar a iniquidade.

C

Incorreta

Monitorar vazamento de dados a partir dos dados de treinamento.

Importante para a privacidade, mas frequentemente parte da segurança, nem sempre considerado governança central para IA responsável.

D

Correta

Implementar um processo de revisão humana para decisões críticas.

A supervisão humana é crucial para aplicações de alto risco para evitar danos.

E

Incorreta

Tornar o modelo de código aberto (open-source) para garantir transparência.

Disponibilizar em código aberto não é obrigatório e pode não ser apropriado para casos de uso proprietários ou sensíveis.

Para se aprofundar

A governança de IA generativa responsável baseia-se na rastreabilidade, controle de viés e supervisão humana. O controle de versão de modelos registra quais pesos, instruções (prompts) e configurações produziram uma saída, permitindo a reversão e auditoria. Auditorias regulares de viés amostram saídas em grupos demográficos ou linguísticos para detectar gerações tendenciosas ou prejudiciais. A revisão humana para decisões críticas mantém uma pessoa responsável quando os erros acarretam consequências legais, financeiras ou de segurança. O monitoramento de vazamento de dados é um controle útil, mas não é uma das três ações essenciais aqui, e tornar o modelo de código aberto (open-source) é uma escolha de distribuição, e não um requisito de governança. Isso importa em ambientes regulados onde um auditor pergunta como uma saída específica foi produzida e quem a aprovou.

Sobre estas questões de prática

Esta é uma das questões de prática originais de Generative AI Leader da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.