Respostas corretas
- AEstabelecer um Centro de Excelência (CoE) para governança de IA para supervisionar a implantação e o monitoramento de modelos.
- DImplementar validação e testes de modelos para garantir que as saídas atendam aos padrões regulatórios.
Explicação
O estabelecimento de um Centro de Excelência (CoE) para governança de IA fornece a supervisão, a aplicação de políticas e o monitoramento necessários para manter um chatbot de IA generativa em conformidade com o GDPR e a SOX, abrangendo implantação de modelos, gerenciamento de riscos e responsabilidade. A validação e o teste de modelos são essenciais para verificar se as saídas do chatbot atendem aos padrões regulatórios, detectar vieses ou vazamentos de dados e garantir a conformidade contínua antes e depois da implantação. Usar o Vertex AI sem controles adicionais de governança de dados falha em atender aos requisitos de privacidade e auditoria do GDPR e da SOX. Um modelo pré-treinado sem personalização não satisfaz sozinho a conformidade regulatória ou as obrigações de privacidade de dados. A implantação local por si só não garante conformidade e pode não ser viável ou suficiente para as necessidades regulatórias e operacionais da instituição.
Para se aprofundar
Um Centro de Excelência para governança de IA normalmente define níveis de risco de modelos, fluxos de trabalho de aprovação e KPIs de monitoramento alinhados a frameworks como NIST AI RMF e ISO/IEC 42001. A validação de modelos para IA generativa vai além dos testes de precisão: inclui testes de penetração (red-teaming) para injeção de prompt, detecção de vazamento de PII, medição da taxa de alucinação e filtragem de saídas em relação a léxicos regulatórios. Sob o Artigo 22 do GDPR, a tomada de decisão automatizada exige supervisão humana e explicabilidade, que um CoE pode operacionalizar por meio de portões de revisão. A Seção 404 da SOX exige controles internos sobre relatórios financeiros, portanto, qualquer IA que toque em dados financeiros deve ter gerenciamento de mudanças e trilhas de auditoria. Na prática, os bancos implantam uma abordagem em camadas: um conselho de governança define a política, os pipelines MLOps aplicam portões de validação e o monitoramento contínuo detecta desvios ou violações de políticas pós-implantação.
Sobre estas questões de prática
Esta é uma das questões de prática originais de Generative AI Leader da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.