DifícilVárias respostas

Questão de prática de AIF-C01

Quais TRÊS práticas são recomendadas para IA responsável ao implantar foundation models? (Escolha três.)

Escolha todas as respostas corretas.

Respostas corretas

  • BIncluir revisão humana para decisões de alto impacto
  • CImplementar guardrails para filtrar conteúdo prejudicial
  • DMonitorar continuamente as saídas do modelo em busca de desvios

Explicação

A Opção B está correta porque a implantação de IA responsável exige supervisão humana no circuito (human-in-the-loop) para decisões cruciais (por exemplo, contratação, concessão de crédito, triagem médica), para que uma pessoa qualificada possa validar ou substituir a saída do modelo antes que ela afete os direitos ou a segurança de alguém. A Opção C está correta porque guardrails — filtros de entrada/saída, classificadores de moderação de conteúdo e camadas de aplicação de políticas — são um controle padrão para evitar que foundation models gerem conteúdo prejudicial, inseguro ou que viole políticas. A Opção D está correta porque foundation models podem se degradar ou ter o comportamento alterado ao longo do tempo devido a desvio de dados, desvio de conceito ou atualizações de modelos upstream, portanto, o monitoramento contínuo das saídas (com métricas, alertas e gatilhos de retreinamento) é essencial para manter a confiabilidade e a justiça. A Opção A não é recomendada: coletar feedback do usuário é um sinal valioso para identificar viés e melhorar modelos, portanto evitan-lo reduziria a prestação de contas em vez de aumentar a responsabilidade. A Opção E não é recomendada: o sigilo opaco de 'caixa preta' mina a transparência, a explicabilidade e a auditabilidade, que são princípios centrais de IA responsável; o funcionamento interno e a documentação do modelo devem ser divulgados adequadamente às partes interessadas.

Por que cada alternativa está certa ou errada

A

Incorreta

Evitar a coleta de feedback do usuário para reduzir o viés

Suprimir o feedback do usuário remove a supervisão humana e a avaliação contínua que a IA responsável exige para detectar vieses e danos. É tentador porque o feedback pode introduzir ruído de rotulagem, de modo que evitá-lo parece proteger a qualidade dos dados, mas esse é precisamente o seu uso legítimo.

B

Correta

Incluir revisão humana para decisões de alto impacto

A revisão humana para decisões de alto impacto satisfaz a restrição de responsabilidade, mantendo uma pessoa responsável por resultados consequenciais, em vez de delegar o julgamento a um modelo probabilístico. Foundation models podem produzir saídas confiáveis, mas incorretas, portanto a supervisão detecta erros prejudiciais antes que eles afetem as pessoas, alinhando-se aos princípios de IA responsável.

C

Correta

Implementar guardrails para filtrar conteúdo prejudicial

Os guardrails filtram entradas e saídas nocivas no momento da inferência, atendendo diretamente ao requisito de IA responsável de mitigar a geração de conteúdo prejudicial. Ao contrário do alinhamento em tempo de treinamento, que fica fixo quando o foundation model é lançado, os guardrails aplicam controles de segurança em torno do modelo implantado, interceptando respostas tóxicas, violentas ou de outra forma inseguras antes que cheguem aos usuários.

D

Correta

Monitorar continuamente as saídas do modelo em busca de desvios

O monitoramento contínuo de saídas detecta desvios de distribuição, em que as entradas em tempo real divergem dos dados de treinamento e degradam a precisão ou a segurança. Ele atende ao requisito de IA responsável de manter supervisão contínua após a implantação, detectando viés emergente, alucinação ou regressões de qualidade que testes estáticos antes da implantação não conseguem revelar.

E

Incorreta

Usar uma abordagem de caixa preta para manter o funcionamento interno do modelo em segredo

O sigilo de caixa preta impede a transparência, explicabilidade e auditabilidade que a IA responsável exige para foundation models. É tentador porque ocultar o funcionamento interno protege a propriedade intelectual e impede sondagens adversariais, o que é uma motivação de segurança legítima, mas não uma prática de IA responsável.

Para se aprofundar

Foundation models são sistemas probabilísticos cujo comportamento emerge dos dados de treinamento e não pode ser totalmente especificado com antecedência, portanto a implantação responsável depende de controles em camadas e não de uma única salvaguarda. A revisão humana para decisões de alto impacto é importante porque a pontuação de confiança de um modelo reflete a probabilidade de tokens, não a correção factual; uma resposta fluida ainda pode estar errada, e um revisor responsável pode detectar erros consequenciais antes que causem danos. Os guardrails normalmente atuam como uma camada de filtro de entrada/saída, usando classificadores ou regras de política para bloquear prompts e conclusões que violem a política de segurança, embora adicionem latência e possam ser contornados por frases adversariais. O monitoramento contínuo detecta desvio de distribuição: à medida que as entradas do mundo real divergem dos dados de treinamento, as métricas de precisão e justiça se degradam silenciosamente. Em um assistente de triagem de empréstimos ou triagem médica, combinar essas três práticas evita decisões automatizadas sem revisão, filtra saídas prejudiciais e sinaliza a degradação antes que ela afete os usuários.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AIF-C01 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.