MédiaVárias respostas

Questão de prática de Generative AI Leader

Quais são as TRÊS melhores práticas para a implantação responsável de generative AI em um aplicativo voltado para o cliente?

Escolha todas as respostas corretas.

Respostas corretas

  • AImplementar revisão com humano no ciclo para saídas sensíveis
  • CImplementar filtros de conteúdo para bloquear saídas inapropiadas
  • ERealizar auditorias regulares de viés e imparcialidade

Explicação

A revisão com humano no ciclo (HITL) garante que saídas sensíveis — como aquelas que envolvem informações de saúde protegidas (PHI), informações de identificação pessoal (PII) ou decisões de alto impacto — sejam avaliadas por um humano antes de chegarem ao cliente. Isso mitiga o risco de gerações prejudiciais ou tendenciosas que as proteções automatizadas podem deixar passar, alinhando-se aos princípios de IA responsável, como responsabilidade e segurança.

Por que cada alternativa está certa ou errada

A

Correta

Implementar revisão com humano no ciclo para saídas sensíveis

A revisão humana adiciona responsabilidade e correção de erros.

B

Incorreta

Treinar o modelo em todos os dados disponíveis para maximizar a cobertura

Treinar em todos os dados pode propagar vieses e violar a governança de dados.

C

Correta

Implementar filtros de conteúdo para bloquear saídas inapropiadas

Os filtros de conteúdo são uma medida de segurança fundamental.

D

Incorreta

Usar apenas modelos pequenos para reduzir o risco

O tamanho do modelo não determina a responsabilidade; até mesmo modelos pequenos podem ser tendenciosos.

E

Correta

Realizar auditorias regulares de viés e imparcialidade

As auditorias ajudam a identificar e mitigar vieses ao longo do tempo.

Para se aprofundar

A implantação responsável de generative AI em aplicativos voltados para o cliente requer revisão com humano no ciclo para saídas sensíveis para capturar conteúdo prejudicial ou impreciso antes que ele chegue aos usuários, filtros de conteúdo para bloquear automaticamente saídas inapropiadas, como discursos de ódio ou PII, e auditorias regulares de viés e imparcialidade para detectar e mitigar padrões discriminatórios. Treinar em todos os dados disponíveis pode amplificar vieses e riscos de privacidade, enquanto usar apenas modelos pequenos não reduz inerentemente o risco. Essas práticas se alinham com estruturas como os Princípios de IA do Google. Por exemplo, um chatbot que lida com consultas médicas deve ter revisão humana para diagnósticos, filtros para linguagem imprópria e auditorias para viés demográfico.

Sobre estas questões de prática

Esta é uma das questões de prática originais de Generative AI Leader da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.