Respostas corretas
- AImplementar revisão com humano no ciclo para saídas sensíveis
- CImplementar filtros de conteúdo para bloquear saídas inapropiadas
- ERealizar auditorias regulares de viés e imparcialidade
Explicação
A revisão com humano no ciclo (HITL) garante que saídas sensíveis — como aquelas que envolvem informações de saúde protegidas (PHI), informações de identificação pessoal (PII) ou decisões de alto impacto — sejam avaliadas por um humano antes de chegarem ao cliente. Isso mitiga o risco de gerações prejudiciais ou tendenciosas que as proteções automatizadas podem deixar passar, alinhando-se aos princípios de IA responsável, como responsabilidade e segurança.
Para se aprofundar
A implantação responsável de generative AI em aplicativos voltados para o cliente requer revisão com humano no ciclo para saídas sensíveis para capturar conteúdo prejudicial ou impreciso antes que ele chegue aos usuários, filtros de conteúdo para bloquear automaticamente saídas inapropiadas, como discursos de ódio ou PII, e auditorias regulares de viés e imparcialidade para detectar e mitigar padrões discriminatórios. Treinar em todos os dados disponíveis pode amplificar vieses e riscos de privacidade, enquanto usar apenas modelos pequenos não reduz inerentemente o risco. Essas práticas se alinham com estruturas como os Princípios de IA do Google. Por exemplo, um chatbot que lida com consultas médicas deve ter revisão humana para diagnósticos, filtros para linguagem imprópria e auditorias para viés demográfico.
Sobre estas questões de prática
Esta é uma das questões de prática originais de Generative AI Leader da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.