Resposta correta
- CUsar filtros de segurança e configurações de segurança na solicitação da API
Explicação
A Vertex AI Gemini API fornece filtros de segurança integrados e configurações de segurança configuráveis (por exemplo, o parâmetro `safety_settings` com categorias como `HARM_CATEGORY_HARASSMENT` e limites como `BLOCK_ONLY_HIGH`) que permitem aos desenvolvedores bloquear saídas prejudiciais no momento da inferência sem retreinamento. Esta é a primeira etapa mais rápida e direta para mitigar conteúdo prejudicial, pois não requer infraestrutura adicional ou modificação do modelo.
Para se aprofundar
As solicitações da Gemini API carregam configurações de segurança que mapeiam categorias de danos, como assédio, discurso de ódio, conteúdo sexualmente explícito e conteúdo perigoso, para limites de bloqueio, e o modelo aplica esses filtros durante a geração. Definir os limites como BLOCK_MEDIUM_AND_ABOVE ou BLOCK_LOW_AND_ABOVE faz com que as respostas que acionem uma categoria sejam interrompidas e retornadas com uma classificação de segurança e motivo de término, que o aplicativo pode registrar ou direcionar para uma mensagem de fallback. Esta é uma alteração de configuração, não de treinamento, portanto, entra em vigor imediatamente sem retreinamento ou latência adicional. O ajuste fino (fine-tuning) e a revisão humana são remédios mais pesados reservados para casos em que os filtros sozinhos não conseguem atender à política.
Sobre estas questões de prática
Esta é uma das questões de prática originais de Generative AI Leader da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.