Respuesta correcta
- CUsar filtros de seguridad y configuraciones de seguridad en la solicitud de la API
Explicación
La Vertex AI Gemini API proporciona filtros de seguridad integrados y configuraciones de seguridad configurables (por ejemplo, el parámetro `safety_settings` con categorías como `HARM_CATEGORY_HARASSMENT` y umbrales como `BLOCK_ONLY_HIGH`) que permiten a los desarrolladores bloquear salidas dañinas en el momento de la inferencia sin necesidad de reentrenamiento. Este es el primer paso más rápido y directo para mitigar el contenido dañino, ya que no requiere infraestructura adicional ni modificación del modelo.
Para profundizar
Las solicitudes de la Gemini API llevan configuraciones de seguridad que asignan categorías de daño, tales como acoso, discurso de odio, contenido sexualmente explícito y contenido peligroso, a umbrales de bloqueo, y el modelo aplica estos filtros durante la generación. Establecer los umbrales en BLOCK_MEDIUM_AND_ABOVE o BLOCK_LOW_AND_ABOVE hace que las respuestas que activen una categoría se detengan y se devuelvan con una calificación de seguridad y un motivo de finalización, que la aplicación puede registrar o redirigir a un mensaje alternativo. Esto es un cambio de configuración, no de entrenamiento, por lo que surte efecto de inmediato sin reentrenamiento ni latencia adicional. El ajuste fino (fine-tuning) y la revisión humana son remedios más pesados reservados para casos en los que los filtros por sí solos no pueden cumplir con las políticas.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de Generative AI Leader de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.