Bonne réponse
- CUtiliser des filtres de sécurité et des paramètres de sécurité dans la requête de l'API
Explication
L'API Vertex AI Gemini fournit des filtres de sécurité intégrés et des paramètres de sécurité configurables (par exemple, le paramètre `safety_settings` avec des catégories telles que `HARM_CATEGORY_HARASSMENT` et des seuils tels que `BLOCK_ONLY_HIGH`) qui permettent aux développeurs de bloquer les sorties nuisibles au moment de l'inférence sans réentraînement. Il s'agit de la première étape la plus rapide et la plus directe pour atténuer le contenu nuisible, car elle ne nécessite aucune infrastructure supplémentaire ni modification du modèle.
Pour aller plus loin
Les requêtes de l'API Gemini transportent des paramètres de sécurité qui associent des catégories de préjudice telles que le harcèlement, les discours haineux, le contenu sexuellement explicite et le contenu dangereux à des seuils de blocage, et le modèle applique ces filtres pendant la génération. Définir les seuils sur BLOCK_MEDIUM_AND_ABOVE ou BLOCK_LOW_AND_ABOVE entraîne l'arrêt des réponses qui déclenchent une catégorie et leur renvoi avec une note de sécurité et un motif de fin, que l'application peut consigner ou acheminer vers un message de secours. Il s'agit d'une modification de configuration et non d'entraînement, elle prend donc effet immédiatement sans réentraînement ni latence supplémentaire. Le réglage fin (fine-tuning) et la révision humaine sont des recours plus lourds réservés aux cas où les filtres seuls ne peuvent pas respecter la politique.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement Generative AI Leader originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.