Bonne réponse
- BConfigurer des filtres de contenu dans Azure OpenAI
Explication
Les filtres de contenu dans Azure OpenAI vous permettent de définir des catégories (par exemple, hate, violence, self-harm) et des niveaux de gravité (low, medium, high) pour bloquer ou signaler automatiquement le langage offensant dans les sorties générées. Cela applique directement les principes d'une IA responsable en empêchant le contenu préjudiciable d'être présenté aux utilisateurs, sans nécessiter de réentraînement du modèle ni de modifications du chiffrement.
Pour aller plus loin
Les filtres de contenu d'Azure OpenAI s'exécutent en tant que couche de classification indépendante sur le prompt et la complétion, évaluant des catégories telles que hate, violence, sexual et self-harm selon différents niveaux de gravité. Le filtre par défaut bloque le contenu de haute gravité et peut être personnalisé par déploiement, avec des options pour annoter ou bloquer à chaque seuil. Étant donné que le filtrage s'effectue en dehors des poids du modèle, il s'applique de manière cohérente même aux déploiements affinés (fine-tuned) et renvoie une erreur ou une réponse filtrée lorsqu'il est déclenché. Il s'agit du contrôle correct pour empêcher la production de contenu offensant; le chiffrement protège les données au repos, l'affinage (fine-tuning) façonne le comportement mais ne garantit pas la sécurité, et la limitation du débit (throttling) gère la charge plutôt que le contenu. Un scénario réaliste est un générateur de descriptions de produits destiné aux clients où une injection de prompt tente d'obtenir un texte abusif, et le filtre l'intercepte avant qu'il n'atteigne l'utilisateur.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AI-102 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.