Bonne réponse
- BConfiguration du filtrage de contenu (filtres d'IA responsable)
Explication
Azure OpenAI Service comprend un système de filtrage de contenu intégré (filtres d'IA responsable) qui détecte et bloque automatiquement le langage offensant, les stéréotypes nuisibles et les thèmes violents à la fois dans les invites d'entrée et dans les sorties générées. Cette fonctionnalité applique les directives de la marque sans nécessiter de modifications personnalisées du modèle ni de supervision manuelle.
Pour aller plus loin
Le filtrage de contenu d'Azure OpenAI exécute des classifieurs sur l'invite et la complétion, évaluant des catégories telles que la haine, la violence, le contenu sexuel et l'automutilation à travers différents niveaux de gravité. Les filtres par défaut bloquent le contenu de haute gravité et signalent les gravités inférieures ; vous pouvez créer des configurations de filtres personnalisées et les attacher à un déploiement pour resserrer ou assouplir les seuils par catégorie. Le filtrage se produit au moment de l'inférence, indépendamment des pondérations du modèle, il s'applique donc immédiatement sans réentraînement. Le réglage fin modifie le comportement du modèle mais ne garantit pas le refus des sorties offensantes, et les limites de jetons ou la formulation des invites n'imposent pas de politique. Pour les cas d'utilisation liés à la sécurité de la marque, attacher une politique de filtrage personnalisée stricte au déploiement constitue le contrôle fiable, et les réponses bloquées renvoient des codes d'erreur spécifiques que vous pouvez journaliser et surveiller.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.