Question d'entraînement AI-102
Reportez-vous à l'image.
{
"content_filters": [
{
"type": "hate",
"action": "block",
"severity": "high"
},
{
"type": "sexual",
"action": "block",
"severity": "medium"
},
{
"type": "self_harm",
"action": "block",
"severity": "low"
}
]
}Vous déployez un modèle Azure OpenAI avec la configuration de filtre de contenu ci-dessus. Un utilisateur soumet une invite que le système évalue comme "hate" avec un niveau de sévérité "medium". Que se passe-t-il ?
Bonne réponse
- AL'invite est autorisée car la sévérité est inférieure au seuil.
Explication
La configuration du filtre de contenu bloque le contenu de type 'hate' uniquement au niveau de sévérité 'high'. Étant donné que l'invite de l'utilisateur a été évaluée comme 'hate' avec une sévérité 'medium', elle se situe en dessous du seuil configuré et est autorisée. Les filtres de contenu Azure OpenAI évaluent les niveaux de sévérité (low, medium, high) et appliquent l'action configurée uniquement lorsque la sévérité détectée atteint ou dépasse le seuil spécifié.
Pour aller plus loin
Les filtres de contenu Azure OpenAI fonctionnent par catégorie avec des seuils de sévérité configurables : low, medium et high. L'action s'applique uniquement lorsque la sévérité détectée atteint ou dépasse le seuil configuré. Dans cette configuration, 'hate' est défini pour bloquer à 'high', de sorte qu'une classification de 'hate' de sévérité 'medium' tombe en dessous du seuil et l'invite se poursuit. Le contenu 'sexual' bloque à 'medium' et 'self_harm' bloque à 'low', de sorte que ces catégories se déclencheraient à des sévérités inférieures. Cette granularité permet aux organisations d'ajuster la stricte rigueur par catégorie de préjudice. Une implication réaliste est qu'un déploiement bloquant 'hate' uniquement à 'high' laissera toujours passer du contenu 'hate' de sévérité 'medium', ce qui peut entrer en conflit avec des politiques internes plus strictes et nécessiter l'ajustement du seuil à 'medium' ou 'low'.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AI-102 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.