MoyenneChoix unique

Question d'entraînement AI-102

Reportez-vous à l'image.

{
  "content_filters": [
    {
      "type": "hate",
      "action": "block",
      "severity": "high"
    },
    {
      "type": "sexual",
      "action": "block",
      "severity": "medium"
    },
    {
      "type": "self_harm",
      "action": "block",
      "severity": "low"
    }
  ]
}

Vous déployez un modèle Azure OpenAI avec la configuration de filtre de contenu ci-dessus. Un utilisateur soumet une invite que le système évalue comme "hate" avec un niveau de sévérité "medium". Que se passe-t-il ?

Choisissez la meilleure réponse.

Bonne réponse

  • AL'invite est autorisée car la sévérité est inférieure au seuil.

Explication

La configuration du filtre de contenu bloque le contenu de type 'hate' uniquement au niveau de sévérité 'high'. Étant donné que l'invite de l'utilisateur a été évaluée comme 'hate' avec une sévérité 'medium', elle se situe en dessous du seuil configuré et est autorisée. Les filtres de contenu Azure OpenAI évaluent les niveaux de sévérité (low, medium, high) et appliquent l'action configurée uniquement lorsque la sévérité détectée atteint ou dépasse le seuil spécifié.

Pourquoi chaque option est juste ou fausse

A

Juste

L'invite est autorisée car la sévérité est inférieure au seuil.

Le filtre 'hate' bloque à la sévérité high, de sorte que le contenu 'hate' de sévérité medium se situe en dessous de ce seuil et passe. L'action s'applique uniquement lorsque la sévérité évaluée atteint ou dépasse le niveau configuré, de sorte que l'invite n'est pas bloquée.

B

Fausse

L'invite est bloquée car du contenu haineux est détecté.

Le filtre 'hate' bloque uniquement à la sévérité high, de sorte qu'une invite évaluée comme medium passe ce filtre ; l'action de blocage s'applique au seuil configuré, et non à chaque détection. C'est tentant car du contenu haineux est effectivement détecté, mais la détection seule ne déclenche pas le blocage en dessous du seuil de sévérité.

C

Fausse

L'invite est bloquée car la sévérité est moyenne.

La sévérité medium déclenche le blocage uniquement pour la catégorie 'sexual', dont le seuil est medium ; le seuil du filtre 'hate' est high, de sorte que le contenu 'hate' de sévérité medium n'est pas bloqué. C'est tentant car la sévérité medium provoque bien un blocage ailleurs dans cette configuration, mais pas pour la catégorie 'hate'.

D

Fausse

L'invite est autorisée car le filtre de haine n'est pas configuré pour le niveau moyen.

Le filtre 'hate' bloque à la sévérité high, de sorte que le contenu 'hate' de sévérité medium passe le filtre et l'invite est autorisée — mais c'est exactement ce que prétend cette option, elle ne peut donc pas être la réponse voulue. Les filtres agissent comme des seuils, et non comme des correspondances exactes ; élever l'action à medium le bloquerait.

Pour aller plus loin

Les filtres de contenu Azure OpenAI fonctionnent par catégorie avec des seuils de sévérité configurables : low, medium et high. L'action s'applique uniquement lorsque la sévérité détectée atteint ou dépasse le seuil configuré. Dans cette configuration, 'hate' est défini pour bloquer à 'high', de sorte qu'une classification de 'hate' de sévérité 'medium' tombe en dessous du seuil et l'invite se poursuit. Le contenu 'sexual' bloque à 'medium' et 'self_harm' bloque à 'low', de sorte que ces catégories se déclencheraient à des sévérités inférieures. Cette granularité permet aux organisations d'ajuster la stricte rigueur par catégorie de préjudice. Une implication réaliste est qu'un déploiement bloquant 'hate' uniquement à 'high' laissera toujours passer du contenu 'hate' de sévérité 'medium', ce qui peut entrer en conflit avec des politiques internes plus strictes et nécessiter l'ajustement du seuil à 'medium' ou 'low'.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-102 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.