MediaOpción múltiple

Pregunta de práctica de AI-102

Consulte la imagen.

{
  "content_filters": [
    {
      "type": "hate",
      "action": "block",
      "severity": "high"
    },
    {
      "type": "sexual",
      "action": "block",
      "severity": "medium"
    },
    {
      "type": "self_harm",
      "action": "block",
      "severity": "low"
    }
  ]
}

Se implementa un modelo de Azure OpenAI con la configuración de filtros de contenido anterior. Un usuario envía un mensaje que el sistema califica como "hate" con un nivel de gravedad "medium". ¿Qué sucede?

Elige la mejor respuesta.

Respuesta correcta

  • ASe permite el mensaje porque la gravedad está por debajo del umbral.

Explicación

La configuración del filtro de contenido bloquea el contenido de "hate" solo en el nivel de gravedad "high". Dado que el mensaje del usuario se calificó como "hate" con gravedad "medium", se encuentra por debajo del umbral configurado y se permite. Los filtros de contenido de Azure OpenAI evalúan los niveles de gravedad (low, medium, high) y aplican la acción configurada solo cuando la gravedad detectada alcanza o supera el umbral especificado.

Por qué cada opción es correcta o incorrecta

A

Correcta

Se permite el mensaje porque la gravedad está por debajo del umbral.

El filtro de "hate" bloquea en gravedad "high", por lo que el contenido de "hate" de gravedad "medium" cae por debajo de dicho umbral y pasa. La acción se aplica únicamente cuando la gravedad calificada alcanza o supera el nivel configurado, por lo que el mensaje no se bloquea.

B

Incorrecta

Se bloquea el mensaje porque se detecta contenido de odioso.

El filtro de "hate" bloquea solo en gravedad "high", por lo que un mensaje calificado como "medium" pasa dicho filtro; la acción de bloqueo se aplica en el umbral configurado, no en cada detección. Resulta tentador porque efectivamente se detecta contenido de odio, pero la sola detección no activa el bloqueo por debajo del umbral de gravedad.

C

Incorrecta

Se bloquea el mensaje porque la gravedad es medium.

La gravedad "medium" activa el bloqueo únicamente para la categoría "sexual", cuyo umbral es "medium"; el umbral del filtro de "hate" es "high", por lo que el contenido de "hate" con gravedad "medium" no se bloquea. Resulta tentador porque la gravedad "medium" sí provoca bloqueos en otra parte de esta configuración, pero no para la categoría de "hate".

D

Incorrecta

Se permite el mensaje porque el filtro de hate no está configurado para medium.

El filtro de "hate" bloquea en gravedad "high", por lo que el contenido de "hate" de gravedad "medium" pasa el filtro y se permite el mensaje, pero eso es exactamente lo que afirma esta opción, por lo que no puede ser la respuesta prevista. Los filtros actúan como umbrales, no como coincidencias exactas; elevar la acción a "medium" lo bloquearía.

Para profundizar

Los filtros de contenido de Azure OpenAI operan por categoría con umbrales de gravedad configurables: low, medium y high. La acción se aplica únicamente cuando la gravedad detectada alcanza o supera el umbral configurado. En esta configuración, "hate" está establecido para bloquearse en "high", por lo que una clasificación de "hate" de gravedad "medium" cae por debajo del umbral y el mensaje continúa. El contenido "sexual" se bloquea en "medium" y "self-harm" en "low", por lo que esas categorías se activarían con una gravedad menor. Esta granularidad permite a las organizaciones ajustar el nivel de rigor por categoría de daño. Una consecuencia realista es que una implementación que bloquee "hate" solo en "high" seguirá permitiendo el paso de contenido de "hate" de gravedad "medium", lo cual puede entrar en conflicto con políticas internas más estrictas y requerir ajustar el umbral a "medium" o "low".

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-102 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.