Pregunta de práctica de AI-102
Consulte la imagen.
{
"content_filters": [
{
"type": "hate",
"action": "block",
"severity": "high"
},
{
"type": "sexual",
"action": "block",
"severity": "medium"
},
{
"type": "self_harm",
"action": "block",
"severity": "low"
}
]
}Se implementa un modelo de Azure OpenAI con la configuración de filtros de contenido anterior. Un usuario envía un mensaje que el sistema califica como "hate" con un nivel de gravedad "medium". ¿Qué sucede?
Respuesta correcta
- ASe permite el mensaje porque la gravedad está por debajo del umbral.
Explicación
La configuración del filtro de contenido bloquea el contenido de "hate" solo en el nivel de gravedad "high". Dado que el mensaje del usuario se calificó como "hate" con gravedad "medium", se encuentra por debajo del umbral configurado y se permite. Los filtros de contenido de Azure OpenAI evalúan los niveles de gravedad (low, medium, high) y aplican la acción configurada solo cuando la gravedad detectada alcanza o supera el umbral especificado.
Para profundizar
Los filtros de contenido de Azure OpenAI operan por categoría con umbrales de gravedad configurables: low, medium y high. La acción se aplica únicamente cuando la gravedad detectada alcanza o supera el umbral configurado. En esta configuración, "hate" está establecido para bloquearse en "high", por lo que una clasificación de "hate" de gravedad "medium" cae por debajo del umbral y el mensaje continúa. El contenido "sexual" se bloquea en "medium" y "self-harm" en "low", por lo que esas categorías se activarían con una gravedad menor. Esta granularidad permite a las organizaciones ajustar el nivel de rigor por categoría de daño. Una consecuencia realista es que una implementación que bloquee "hate" solo en "high" seguirá permitiendo el paso de contenido de "hate" de gravedad "medium", lo cual puede entrar en conflicto con políticas internas más estrictas y requerir ajustar el umbral a "medium" o "low".
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de AI-102 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.