MediaOpción múltiple

Pregunta de práctica de AI-102

Una empresa utiliza Azure OpenAI para generar texto de marketing. Desean asegurarse de que el contenido generado no contenga lenguaje ofensivo. ¿Qué característica deben habilitar?

Elige la mejor respuesta.

Respuesta correcta

  • DHabilitar el filtrado de contenido a nivel de implementación.

Explicación

Azure OpenAI ofrece filtrado de contenido integrado a nivel de implementación que detecta y bloquea automáticamente lenguaje ofensivo o dañino tanto en los prompts de entrada como en las salidas generadas. Esta característica utiliza los modelos de IA responsable de Microsoft para aplicar políticas de seguridad sin necesidad de código personalizado o revisión manual, lo que la convierte en la solución más confiable y escalable para prevenir contenido ofensivo en el texto de marketing.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Usar DALL-E para generar imágenes en lugar de texto.

DALL-E produce imágenes, no texto de marketing, por lo que no puede filtrar lenguaje ofensivo en el texto generado. tienta porque cambiar de modalidad parece evitar el riesgo basado en texto, y DALL-E sería correcto si el entregable fueran recursos visuales como banners o ilustraciones en lugar de texto escrito.

B

Incorrecta

Usar un mensaje del sistema que instruya al modelo a evitar lenguaje ofensivo.

Un mensaje del sistema solo orienta el tono y el estilo mediante prompts; no puede garantizar el filtrado, ya que el modelo aún puede emitir lenguaje ofensivo. Tienta porque los mensajes del sistema son la forma estándar de moldear el comportamiento, y serían la opción correcta para controlar el formato, la personalidad o la voz de la marca en lugar de hacer cumplir la seguridad del contenido.

C

Incorrecta

Habilitar el registro de diagnóstico para revisar todas las salidas.

El registro de diagnóstico registra prompts y finalizaciones para auditoría posterior a la generación; no bloquea que el lenguaje ofensivo llegue a los usuarios. Tienta porque el registro respalda las investigaciones de cumplimiento y sería la opción correcta cuando el requisito es la trazabilidad o la revisión posterior al incidente en lugar de la prevención en el momento de la generación.

D

Correcta

Habilitar el filtrado de contenido a nivel de implementación.

El filtrado de contenido a nivel de implementación aplica los modelos de clasificación de Azure OpenAI tanto a los prompts como a las finalizaciones, bloqueando las categorías de odio, violencia, sexual y autolesión. Esto satisface directamente el requisito de que el texto de marketing generado no deba contener lenguaje ofensivo, aplicando la restricción en cada solicitud enrutada a través de esa implementación.

Para profundizar

El filtrado de contenido de Azure OpenAI se ejecuta de forma predeterminada en el servicio y se configura por implementación mediante filtros de contenido que asignan umbrales de gravedad (baja, media, alta) a cuatro categorías de daño: odio, sexual, violencia y autolesión. El filtro evalúa tanto el prompt como la finalización, y puede bloquear, anotar o permitir contenido según el umbral. Una sutileza: los mensajes del sistema son una guía suave que el modelo puede ignorar, y el registro de diagnóstico solo registra la actividad después de la generación, por lo que ninguno previene la salida ofensiva. En la práctica, un equipo de marketing que implemente GPT-4o para la generación de texto debe endurecer las categorías de odio y sexual a gravedad baja en la implementación para que las finalizaciones que superen los umbrales devuelvan un error content_filter en lugar de publicar texto ofensivo.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-102 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.