Respuesta correcta
- DHabilitar el filtrado de contenido a nivel de implementación.
Explicación
Azure OpenAI ofrece filtrado de contenido integrado a nivel de implementación que detecta y bloquea automáticamente lenguaje ofensivo o dañino tanto en los prompts de entrada como en las salidas generadas. Esta característica utiliza los modelos de IA responsable de Microsoft para aplicar políticas de seguridad sin necesidad de código personalizado o revisión manual, lo que la convierte en la solución más confiable y escalable para prevenir contenido ofensivo en el texto de marketing.
Para profundizar
El filtrado de contenido de Azure OpenAI se ejecuta de forma predeterminada en el servicio y se configura por implementación mediante filtros de contenido que asignan umbrales de gravedad (baja, media, alta) a cuatro categorías de daño: odio, sexual, violencia y autolesión. El filtro evalúa tanto el prompt como la finalización, y puede bloquear, anotar o permitir contenido según el umbral. Una sutileza: los mensajes del sistema son una guía suave que el modelo puede ignorar, y el registro de diagnóstico solo registra la actividad después de la generación, por lo que ninguno previene la salida ofensiva. En la práctica, un equipo de marketing que implemente GPT-4o para la generación de texto debe endurecer las categorías de odio y sexual a gravedad baja en la implementación para que las finalizaciones que superen los umbrales devuelvan un error content_filter en lugar de publicar texto ofensivo.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de AI-102 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.