Respuesta correcta
Explicación
Azure AI Content Safety es el servicio dedicado de Azure para detectar y filtrar contenido dañino como discursos de odio, violencia, autolesiones y contenido sexual, tanto en los prompts de los usuarios como en las respuestas generadas por la IA. Ofrece niveles de gravedad configurables y se integra directamente con los flujos de trabajo de IA generativa para aplicar políticas de IA responsable, lo que lo convierte en la opción correcta para este requisito.
Para profundizar
Azure AI Content Safety expone detección basada en categorías para contenido de odio, violencia, sexual y de autolesiones, además de protectores de prompts (prompt shields) contra jailbreak e inyección indirecta de prompts, y detección de fundamentación (groundedness) para controles de alucinaciones. Se invoca como un endpoint REST o llamada al SDK que devuelve puntuaciones de gravedad por categoría, lo que permite a la aplicación bloquear, marcar o enrutar el contenido antes de que llegue al modelo y nuevamente en la ruta de respuesta. Los filtros de contenido integrados de Azure OpenAI se aplican a las implementaciones de ese servicio, pero una aplicación independiente o de múltiples modelos necesita el recurso independiente de Content Safety para lograr una política coherente entre proveedores. Purview gobierna el cumplimiento del patrimonio de datos y Azure AI Language maneja tareas de NLP como la extracción de entidades, por lo que ninguno realiza una clasificación en tiempo real de contenido dañino en prompts y finalizaciones.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de AI-102 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.