Respuesta correcta
Explicación
Azure AI Content Safety es el servicio correcto porque proporciona API de moderación de contenido integradas que detectan y filtran texto e imágenes dañinos u ofensivos, incluidos el discurso de odio, la violencia, la autolesión y el contenido sexual. La integración de este servicio con el chatbot de Azure OpenAI garantiza que las entradas del usuario y las salidas del modelo se examinen en tiempo real, evitando la generación de respuestas inapropiadas.
Para profundizar
Azure AI Content Safety expone API de categoría para contenido de Odio, Violencia, Sexual y Autolesión, cada una de las cuales devuelve una gravedad de 0 a 7, además de una función de Prompt Shields que detecta intentos de jailbreak. Cuando se conecta a Azure OpenAI, el filtro de contenido se ejecuta en el lado del servidor tanto en el prompt como en la finalización, y usted configura los umbrales de gravedad por categoría en la implementación; una respuesta bloqueada devuelve un objeto content_filter_results con la categoría desencadenante. Una sutileza es que los filtros son asíncronos a la lógica de su aplicación y pueden rechazar una finalización a mitad de flujo, por lo que los clientes deben manejar el finish_reason de content_filter. Esto es importante para los chatbots orientados al cliente donde una sola respuesta ofensiva crea una exposición de cumplimiento.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de AI-102 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.