Respuesta correcta
- BConfiguración del filtrado de contenido (filtros de IA responsable)
Explicación
Azure OpenAI Service incluye un sistema integrado de filtrado de contenido (filtros de IA responsable) que detecta y bloquea automáticamente el lenguaje ofensivo, los estereotipos dañinos y los temas violentos tanto en las indicaciones de entrada como en las salidas generadas. Esta característica aplica las directrices de marca sin requerir modificaciones personalizadas del modelo ni supervisión manual.
Para profundizar
El filtrado de contenido de Azure OpenAI ejecuta clasificadores tanto sobre la indicación como sobre la finalización, evaluando categorías como odio, violencia, contenido sexual y autolesión en varios niveles de gravedad. Los filtros predeterminados bloquean el contenido de alta gravedad y marcan las gravedades inferiores; puede crear configuraciones de filtro personalizadas y adjuntarlas a un implementación para ajustar o flexibilizar los umbrales por categoría. El filtrado ocurre en el momento de la inferencia, independientemente de los pesos del modelo, por lo que se aplica inmediatamente sin necesidad de reentrenamiento. El ajuste fino cambia el comportamiento del modelo pero no garantiza el rechazo de salidas ofensivas, y los límites de tokens o la formulación de las indicaciones no imponen políticas. Para casos de uso de seguridad de marca, adjuntar una política de filtro personalizada estricta a la implementación es el control confiable, y las respuestas bloqueadas devuelven códigos de error específicos que se pueden registrar y monitorear.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.