Respuesta correcta
- BConfigurar filtros de contenido en Azure OpenAI
Explicación
Los filtros de contenido en Azure OpenAI permiten definir categorías (por ejemplo, hate, violence, self-harm) y niveles de gravedad (low, medium, high) para bloquear o marcar automáticamente el lenguaje ofensivo en las salidas generadas. Esto aplica directamente los principios de inteligencia artificial responsable al evitar que contenido dañino llegue a los usuarios, sin necesidad de requerir un reentrenamiento del modelo ni cambios en el cifrado.
Para profundizar
Los filtros de contenido de Azure OpenAI se ejecutan como una capa de clasificación independiente tanto en el aviso como en la finalización, puntuando categorías como hate, violence, sexual y self-harm en distintos niveles de gravedad. El filtro predeterminado bloquea el contenido de alta gravedad y se puede personalizar por implementación, con opciones para anotar o bloquear en cada umbral. Debido a que el filtrado se realiza fuera de los pesos del modelo, se aplica de manera coherente incluso en implementaciones ajustadas (fine-tuned) y devuelve un error o una respuesta filtrada cuando se activa. Este es el control correcto para evitar salidas ofensivas; el cifrado protege los datos en reposo, el ajuste fino (fine-tuning) modela el comportamiento pero no garantiza la seguridad, y la limitación de tasa (throttling) gestiona la carga en lugar del contenido. Un escenario realista es un generador de descripciones de productos orientado al cliente donde una inyección de avisos (prompt injection) intenta extraer texto abusivo, y el filtro lo intercepta antes de que llegue al usuario.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de AI-102 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.