DifícilOpción múltiple

Pregunta de práctica de AI-102

Su empresa utiliza Azure OpenAI Service para generar descripciones de productos. Debe garantizar que el contenido generado no incluya lenguaje ofensivo y cumpla con los principios de inteligencia artificial responsable. ¿Qué debe implementar?

Elige la mejor respuesta.

Respuesta correcta

  • BConfigurar filtros de contenido en Azure OpenAI

Explicación

Los filtros de contenido en Azure OpenAI permiten definir categorías (por ejemplo, hate, violence, self-harm) y niveles de gravedad (low, medium, high) para bloquear o marcar automáticamente el lenguaje ofensivo en las salidas generadas. Esto aplica directamente los principios de inteligencia artificial responsable al evitar que contenido dañino llegue a los usuarios, sin necesidad de requerir un reentrenamiento del modelo ni cambios en el cifrado.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Habilitar el cifrado con claves administradas por el cliente

Las claves administradas por el cliente cifran los datos en reposo en el recurso de Azure OpenAI; no tienen ningún efecto en el texto que genera el modelo. El cifrado en reposo es el control adecuado cuando los requisitos normativos exigen la propiedad de las claves, y no cuando el objetivo es filtrar resultados ofensivos.

B

Correcta

Configurar filtros de contenido en Azure OpenAI

Configurar filtros de contenido en Azure OpenAI aplica un análisis basado en la gravedad en las categorías de hate, violence, sexual y self-harm tanto en los avisos como en las finalizaciones, bloqueando las salidas ofensivas antes de que lleguen a los usuarios. Esto satisface directamente el requisito del enunciado de prevenir el lenguaje ofensivo y mantener los principios de inteligencia artificial responsable, a diferencia de la ingeniería de avisos o la moderación aplicada después de la generación.

C

Incorrecta

Ajustar con precisión (fine-tune) el modelo con un conjunto de datos seleccionado

El ajuste fino da forma al tono, formato y vocabulario de dominio; no aplica la seguridad del contenido, ya que un conjunto de datos seleccionado no puede garantizar que las salidas eviten el lenguaje ofensivo. Los filtros de contenido son el mecanismo que bloquea las categorías dañinas. El ajuste fino es correcto cuando se adapta el estilo o la precisión de la tarea, pero no para las directrices de inteligencia artificial responsable.

D

Incorrecta

Establecer límites de uso y limitación de tasa (throttling)

Los límites de uso y el throttling limitan el volumen de solicitudes y el consumo de tokens para controlar el costo y el abuso; no inspeccionan ni bloquean contenido ofensivo dentro de una respuesta. El throttling es correcto cuando se protege la cuota o se previene un gasto descontrolado, no para aplicar políticas de contenido de inteligencia artificial responsable.

Para profundizar

Los filtros de contenido de Azure OpenAI se ejecutan como una capa de clasificación independiente tanto en el aviso como en la finalización, puntuando categorías como hate, violence, sexual y self-harm en distintos niveles de gravedad. El filtro predeterminado bloquea el contenido de alta gravedad y se puede personalizar por implementación, con opciones para anotar o bloquear en cada umbral. Debido a que el filtrado se realiza fuera de los pesos del modelo, se aplica de manera coherente incluso en implementaciones ajustadas (fine-tuned) y devuelve un error o una respuesta filtrada cuando se activa. Este es el control correcto para evitar salidas ofensivas; el cifrado protege los datos en reposo, el ajuste fino (fine-tuning) modela el comportamiento pero no garantiza la seguridad, y la limitación de tasa (throttling) gestiona la carga en lugar del contenido. Un escenario realista es un generador de descripciones de productos orientado al cliente donde una inyección de avisos (prompt injection) intenta extraer texto abusivo, y el filtro lo intercepta antes de que llegue al usuario.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-102 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.