DifícilOpción múltiple

Pregunta de práctica de AI-900

Una empresa utiliza Azure OpenAI Service para generar textos de marketing para publicaciones en redes sociales. Quieren evitar que el modelo produzca contenido que contenga lenguaje ofensivo, estereotipos dañinos o temas violentos que vayan en contra de las directrices de su marca. ¿Qué característica debe configurar la empresa dentro de Azure OpenAI Service?

Elige la mejor respuesta.

Respuesta correcta

  • BConfiguración del filtrado de contenido (filtros de IA responsable)

Explicación

Azure OpenAI Service incluye un sistema integrado de filtrado de contenido (filtros de IA responsable) que detecta y bloquea automáticamente el lenguaje ofensivo, los estereotipos dañinos y los temas violentos tanto en las indicaciones de entrada como en las salidas generadas. Esta característica aplica las directrices de marca sin requerir modificaciones personalizadas del modelo ni supervisión manual.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Ajuste fino del modelo con un conjunto de datos personalizado

El ajuste fino entrena al modelo con datos específicos para mejorar el rendimiento en una tarea. Sin embargo, no filtra intrínsecamente el contenido objetable; el modelo aún podría generar texto dañino si los datos de ajuste fino contienen dichos patrones.

B

Correcta

Configuración del filtrado de contenido (filtros de IA responsable)

El sistema de filtrado de contenido de Azure OpenAI es una protección integrada que analiza automáticamente las entradas y salidas en busca de categorías como odio, violencia, contenido sexual y autolesión. Las empresas pueden configurar los niveles de gravedad para evitar que se genere contenido indeseable.

C

Incorrecta

Aumento del límite de tokens por respuesta

Aumentar el límite de tokens solo extiende la longitud de la respuesta; no puede filtrar lenguaje ofensivo, estereotipos o violencia, por lo que las directrices de marca siguen sin aplicarse. Es tentador porque los límites de tokens resuelven verdaderamente las finalizaciones truncadas o cortadas en la generación de formato largo, que es la solución correcta cuando la longitud de salida, y no la seguridad del contenido, es la limitación.

D

Incorrecta

Uso de técnicas de ingeniería de prompts

La ingeniería de prompts (por ejemplo, agregar instrucciones como 'no uses lenguaje ofensivo') puede ayudar a guiar al modelo, pero no es un mecanismo de seguridad garantizado. El modelo aún puede generar contenido inapropiado si la instrucción no se sigue perfectamente. El filtrado de contenido es la medida de protección oficial.

Para profundizar

El filtrado de contenido de Azure OpenAI ejecuta clasificadores tanto sobre la indicación como sobre la finalización, evaluando categorías como odio, violencia, contenido sexual y autolesión en varios niveles de gravedad. Los filtros predeterminados bloquean el contenido de alta gravedad y marcan las gravedades inferiores; puede crear configuraciones de filtro personalizadas y adjuntarlas a un implementación para ajustar o flexibilizar los umbrales por categoría. El filtrado ocurre en el momento de la inferencia, independientemente de los pesos del modelo, por lo que se aplica inmediatamente sin necesidad de reentrenamiento. El ajuste fino cambia el comportamiento del modelo pero no garantiza el rechazo de salidas ofensivas, y los límites de tokens o la formulación de las indicaciones no imponen políticas. Para casos de uso de seguridad de marca, adjuntar una política de filtro personalizada estricta a la implementación es el control confiable, y las respuestas bloqueadas devuelven códigos de error específicos que se pueden registrar y monitorear.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.