MediaOpción múltiple

Pregunta de práctica de AI-102

Una empresa desea generar descripciones de productos personalizadas para su sitio de comercio electrónico utilizando Azure OpenAI. Deben garantizar que la salida del modelo se adhiera a las directrices de la marca y no genere contenido prohibido. ¿Qué enfoque deben utilizar?

Elige la mejor respuesta.

Respuesta correcta

  • AUtilizar un mensaje de sistema con directrices de marca y aplicar filtrado de contenido.

Explicación

El uso de un mensaje de sistema le permite integrar directrices de marca directamente en el contexto de la conversación, dando instrucciones al modelo sobre el tono, el estilo y el contenido prohibido. El filtrado de contenido de Azure OpenAI proporciona una capa de seguridad adicional al detectar y bloquear automáticamente las salidas dañinas o que violan las políticas, garantizando el cumplimiento de los requisitos tanto de la marca como normativos.

Por qué cada opción es correcta o incorrecta

A

Correcta

Utilizar un mensaje de sistema con directrices de marca y aplicar filtrado de contenido.

Un mensaje de sistema establece instrucciones de comportamiento persistentes, por lo que las normas de tono de marca y de temas prohibidos se aplican a cada finalización, mientras que el filtro de contenido de Azure OpenAI bloquea las categorías dañinas de manera independiente. Juntos satisfacen tanto la restricción de directrices de marca como la de contenido prohibido.

B

Incorrecta

Utilizar ingeniería de comandos con comandos negativos e ignorar el filtrado de contenido.

Ignorar el filtrado de contenido elimina la barrera de protección a nivel de servicio que bloquea las categorías prohibidas, por lo que los requisitos de seguridad de la marca no se pueden cumplir independientemente de la redacción del comando. Los comandos negativos solo orientan el estilo dentro de la propia generación del modelo. La ingeniería de comandos por sí sola se adapta al ajuste de tono y formato en donde los filtros de contenido predeterminados de Azure OpenAI ya satisfacen el límite de cumplimiento.

C

Incorrecta

Proporcionar ejemplos de pocos disparos en el mensaje del usuario y confiar en el entrenamiento del modelo.

Los ejemplos de pocos disparos moldean el tono pero no pueden aplicar normas de marca ni bloquear salidas prohibidas; el entrenamiento del modelo es fijo e inverificable. El filtrado de contenido y la seguridad se configuran mediante los filtros de contenido y los mensajes de sistema de Azure OpenAI, que es lo que requiere este escenario.

D

Incorrecta

Ajustar con precisión el modelo con directrices de marca y deshabilitar el filtrado de contenido para mejorar el rendimiento.

Deshabilitar el filtrado de contenido elimina la capa de seguridad que bloquea el contenido prohibido, violando directamente el requisito. El ajuste fino enseña estilo y tono mediante ejemplos, pero no puede garantizar la adherencia a las directrices ni evitar salidas dañinas. El ajuste fino se adapta a escenarios que necesitan un formato consistente o vocabulario de dominio, no a la aplicación de la seguridad del contenido.

Para profundizar

Azure OpenAI aplica un mensaje de sistema al inicio de la conversación que establece la personalidad, el tono y las restricciones del modelo; colocar las directrices de la marca ahí orienta cada finalización sin consumir contexto de los turnos del usuario. El filtrado de contenido se ejecuta por defecto en las indicaciones y finalizaciones, y se puede configurar por despliegue con umbrales de gravedad para las categorías de odio, violencia, contenido sexual y autolesión, además de listas de bloqueo opcionales. Combinar un mensaje de sistema con el filtrado de contenido proporciona tanto control estilístico como aplicación de la seguridad. El ajuste fino puede enseñar estilo pero no sustituye al filtrado de contenido, y deshabilitar el filtrado no está permitido para la mayoría de los casos de uso. Los ejemplos de pocos disparos (few-shot) en el mensaje del usuario ayudan al formato pero son más débiles que una instrucción de sistema persistente. En producción, los equipos también registran las respuestas filtradas y utilizan el punto de conexión de monitorización de abusos para revisar el contenido marcado.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-102 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.