MoyenneChoix unique

Question d'entraînement AI-102

Une entreprise souhaite générer des descriptions de produits personnalisées pour son site e-commerce à l'aide d'Azure OpenAI. Elle doit s'assurer que la sortie du modèle respecte les directives de la marque et ne génère pas de contenu prohibé. Quelle approche doit-elle utiliser ?

Choisissez la meilleure réponse.

Bonne réponse

  • AUtiliser un message système avec les directives de la marque et appliquer le filtrage de contenu.

Explication

L'utilisation d'un message système permet d'intégrer les directives de la marque directement dans le contexte de la conversation, en indiquant au modèle le ton, le style et le contenu prohibé. Le filtrage de contenu d'Azure OpenAI offre une couche de sécurité supplémentaire en détectant et en bloquant automatiquement les sorties nuisibles ou contraires aux politiques, garantissant ainsi la conformité aux exigences de la marque et de la réglementation.

Pourquoi chaque option est juste ou fausse

A

Juste

Utiliser un message système avec les directives de la marque et appliquer le filtrage de contenu.

Un message système définit des instructions comportementales persistantes, de sorte que le ton de la marque et les règles relatives aux sujets interdits s'appliquent à chaque complétion, tandis que le filtre de contenu d'Azure OpenAI bloque les catégories nuisibles de manière indépendante. Ensemble, ils satisfont à la fois la contrainte de directives de marque et celle de contenu prohibé.

B

Fausse

Utiliser l'ingénierie des invites avec des invites négatives et ignorer le filtrage de contenu.

Ignorer le filtrage de contenu supprime la protection au niveau du service qui bloque les catégories interdites, de sorte que les exigences de sécurité de la marque ne peuvent être satisfaites quelle que soit la formulation de l'invite. Les invites négatives guident uniquement le style dans le cadre de la génération propre au modèle. L'ingénierie des invites seule convient au réglage du ton et du format lorsque les filtres de contenu par défaut d'Azure OpenAI satisfont déjà la limite de conformité.

C

Fausse

Fournir des exemples few-shot dans le message utilisateur et s'en remettre à l'entraînement du modèle.

Les exemples few-shot façonnent le ton mais ne peuvent pas faire respecter les règles de la marque ni bloquer les sorties prohibées ; l'entraînement du modèle est fixe et invérifiable. Le filtrage de contenu et la sécurité sont configurés via les filtres de contenu et les messages système d'Azure OpenAI, ce que requiert ce scénario.

D

Fausse

Ajuster finement (fine-tune) le modèle avec les directives de la marque et désactiver le filtrage de contenu pour des raisons de performance.

Désactiver le filtrage de contenu supprime la couche de sécurité qui bloque le contenu prohibé, ce qui viole directement l'exigence. L'ajustement fin enseigne le style et le ton par l'exemple, mais il ne peut garantir le respect des directives ni empêcher la production de contenus nuisibles. L'ajustement fin convient aux scénarios nécessitant un formatage cohérent ou un vocabulaire métier, et non à l'application de la sécurité des contenus.

Pour aller plus loin

Azure OpenAI applique un message système au début de la conversation qui définit la personnalité, le ton et les contraintes du modèle ; y placer les directives de la marque guide chaque complétion sans consommer le contexte des tours utilisateur. Le filtrage de contenu s'exécute par défaut sur les invites (prompts) et les complétions, et peut être configuré par déploiement avec des seuils de sévérité pour les catégories de haine, de violence, de contenu à caractère sexuel et d'auto-mutilation, ainsi que des listes de blocage facultatives. L'association d'un message système et d'un filtrage de contenu assure à la fois le contrôle stylistique et l'application des règles de sécurité. L'ajustement fin (fine-tuning) peut enseigner le style mais ne remplace pas le filtrage de contenu, et la désactivation du filtrage n'est pas autorisée pour la plupart des cas d'utilisation. Les exemples few-shot dans le message utilisateur aident pour le formatage mais sont moins puissants qu'une instruction système persistante. En production, les équipes consignent également les réponses filtrées et utilisent le point de terminaison de surveillance des abus pour examiner le contenu signalé.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-102 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.