MoyenneChoix unique

Question d'entraînement AI-102

Une entreprise utilise Azure OpenAI pour générer des textes publicitaires. Elle souhaite s'assurer que le contenu généré ne contient pas de langage offensant. Quelle fonctionnalité doit-elle activer ?

Choisissez la meilleure réponse.

Bonne réponse

  • DActiver le filtrage de contenu au niveau du déploiement.

Explication

Azure OpenAI propose un filtrage de contenu intégré au niveau du déploiement qui détecte et bloque automatiquement le langage offensant ou nuisible dans les invites d'entrée et les sorties générées. Cette fonctionnalité utilise les modèles d'IA responsable de Microsoft pour appliquer des politiques de sécurité sans nécessiter de code personnalisé ni de révision manuelle, ce qui en fait la solution la plus fiable et évolutive pour empêcher le contenu offensant dans les textes publicitaires.

Pourquoi chaque option est juste ou fausse

A

Fausse

Utiliser DALL-E pour générer des images au lieu de texte.

DALL-E produit des images et non des textes publicitaires, il ne peut donc pas filtrer le langage offensant dans du texte généré. Cela séduit car changer de modalité semble contourner le risque textuel, et DALL-E serait correct si le livrable était des éléments visuels tels que des bannières ou des illustrations au lieu de texte écrit.

B

Fausse

Utiliser un message système instruisant le modèle d'éviter le langage offensant.

Un message système ne fait qu'orienter le ton et le style par le biais d'instructions ; il ne peut garantir un filtrage, car le modèle peut tout de même émettre un langage offensant. Cela séduit car les messages système constituent le moyen standard de façonner le comportement, et ils seraient le bon choix pour contrôler le format, la personnalité ou la voix de la marque plutôt que d'imposer la sécurité du contenu.

C

Fausse

Activer la journalisation diagnostique pour examiner toutes les sorties.

La journalisation diagnostique enregistre les invites et les complétions à des fins d'audit après la génération ; elle n'empêche pas le langage offensant d'atteindre les utilisateurs. Cela séduit car la journalisation prend en charge les enquêtes de conformité et serait le bon choix lorsque l'exigence est la traçabilité ou l'examen post-incident plutôt que la prévention au moment de la génération.

D

Juste

Activer le filtrage de contenu au niveau du déploiement.

Le filtrage de contenu au niveau du déploiement applique les modèles de classification d'Azure OpenAI aux invites et aux complétions, bloquant les catégories de haine, de violence, de sexualité et d'automutilation. Cela satisfait directement l'exigence selon laquelle le texte publicitaire généré ne doit pas contenir de langage offensant, en appliquant la restriction sur chaque requête acheminée via ce déploiement.

Pour aller plus loin

Le filtrage de contenu d'Azure OpenAI s'exécute par défaut sur le service et est configuré par déploiement via des filtres de contenu qui attribuent des seuils de gravité (faible, moyen, élevé) à quatre catégories de préjudice : haine, sexuel, violence et automutilation. Le filtre évalue à la fois l'invite et la complétion, et peut bloquer, annoter ou autoriser le contenu en fonction du seuil. Une subtilité : les messages système sont des conseils souples que le modèle peut ignorer, et la journalisation diagnostique n'enregistre l'activité qu'après la génération, de sorte qu'aucun des deux ne prévient une sortie offensive. En pratique, une équipe marketing déployant GPT-4o pour la génération de texte doit renforcer les catégories haine et sexuel à une sévérité faible sur le déploiement afin que les complétions dépassant les seuils renvoient une erreur content_filter plutôt que de publier du texte offensant.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-102 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.