DifficileChoix unique

Question d'entraînement AI-900

Une entreprise utilise Azure OpenAI Service pour générer des textes marketing pour des publications sur les réseaux sociaux. Elle souhaite empêcher le modèle de produire du contenu contenant un langage offensant, des stéréotypes nuisibles ou des thèmes violents qui vont à l'encontre des directives de sa marque. Quelle fonctionnalité l'entreprise doit-elle configurer dans Azure OpenAI Service ?

Choisissez la meilleure réponse.

Bonne réponse

  • BConfiguration du filtrage de contenu (filtres d'IA responsable)

Explication

Azure OpenAI Service comprend un système de filtrage de contenu intégré (filtres d'IA responsable) qui détecte et bloque automatiquement le langage offensant, les stéréotypes nuisibles et les thèmes violents à la fois dans les invites d'entrée et dans les sorties générées. Cette fonctionnalité applique les directives de la marque sans nécessiter de modifications personnalisées du modèle ni de supervision manuelle.

Pourquoi chaque option est juste ou fausse

A

Fausse

Réglage fin du modèle avec un jeu de données personnalisé

Le réglage fin entraîne le modèle sur des données spécifiques pour améliorer les performances sur une tâche. Cependant, il ne filtre pas intrinsèquement le contenu répréhensible ; le modèle peut toujours générer du texte nuisible si les données de réglage fin contiennent de tels motifs.

B

Juste

Configuration du filtrage de contenu (filtres d'IA responsable)

Le système de filtrage de contenu d'Azure OpenAI est une protection intégrée qui analyse automatiquement les entrées et les sorties pour des catégories telles que la haine, la violence, le contenu sexuel et l'automutilation. Les entreprises peuvent configurer les niveaux de gravité pour empêcher la génération de contenu indésirable.

C

Fausse

Augmentation de la limite de jetons par réponse

L'augmentation de la limite de jetons ne fait qu'allonger la réponse ; elle ne peut pas filtrer le langage offensant, les stéréotypes ou la violence, de sorte que les directives de la marque restent non appliquées. C'est tentant car les limites de jetons résolvent véritablement les complétions tronquées ou coupées dans la génération de texte long, ce qui est la bonne correction lorsque la longueur de la sortie, et non la sécurité du contenu, est la contrainte.

D

Fausse

Utilisation de techniques d'ingénierie des invites

L'ingénierie des invites (par exemple, l'ajout d'instructions telles que 'ne pas utiliser de mauvais langage') peut aider à guider le modèle, mais ce n'est pas un mécanisme de sécurité garanti. Le modèle peut toujours générer du contenu inapproprié si l'instruction n'est pas parfaitement suivie. Le filtrage de contenu est la protection officielle.

Pour aller plus loin

Le filtrage de contenu d'Azure OpenAI exécute des classifieurs sur l'invite et la complétion, évaluant des catégories telles que la haine, la violence, le contenu sexuel et l'automutilation à travers différents niveaux de gravité. Les filtres par défaut bloquent le contenu de haute gravité et signalent les gravités inférieures ; vous pouvez créer des configurations de filtres personnalisées et les attacher à un déploiement pour resserrer ou assouplir les seuils par catégorie. Le filtrage se produit au moment de l'inférence, indépendamment des pondérations du modèle, il s'applique donc immédiatement sans réentraînement. Le réglage fin modifie le comportement du modèle mais ne garantit pas le refus des sorties offensantes, et les limites de jetons ou la formulation des invites n'imposent pas de politique. Pour les cas d'utilisation liés à la sécurité de la marque, attacher une politique de filtrage personnalisée stricte au déploiement constitue le contrôle fiable, et les réponses bloquées renvoient des codes d'erreur spécifiques que vous pouvez journaliser et surveiller.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.