DifficileChoix unique

Question d'entraînement AI-102

Votre entreprise utilise Azure OpenAI Service pour générer des descriptions de produits. Vous devez vous assurer que le contenu généré n'inclut pas de langage offensant et respecte les principes d'une IA responsable. Que devez-vous implémenter?

Choisissez la meilleure réponse.

Bonne réponse

  • BConfigurer des filtres de contenu dans Azure OpenAI

Explication

Les filtres de contenu dans Azure OpenAI vous permettent de définir des catégories (par exemple, hate, violence, self-harm) et des niveaux de gravité (low, medium, high) pour bloquer ou signaler automatiquement le langage offensant dans les sorties générées. Cela applique directement les principes d'une IA responsable en empêchant le contenu préjudiciable d'être présenté aux utilisateurs, sans nécessiter de réentraînement du modèle ni de modifications du chiffrement.

Pourquoi chaque option est juste ou fausse

A

Fausse

Activer le chiffrement par clé gérée par le client

Les clés gérées par le client chiffrent les données au repos dans la ressource Azure OpenAI; elles n'ont aucun effet sur le texte généré par le modèle. Le chiffrement au repos est le bon contrôle lorsque les exigences réglementaires imposent la propriété des clés, et non lorsque l'objectif est de filtrer les sorties offensantes.

B

Juste

Configurer des filtres de contenu dans Azure OpenAI

La configuration de filtres de contenu dans Azure OpenAI applique un filtrage basé sur la gravité dans les catégories hate, violence, sexual et self-harm sur les prompts et les complétions, bloquant les sorties offensantes avant qu'elles n'atteignent les utilisateurs. Cela répond directement à l'exigence de l'énoncé visant à prévenir le langage offensant et à respecter les principes d'une IA responsable, contrairement à l'ingénierie de prompt ou à la modération appliquée après la génération.

C

Fausse

Affiner (fine-tune) le modèle avec un jeu de données sélectionné

L'affinage façonne le ton, le format et le vocabulaire du domaine; il n'impose pas la sécurité du contenu, car un jeu de données sélectionné ne peut garantir que les sorties éviteront le langage offensant. Les filtres de contenu sont le mécanisme qui bloque les catégories nuisibles. L'affinage est correct lors de l'adaptation du style ou de la précision de la tâche, mais pas pour les garde-fous d'une IA responsable.

D

Fausse

Définir des limites d'utilisation et de régulation (throttling)

Les limites d'utilisation et le throttling plafonnent le volume de requêtes et la consommation de jetons pour contrôler les coûts et les abus; ils n'inspectent ni ne bloquent le contenu offensant dans une réponse. Le throttling est correct lors de la protection du quota ou de la prévention d'une dépense excessive, et non pour appliquer des politiques de contenu d'IA responsable.

Pour aller plus loin

Les filtres de contenu d'Azure OpenAI s'exécutent en tant que couche de classification indépendante sur le prompt et la complétion, évaluant des catégories telles que hate, violence, sexual et self-harm selon différents niveaux de gravité. Le filtre par défaut bloque le contenu de haute gravité et peut être personnalisé par déploiement, avec des options pour annoter ou bloquer à chaque seuil. Étant donné que le filtrage s'effectue en dehors des poids du modèle, il s'applique de manière cohérente même aux déploiements affinés (fine-tuned) et renvoie une erreur ou une réponse filtrée lorsqu'il est déclenché. Il s'agit du contrôle correct pour empêcher la production de contenu offensant; le chiffrement protège les données au repos, l'affinage (fine-tuning) façonne le comportement mais ne garantit pas la sécurité, et la limitation du débit (throttling) gère la charge plutôt que le contenu. Un scénario réaliste est un générateur de descriptions de produits destiné aux clients où une injection de prompt tente d'obtenir un texte abusif, et le filtre l'intercepte avant qu'il n'atteigne l'utilisateur.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-102 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.