DifficileChoix multiples

Question d'entraînement AIF-C01

Quelles sont les TROIS pratiques recommandées pour une IA responsable lors du déploiement de foundation models ? (Choisissez-en trois.)

Choisissez toutes les bonnes réponses.

Bonnes réponses

  • BInclure un examen humain pour les décisions à fort enjeu
  • CImplémenter des guardrails pour filtrer le contenu nuisible
  • DSurveiller en continu les sorties du modèle pour détecter la dérive

Explication

L'option B est correcte car le déploiement d'une IA responsable nécessite une supervision humaine (human-in-the-loop) pour les décisions à fort enjeu (par exemple, le recrutement, l'octroi de prêts, le triage médical), afin qu'une personne qualifiée puisse valider ou remplacer la sortie du modèle avant qu'elle n'affecte les droits ou la sécurité d'une personne. L'option C est correcte car les guardrails (filtres d'entrée/sortie, classifieurs de modération de contenu et couches d'application des politiques) constituent un contrôle standard pour empêcher les foundation models de générer du contenu nuisible, dangereux ou non conforme aux politiques. L'option D est correcte car les foundation models peuvent se dégrader ou modifier leur comportement au fil du temps en raison d'une dérive des données (data drift), d'une dérive conceptuelle (concept drift) ou de mises à jour de modèles en amont, de sorte qu'une surveillance continue des sorties (avec des métriques, des alertes et des déclencheurs de réentraînement) est essentielle pour maintenir la fiabilité et l'équité. L'option A n'est pas recommandée : la collecte de commentaires des utilisateurs est un signal précieux pour identifier les biais et améliorer les modèles, de sorte que l'éviter réduirait la responsabilité au lieu de l'améliorer. L'option E n'est pas recommandée : le secret de la boîte noire opaque nuit à la transparence, à l'explicabilité et à l'auditabilité, qui sont des principes fondamentaux de l'IA responsable ; les mécanismes internes et la documentation du modèle doivent être divulgués de manière appropriée aux parties prenantes.

Pourquoi chaque option est juste ou fausse

A

Fausse

Éviter de recueillir les commentaires des utilisateurs pour réduire les biais

Supprimer les commentaires des utilisateurs supprime la surveillance humaine et l'évaluation continue que l'IA responsable exige pour détecter les biais et les préjudices. C'est tentant car les commentaires peuvent introduire du bruit dans l'étiquetage, de sorte que les éviter semble protéger la qualité des données, mais c'est précisément leur utilisation légitime.

B

Juste

Inclure un examen humain pour les décisions à fort enjeu

L'examen humain pour les décisions à fort enjeu satisfait la contrainte de responsabilité en maintenant une personne responsable des résultats importants, plutôt que de déléguer le jugement à un modèle probabiliste. Les foundation models peuvent produire des résultats sûrs mais erronés, de sorte que la supervision détecte les erreurs nuisibles avant qu'elles n'affectent les personnes, conformément aux principes d'IA responsable.

C

Juste

Implémenter des guardrails pour filtrer le contenu nuisible

Les guardrails filtrent les entrées et sorties nuisibles au moment de l'inférence, satisfaisant directement l'exigence d'IA responsable d'atténuer la génération de contenu nuisible. Contrairement à l'alignement au moment de l'entraînement, qui est fixe une fois que le foundation model est livré, les guardrails appliquent des contrôles de sécurité autour du modèle déployé, interceptant les réponses toxiques, violentes ou dangereuses avant qu'elles n'atteignent les utilisateurs.

D

Juste

Surveiller en continu les sorties du modèle pour détecter la dérive

La surveillance continue des sorties détecte la dérive distributionnelle, où les entrées en direct divergent des données d'entraînement et dégradent la précision ou la sécurité. Elle satisfait l'exigence d'IA responsable de maintenir une surveillance continue après le déploiement, en détectant les biais émergents, les hallucinations ou les régressions de qualité que les tests statiques préalables au déploiement ne peuvent pas révéler.

E

Fausse

Utiliser une approche de boîte noire pour garder secrets les composants internes du modèle

Le secret de la boîte noire empêche la transparence, l'explicabilité et l'auditabilité exigées par l'IA responsable pour les foundation models. C'est tentant car cacher les composants internes protège la propriété intellectuelle et décourage le sondage contradictoire, ce qui constitue une motivation de sécurité légitime mais pas une pratique d'IA responsable.

Pour aller plus loin

Les foundation models sont des systèmes probabilistes dont le comportement découle des données d'entraînement et ne peut pas être entièrement spécifié à l'avance, de sorte que le déploiement responsable repose sur des contrôles en couches plutôt que sur une seule sauvegarde. L'examen humain pour les décisions à fort enjeu importe car le score de confiance d'un modèle reflète la probabilité des tokens, et non l'exactitude factuelle ; une réponse fluide peut néanmoins être erronée, et un réviseur responsable peut détecter des erreurs importantes avant qu'elles ne causent des dommages. Les guardrails se situent généralement comme une couche de filtrage d'entrée/sortie, utilisant des classifieurs ou des règles de politique pour bloquer les invites et les compléments qui violent la politique de sécurité, bien qu'ils ajoutent de la latence et puissent être contournés par un phrasé contradictoire. La surveillance continue détecte la dérive distributionnelle : à mesure que les entrées du monde réel divergent des données d'entraînement, les métriques de précision et d'équité se dégradent silencieusement. Dans le cadre d'un assistant de sélection de prêts ou de triage médical, la combinaison de ces trois pratiques évite les décisions automatisées sans révision, filtre les sorties nuisibles et met en évidence la dégradation avant qu'elle n'affecte les utilisateurs.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AIF-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.