MoyenneChoix multiples

Question d'entraînement Generative AI Leader

Une institution financière déploie un chatbot d'IA générative pour gérer les demandes des clients. L'institution doit se conformer aux exigences réglementaires (par exemple, GDPR, SOX) et garantir la confidentialité des données. Quelles DEUX actions l'institution doit-elle entreprendre?

Choisissez toutes les bonnes réponses.

Bonnes réponses

  • AÉtablir un Centre d'Excellence (CoE) pour la gouvernance de l'IA afin de superviser le déploiement et la surveillance des modèles.
  • DMettre en œuvre la validation et les tests des modèles pour s'assurer que les sorties répondent aux normes réglementaires.

Explication

L'établissement d'un Centre d'Excellence (CoE) pour la gouvernance de l'IA fournit la surveillance, l'application des politiques et le suivi nécessaires pour maintenir un chatbot d'IA générative conforme au GDPR et à la SOX, couvrant le déploiement des modèles, la gestion des risques et la responsabilité. La validation et les tests des modèles sont essentiels pour vérifier que les sorties du chatbot répondent aux normes réglementaires, détecter les biais ou les fuites de données et garantir la conformité continue avant et après le déploiement. L'utilisation de Vertex AI sans contrôles supplémentaires de gouvernance des données ne parvient pas à répondre aux exigences de confidentialité et d'audit du GDPR et de la SOX. Un modèle pré-entraîné sans personnalisation ne satisfait pas en soi à la conformité réglementaire ni aux obligations de confidentialité des données. Le déploiement sur site à lui seul ne garantit pas la conformité et peut ne pas être réalisable ou suffisant pour les besoins réglementaires et opérationnels de l'institution.

Pourquoi chaque option est juste ou fausse

A

Juste

Établir un Centre d'Excellence (CoE) pour la gouvernance de l'IA afin de superviser le déploiement et la surveillance des modèles.

Un CoE centralise la gouvernance de l'IA, donnant à l'institution financière la structure de surveillance nécessaire pour appliquer les contrôles du GDPR et de la SOX lors du déploiement et de la surveillance des modèles. Il attribue les responsabilités, standardise les portes de révision et garantit que les exigences de confidentialité sont appliquées de manière cohérente.

B

Fausse

Utiliser Vertex AI sans contrôles supplémentaires de gouvernance des données pour simplifier le déploiement.

Vertex AI sans contrôles de gouvernance laisse la classification des données, l'enregistrement des accès et la conservation non gérés, de sorte que les obligations du GDPR et de la SOX ne sont pas satisfaites. C'est tentant car Vertex AI fournit l'hébergement de modèles gérés et les outils nécessaires pour construire rapidement le chatbot ; ce serait correct lorsque la charge de travail ne comporte aucune donnée personnelle ou financière réglementée nécessitant ces contrôles.

C

Fausse

Utiliser un modèle pré-entraîné sans personnalisation pour réduire le temps de développement.

Un modèle pré-entraîné sans personnalisation traite toujours les données des clients, de sorte que les contrôles de confidentialité et réglementaires restent non traités ; la réduction du temps de développement ne satisfait pas le GDPR ou la SOX. C'est tentant car les modèles pré-entraînés accélèrent véritablement la livraison et constitueraient le bon choix pour des cas d'utilisation à faible risque et non réglementés où aucune donnée personnelle ou financière n'est manipulée.

D

Juste

Mettre en œuvre la validation et les tests des modèles pour s'assurer que les sorties répondent aux normes réglementaires.

La validation et les tests des modèles satisfont directement à la contrainte de conformité réglementaire en vérifiant systématiquement que les sorties génératives s'alignent sur les exigences du GDPR et de la SOX avant le déploiement. Les tests détectent les sorties qui pourraient enfreindre les règles de confidentialité des données, fournissant des preuves auditables de diligence raisonnable. Ce mécanisme d'assurance proactive est essentiel pour une institution financière confrontée à un examen réglementaire strict.

E

Fausse

Déployer le modèle uniquement sur site (on-premises) pour conserver les données au sein de l'infrastructure locale.

Le déploiement sur site ne satisfait pas à lui seul au GDPR ou à la SOX ; ces obligations concernent le traitement, la conservation et l'auditabilité des données où que se produise le traitement. C'est tentant car conserver les données au sein de l'infrastructure locale répond véritablement aux préoccupations de souveraineté et de résidence des données, et ce serait le bon choix là où la réglementation interdit explicitement le transfert transfrontalier ou impose un isolement physique.

Pour aller plus loin

Un Centre d'Excellence pour la gouvernance de l'IA définit généralement les niveaux de risque des modèles, les flux de travail d'approbation et les KPI de surveillance alignés sur des cadres tels que le NIST AI RMF et l'ISO/IEC 42001. La validation des modèles pour l'IA générative va au-delà des tests de précision : elle comprend des tests d'intrusion (red-teaming) pour l'injection de prompts, la détection des fuites de PII, la mesure du taux d'hallucination et le filtrage des sorties par rapport aux lexiques réglementaires. En vertu de l'article 22 du GDPR, la prise de décision automatisée nécessite une surveillance humaine et une explicabilité, qu'un CoE peut opérationnaliser par le biais de portes de révision. L'article 404 de la SOX exige des contrôles internes sur les rapports financiers, de sorte que toute IA touchant des données financières doit disposer d'une gestion des changements et de pistes d'audit. En pratique, les banques déploient une approche en couches : un conseil de gouvernance définit la politique, les pipelines MLOps imposent des portes de validation et la surveillance continue détecte la dérive ou les violations de politique après le déploiement.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement Generative AI Leader originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.