MoyenneChoix multiples

Question d'entraînement AIF-C01

Une entreprise déploie un système de diagnostic basé sur l'IA dans le secteur de la santé. Quelles sont les TROIS pratiques conformes aux directives d'AWS en matière d'IA responsable ? (Choisissez TROIS.)

Choisissez toutes les bonnes réponses.

Bonnes réponses

  • BSurveiller en continu les performances du modèle contre la dérive à l'aide de SageMaker Model Monitor.
  • DDocumenter l'utilisation prévue et les limitations du modèle à l'aide de fiches de modèle.
  • EMettre en œuvre un processus avec intervention humaine (human-in-the-loop) pour les prédictions à haut risque à l'aide d'Amazon A2I.

Explication

Les directives d'AWS sur l'IA responsable mettent l'accent sur plusieurs pratiques pour les systèmes à haut risque tels que les diagnostics de santé. La surveillance continue avec SageMaker Model Monitor aide à détecter la qualité des données, les biais et la dérive d'attribution des caractéristiques, favorisant ainsi la fiabilité et la sécurité (B). Documenter l'utilisation prévue du modèle, ses limitations et ses performances à l'aide de fiches de modèle (model cards) favorise la transparence et la responsabilité (D). La mise en place d'un processus de révision humaine (human-in-the-loop) à l'aide d'Amazon Augmented AI (A2I) garantit une surveillance humaine significative pour les prédictions à haut risque (E). En revanche, déployer sans révision manuelle (A) et s'appuyer uniquement sur des décisions automatisées (C) enfreint les principes d'IA responsable qui exigent une supervision et une validation humaines.

Pourquoi chaque option est juste ou fausse

A

Fausse

Déployer le modèle en production immédiatement après l'entraînement sans révision manuelle.

Ignorer la révision augmente le risque de déployer un modèle biaisé ou dangereux.

B

Juste

Surveiller en continu les performances du modèle contre la dérive à l'aide de SageMaker Model Monitor.

La surveillance garantit la fiabilité et la sécurité continues.

C

Fausse

Utiliser uniquement la prise de décision automatisée sans aucune supervision humaine.

Une automatisation complète sans révision humaine peut entraîner des résultats non éthiques.

D

Juste

Documenter l'utilisation prévue et les limitations du modèle à l'aide de fiches de modèle.

Les fiches de modèle favorisent la transparence et la responsabilité.

E

Juste

Mettre en œuvre un processus avec intervention humaine (human-in-the-loop) pour les prédictions à haut risque à l'aide d'Amazon A2I.

La supervision humaine est essentielle pour les décisions à fort enjeu.

Pour aller plus loin

Les recommandations d'AWS en matière d'IA responsable mettent l'accent sur la surveillance, la documentation et la supervision humaine pour les systèmes à fort enjeu. SageMaker Model Monitor détecte la dérive des données et des concepts en comparant le trafic d'inférence en direct à une référence de base, émettant des métriques et des alarmes CloudWatch afin que la dégradation soit détectée avant de causer des dommages. Les fiches de modèle documentent l'utilisation prévue, les limitations, les données d'entraînement et les résultats d'évaluation, offrant ainsi de la transparence aux utilisateurs en aval. Amazon Augmented AI (A2I) insère des flux de travail de révision humaine pour les prédictions à faible confiance ou à haut risque, ce qui est essentiel dans la santé où les erreurs entraînent des conséquences cliniques. Une subtilité réside dans le fait que les boucles de révision A2I ajoutent de la latence et des coûts, de sorte que les seuils doivent équilibrer la sécurité et le débit. Ensemble, ces pratiques favorisent l'auditabilité et un déploiement sûr plutôt qu'un déploiement entièrement automatisé et non vérifié.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AIF-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.