Bonnes réponses
- BSurveiller en continu les performances du modèle contre la dérive à l'aide de SageMaker Model Monitor.
- DDocumenter l'utilisation prévue et les limitations du modèle à l'aide de fiches de modèle.
- EMettre en œuvre un processus avec intervention humaine (human-in-the-loop) pour les prédictions à haut risque à l'aide d'Amazon A2I.
Explication
Les directives d'AWS sur l'IA responsable mettent l'accent sur plusieurs pratiques pour les systèmes à haut risque tels que les diagnostics de santé. La surveillance continue avec SageMaker Model Monitor aide à détecter la qualité des données, les biais et la dérive d'attribution des caractéristiques, favorisant ainsi la fiabilité et la sécurité (B). Documenter l'utilisation prévue du modèle, ses limitations et ses performances à l'aide de fiches de modèle (model cards) favorise la transparence et la responsabilité (D). La mise en place d'un processus de révision humaine (human-in-the-loop) à l'aide d'Amazon Augmented AI (A2I) garantit une surveillance humaine significative pour les prédictions à haut risque (E). En revanche, déployer sans révision manuelle (A) et s'appuyer uniquement sur des décisions automatisées (C) enfreint les principes d'IA responsable qui exigent une supervision et une validation humaines.
Pour aller plus loin
Les recommandations d'AWS en matière d'IA responsable mettent l'accent sur la surveillance, la documentation et la supervision humaine pour les systèmes à fort enjeu. SageMaker Model Monitor détecte la dérive des données et des concepts en comparant le trafic d'inférence en direct à une référence de base, émettant des métriques et des alarmes CloudWatch afin que la dégradation soit détectée avant de causer des dommages. Les fiches de modèle documentent l'utilisation prévue, les limitations, les données d'entraînement et les résultats d'évaluation, offrant ainsi de la transparence aux utilisateurs en aval. Amazon Augmented AI (A2I) insère des flux de travail de révision humaine pour les prédictions à faible confiance ou à haut risque, ce qui est essentiel dans la santé où les erreurs entraînent des conséquences cliniques. Une subtilité réside dans le fait que les boucles de révision A2I ajoutent de la latence et des coûts, de sorte que les seuils doivent équilibrer la sécurité et le débit. Ensemble, ces pratiques favorisent l'auditabilité et un déploiement sûr plutôt qu'un déploiement entièrement automatisé et non vérifié.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AIF-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.