Bonne réponse
- CEnquêter sur la cause racine et réentraîner avec des données équilibrées
Explication
L'IA responsable exige de comprendre et d'atténuer le biais à sa source, et non de le masquer. L'investigation de la cause racine (par exemple, le biais de collecte de données, le biais d'étiquetage ou les caractéristiques proxy) et le réentraînement avec des données équilibrées traitent directement la métrique de biais élevée détectée par SageMaker Clarify, s'alignant sur le principe d'équité d'AWS. Le simple fait de supprimer l'attribut de genre peut ne pas éliminer le biais si d'autres caractéristiques agissent comme des proxys, et l'augmentation du seuil ne corrige pas le biais sous-jacent du modèle.
Pour aller plus loin
SageMaker Clarify calcule des métriques de biais telles que la différence de proportions positives dans les étiquettes prédites (DPPL) et l'impact disparate (disparate impact), en comparant les résultats entre des facettes telles que le genre. Une métrique de biais élevée indique que les prédictions du modèle favorisent de manière disproportionnée un groupe, ce qui peut provenir de données d'entraînement déséquilibrées, de caractéristiques proxy corrélées au genre ou d'un biais d'étiquetage. Le simple fait de supprimer l'attribut de genre ne résout pas le problème car des caractéristiques corrélées telles que le code postal ou la profession peuvent toujours l'encoder, un phénomène connu sous le nom de redlining. L'action responsable consiste à enquêter sur les causes profondes, puis à atténuer le problème en rééquilibrant les données, en ajustant les seuils par groupe ou en utilisant l'atténuation des biais contradictoires (adversarial debiasing), puis à réévaluer. Dans un scénario de risque de crédit, déployer un modèle biaisé pourrait enfreindre les réglementations sur l'équité du crédit, de sorte que le data scientist doit documenter le biais, réentraîner avec des données équilibrées et vérifier que des métriques telles que le DPPL se situent dans des limites acceptables avant le déploiement.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AIF-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.