Bonne réponse
Explication
Le principe d'équité exige que les systèmes d'IA traitent toutes les personnes de manière équitable et évitent de créer ou de renforcer des résultats discriminatoires. Même lorsque des attributs protégés tels que le genre sont supprimés des données d'entraînement, les biais peuvent persister par le biais de variables de substitution (par exemple, le code postal, le parcours éducatif) qui corrèlent avec les attributs protégés. L'entreprise doit étudier et atténuer ce biais restant, car l'équité impose une évaluation et une correction proactives de l'impact disproportionné, et non pas seulement la suppression de caractéristiques évidentes.
Pour aller plus loin
L'équité dans le cadre de l'IA responsable de Microsoft aborde le fait que la suppression des attributs protégés — une technique appelée équité par ignorance (fairness through unawareness) — élimine rarement l'impact disproportionné, car des caractéristiques de substitution corrélées telles que le code postal, l'université, les interruptions de carrière ou même les noms peuvent coder le même signal. En arrière-plan, un modèle entraîné sur des données de recrutement historiques apprend les schémas statistiques des décisions passées ; par conséquent, si les femmes ont historiquement été moins embauchées, la distribution des étiquettes elle-même porte le biais, et le fait de retirer le genre du vecteur de caractéristiques ne le supprime pas de la cible. La détection de ce phénomène nécessite une évaluation désagrégée : mesurer les taux de sélection entre les groupes et calculer des métriques telles que la différence de parité démographique ou l'égalité des chances. Dans un déploiement réel, un outil de filtrage RH peut passer un audit naïf tout en rejetant les candidates deux fois plus souvent, ce qui correspond exactement au préjudice que le principe d'équité oblige l'entreprise à étudier et à atténuer.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.