MoyenneChoix unique

Question d'entraînement AI-900

Une entreprise conçoit un système d'IA pour filtrer les candidatures et classer les candidats. Le système est entraîné sur des données de recrutement historiques. Pour réduire les biais potentiels, l'entreprise supprime les attributs protégés tels que le genre et l'origine ethnique des données d'entraînement. Cependant, après le déploiement, le système présente toujours un biais statistiquement significatif à l'encontre des candidates. Quel principe de l'IA responsable de Microsoft exige le plus directement que l'entreprise étudie et corrige ce biais résiduel, même lorsque les attributs protégés sont supprimés ?

Choisissez la meilleure réponse.

Bonne réponse

  • AÉquité

Explication

Le principe d'équité exige que les systèmes d'IA traitent toutes les personnes de manière équitable et évitent de créer ou de renforcer des résultats discriminatoires. Même lorsque des attributs protégés tels que le genre sont supprimés des données d'entraînement, les biais peuvent persister par le biais de variables de substitution (par exemple, le code postal, le parcours éducatif) qui corrèlent avec les attributs protégés. L'entreprise doit étudier et atténuer ce biais restant, car l'équité impose une évaluation et une correction proactives de l'impact disproportionné, et non pas seulement la suppression de caractéristiques évidentes.

Pourquoi chaque option est juste ou fausse

A

Juste

Équité

L'équité exige que les systèmes d'IA traitent tous les groupes de manière équitable, de sorte que l'entreprise doit étudier et atténuer l'impact disproportionné résiduel sur les candidates. La suppression des attributs protégés ne suffit pas à éliminer les biais, car des caractéristiques de substitution corrélées les préservent.

B

Fausse

Inclusion

L'inclusion concerne la conception de systèmes qui autonomisent et impliquent tout le monde, y compris les personnes en situation de handicap, plutôt que la détection et la correction des biais statistiques dans les résultats de classement. C'est une option séduisante car l'équité et l'inclusion se recoupent conceptuellement, et elle serait correcte si l'exigence était une conception accessible ou une large participation des utilisateurs.

C

Fausse

Fiabilité et sécurité

La fiabilité et la sécurité traitent d'un fonctionnement cohérent et fiable ainsi que de la prévention des dommages causés par les pannes, et non de la discrimination statistique à l'encontre d'un groupe protégé. C'est une option séduisante car les résultats biaisés causent des préjudices dans le monde réel, et elle serait correcte si la préoccupation était liée à des défaillances du système, à des erreurs inattendues ou à des conditions de fonctionnement non sécurisées.

D

Fausse

Transparence

La transparence concerne la documentation des capacités, des limitations et des décisions afin que les parties prenantes comprennent le comportement du système ; elle n'impose pas en soi la correction des résultats discriminatoires. C'est une option séduisante car l'étude des biais implique souvent la divulgation, et elle serait correcte si l'exigence était d'expliquer comment le modèle prend ses décisions ou de publier la documentation du modèle.

Pour aller plus loin

L'équité dans le cadre de l'IA responsable de Microsoft aborde le fait que la suppression des attributs protégés — une technique appelée équité par ignorance (fairness through unawareness) — élimine rarement l'impact disproportionné, car des caractéristiques de substitution corrélées telles que le code postal, l'université, les interruptions de carrière ou même les noms peuvent coder le même signal. En arrière-plan, un modèle entraîné sur des données de recrutement historiques apprend les schémas statistiques des décisions passées ; par conséquent, si les femmes ont historiquement été moins embauchées, la distribution des étiquettes elle-même porte le biais, et le fait de retirer le genre du vecteur de caractéristiques ne le supprime pas de la cible. La détection de ce phénomène nécessite une évaluation désagrégée : mesurer les taux de sélection entre les groupes et calculer des métriques telles que la différence de parité démographique ou l'égalité des chances. Dans un déploiement réel, un outil de filtrage RH peut passer un audit naïf tout en rejetant les candidates deux fois plus souvent, ce qui correspond exactement au préjudice que le principe d'équité oblige l'entreprise à étudier et à atténuer.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.