MediaOpción múltiple

Pregunta de práctica de AI-900

Una empresa crea un sistema de AI para filtrar solicitudes de empleo y clasificar candidatos. El sistema se entrena con datos históricos de contratación. Para reducir el sesgo potencial, la empresa elimina los atributos protegidos como el género y la etnia de los datos de entrenamiento. Sin embargo, tras la implementación, el sistema sigue mostrando un sesgo estadísticamente significativo contra las candidatas. ¿Qué principio de AI responsable de Microsoft exige más directamente a la empresa que investigue y aborde este sesgo restante, incluso cuando se eliminan los atributos protegidos?

Elige la mejor respuesta.

Respuesta correcta

  • AFairness

Explicación

El principio de Fairness exige que los sistemas de AI traten a todas las personas de manera justa y eviten crear o reforzar resultados discriminatorios. Incluso cuando se eliminan atributos protegidos como el género de los datos de entrenamiento, el sesgo puede persistir a través de variables proxy (por ejemplo, código postal, historial educativo) que se correlacionan con los atributos protegidos. La empresa debe investigar y mitigar este sesgo restante porque Fairness exige una evaluación y corrección proactivas del impacto dispar, no solo la eliminación de características obvias.

Por qué cada opción es correcta o incorrecta

A

Correcta

Fairness

Fairness exige que los sistemas de AI traten a todos los grupos de manera equitativa, por lo que la empresa debe investigar y mitigar el impacto dispar residual en las candidatas. Eliminar los atributos protegidos por sí solo no elimina el sesgo, porque las características proxy correlacionadas lo preservan.

B

Incorrecta

Inclusiveness

Inclusiveness se relaciona con el diseño de sistemas que empoderen e involucren a todos, incluidas las personas con discapacidad, en lugar de detectar y corregir el sesgo estadístico en los resultados de clasificación. Es tentador porque fairness e inclusiveness se solapan conceptualmente, y sería correcto donde el requisito sea un diseño accesible o una amplia participación de los usuarios.

C

Incorrecta

Reliability and safety

Reliability and safety aborda la operación consistente y confiable y la prevención de daños por fallos, no la discriminación estadística contra un grupo protegido. Es tentador porque las salidas sesgadas causan daños en el mundo real, y sería correcto donde la preocupación sean los fallos del sistema, errores inesperados o condiciones de funcionamiento inseguras.

D

Incorrecta

Transparency

Transparency se refiere a documentar las capacidades, limitaciones y decisiones para que las partes interesadas comprendan el comportamiento del sistema; no exige por sí mismo corregir los resultados discriminatorios. Es tentador porque la investigación de sesgos a menudo implica divulgación, y sería correcto donde el requisito sea explicar cómo el modelo toma decisiones o publicar la documentación del modelo.

Para profundizar

El principio de Fairness en el marco de AI responsable de Microsoft aborda el hecho de que eliminar atributos protegidos —una técnica llamada imparcialidad por desconocimiento— rara vez elimina el impacto dispar, porque las características proxy correlacionadas como el código postal, la universidad, las lagunas profesionales o incluso los nombres pueden codificar la misma señal. Bajo el capó, un modelo entrenado con datos históricos de contratación aprende los patrones estadísticos de decisiones pasadas, por lo que si las mujeres fueron contratadas menos históricamente, la distribución de etiquetas en sí misma transporta el sesgo, y eliminar el género del vector de características no lo elimina del objetivo. Detectar esto requiere una evaluación desagregada: medir las tasas de selección entre grupos y calcular métricas como la diferencia de paridad demográfica o las probabilidades igualadas. En una implementación real, una herramienta de filtrado de HR podría pasar una auditoría ingenua y aun así rechazar a las solicitantes femeninas al doble de la tasa, que es exactamente el daño que el principio de Fairness obliga a la empresa a investigar y mitigar.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.