Respuesta correcta
Explicación
El principio de Fairness exige que los sistemas de AI traten a todas las personas de manera justa y eviten crear o reforzar resultados discriminatorios. Incluso cuando se eliminan atributos protegidos como el género de los datos de entrenamiento, el sesgo puede persistir a través de variables proxy (por ejemplo, código postal, historial educativo) que se correlacionan con los atributos protegidos. La empresa debe investigar y mitigar este sesgo restante porque Fairness exige una evaluación y corrección proactivas del impacto dispar, no solo la eliminación de características obvias.
Para profundizar
El principio de Fairness en el marco de AI responsable de Microsoft aborda el hecho de que eliminar atributos protegidos —una técnica llamada imparcialidad por desconocimiento— rara vez elimina el impacto dispar, porque las características proxy correlacionadas como el código postal, la universidad, las lagunas profesionales o incluso los nombres pueden codificar la misma señal. Bajo el capó, un modelo entrenado con datos históricos de contratación aprende los patrones estadísticos de decisiones pasadas, por lo que si las mujeres fueron contratadas menos históricamente, la distribución de etiquetas en sí misma transporta el sesgo, y eliminar el género del vector de características no lo elimina del objetivo. Detectar esto requiere una evaluación desagregada: medir las tasas de selección entre grupos y calcular métricas como la diferencia de paridad demográfica o las probabilidades igualadas. En una implementación real, una herramienta de filtrado de HR podría pasar una auditoría ingenua y aun así rechazar a las solicitantes femeninas al doble de la tasa, que es exactamente el daño que el principio de Fairness obliga a la empresa a investigar y mitigar.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.