Respuesta correcta
- CInvestigar la causa raíz y volver a entrenar con datos equilibrados
Explicación
La IA responsable requiere comprender y mitigar el sesgo en su origen, no simplemente enmascararlo. Investigar la causa raíz (por ejemplo, sesgo de recolección de datos, sesgo de etiquetado o características proxy) y reentrenar con datos equilibrados aborda directamente la alta métrica de sesgo detectada por SageMaker Clarify, alineándose con el principio de equidad de AWS. Simplemente eliminar el atributo de género puede no eliminar el sesgo si otras características actúan como proxies, y aumentar el umbral no soluciona el sesgo subyacente del modelo.
Para profundizar
SageMaker Clarify calcula métricas de sesgo como la diferencia en proporciones positivas en etiquetas previstas (DPPL) y el impacto dispar (disparate impact), comparando resultados en facetas como el género. Una métrica de sesgo alta indica que las predicciones del modelo favorecen desproporcionadamente a un grupo, lo que puede derivar de datos de entrenamiento desequilibrados, características proxy correlacionadas con el género o sesgo en las etiquetas. Simplemente eliminar el atributo de género no soluciona el problema porque características correlacionadas como el código postal o la ocupación aún pueden codificarlo, un fenómeno conocido como redlining. La acción responsable es investigar las causas raíz, luego mitigar reequilibrando los datos, ajustando los umbrales por grupo o utilizando la descorrelación adversarial (adversarial debiasing), y volver a evaluar. En un escenario de riesgo crediticio, implementar un modelo sesgado podría violar las regulaciones de préstamos justos, por lo que el científico de datos debe documentar el sesgo, reentrenar con datos equilibrados y verificar que las métricas como el DPPL se encuentren dentro de límites aceptables antes de la implementación.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de AIF-C01 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.