DifícilOpción múltiple

Pregunta de práctica de AIF-C01

Exhibit

Refer to the exhibit.
```
{
  "ModelName": "credit-risk-v1",
  "InputName": "features",
  "JobName": "bias-report-20240101",
  "ProcessingJob": {
    "ProcessingResources": {
      "ClusterConfig": {
        "InstanceCount": 1,
        "InstanceType": "ml.m5.large"
      }
    }
  },
  "AppSpecification": {
    "ImageUri": "683313688378.dkr.ecr.us-west-2.amazonaws.com/sagemaker-clarify-processing:1.0"
  },
  "Config": {
    "BiasConfig": {
      "Label": "approved",
      "Facet": ["gender"],
      "GroupVariable": ["age_group"]
    }
  },
  "OutputConfig": {
    "S3OutputPath": "s3://my-bucket/bias-reports/"
  }
}

Un científico de datos ejecuta el trabajo de SageMaker Clarify que se muestra en el anexo para un modelo de riesgo crediticio. Después de revisar los resultados, encuentra una métrica de sesgo alta para la faceta de género. ¿Qué acción es más coherente con la IA responsable?

Elige la mejor respuesta.

Respuesta correcta

  • CInvestigar la causa raíz y volver a entrenar con datos equilibrados

Explicación

La IA responsable requiere comprender y mitigar el sesgo en su origen, no simplemente enmascararlo. Investigar la causa raíz (por ejemplo, sesgo de recolección de datos, sesgo de etiquetado o características proxy) y reentrenar con datos equilibrados aborda directamente la alta métrica de sesgo detectada por SageMaker Clarify, alineándose con el principio de equidad de AWS. Simplemente eliminar el atributo de género puede no eliminar el sesgo si otras características actúan como proxies, y aumentar el umbral no soluciona el sesgo subyacente del modelo.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Proceder con la implementación porque el modelo ya está en producción

Implementar a pesar de una métrica de sesgo alta ignora el hallazgo y perpetúa el impacto dispar en la faceta de género. La práctica de IA responsable requiere investigar y mitigar el sesgo, por ejemplo, reequilibrando los datos de entrenamiento o ajustando los umbrales, antes de lanzar el modelo.

B

Incorrecta

Eliminar el atributo de género de los datos de entrenamiento y volver a entrenar

Descartar el atributo de género no elimina el sesgo, ya que las variables proxy correlacionadas como el código postal o la ocupación aún lo codifican, y el trabajo de Clarify simplemente informaría sobre otra faceta. Es tentador porque eliminar un atributo protegido se siente como anonimización, y sería razonable cuando el atributo es genuinamente irrelevante para el objetivo y no existe correlación de proxy.

C

Correcta

Investigar la causa raíz y volver a entrenar con datos equilibrados

La métrica de sesgo de SageMaker Clarify indica un impacto dispar en todo el género, por lo que investigar la causa raíz y volver a entrenar con datos equilibrados aborda el sesgo subyacente. Esto satisface la IA responsable al remediar el modelo en lugar de simplemente documentar o ignorar el sesgo medido.

D

Incorrecta

Aumentar el umbral de aceptación para el modelo

Elevar el umbral de aceptación desplaza el límite de decisión para reducir las aprobaciones, alterando las tasas de error sin abordar el impacto dispar medido en la faceta de género. Es tentador porque el ajuste de umbrales es una palanca legítima para equilibrar la precisión y la recuperación (recall), y sería correcto si el objetivo fuera puramente reducir los falsos positivos en lugar de mitigar el sesgo.

Para profundizar

SageMaker Clarify calcula métricas de sesgo como la diferencia en proporciones positivas en etiquetas previstas (DPPL) y el impacto dispar (disparate impact), comparando resultados en facetas como el género. Una métrica de sesgo alta indica que las predicciones del modelo favorecen desproporcionadamente a un grupo, lo que puede derivar de datos de entrenamiento desequilibrados, características proxy correlacionadas con el género o sesgo en las etiquetas. Simplemente eliminar el atributo de género no soluciona el problema porque características correlacionadas como el código postal o la ocupación aún pueden codificarlo, un fenómeno conocido como redlining. La acción responsable es investigar las causas raíz, luego mitigar reequilibrando los datos, ajustando los umbrales por grupo o utilizando la descorrelación adversarial (adversarial debiasing), y volver a evaluar. En un escenario de riesgo crediticio, implementar un modelo sesgado podría violar las regulaciones de préstamos justos, por lo que el científico de datos debe documentar el sesgo, reentrenar con datos equilibrados y verificar que las métricas como el DPPL se encuentren dentro de límites aceptables antes de la implementación.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AIF-C01 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.