DifícilOpción múltiple

Pregunta de práctica de AIF-C01

Una empresa de medios utiliza un modelo de IA generativa para crear automáticamente subtítulos de imágenes para fotos subidas por los usuarios. Durante el control de calidad, los evaluadores descubren que el modelo a veces genera subtítulos que incluyen estereotipos basados en el género y la raza, incluso cuando las fotos no contienen personas. Por ejemplo, una foto de una cocina produce subtítulos como 'mujer cocinando', y una foto de un automóvil deportivo genera 'hombre conduciendo'. La empresa quiere lanzar la función pronto, pero reconoce el riesgo reputacional. Tienen un presupuesto limitado y necesitan implementar una solución que reduzca los estereotipos dañinos sin restringir demasiado la creatividad de los subtítulos. El equipo tiene acceso a los datos de entrenamiento del modelo, que es un gran conjunto de datos público de pares de imagen y subtítulo. ¿Qué enfoque debe priorizar el equipo?

Elige la mejor respuesta.

Respuesta correcta

  • CFiltrar los datos de entrenamiento para eliminar o reducir el peso de los pares con estereotipos, luego afinar el modelo

Explicación

La causa raíz de los subtítulos estereotipados son los propios datos de entrenamiento, que contienen pares sesgados de imagen y subtítulo (por ejemplo, cocinas asociadas con mujeres, autos deportivos con hombres). Filtrar o reducir el peso de estos pares sesgados y luego afinar (fine-tune) el modelo aborda directamente la fuente del sesgo, reduciendo los estereotipos dañinos mientras se preserva la creatividad generativa del modelo. Este enfoque es rentable porque aprovecha el modelo y el conjunto de datos existentes, y se alinea con las prácticas de IA responsable de AWS de eliminación de sesgos centrada en datos. El postprocesamiento o el reemplazo del modelo no solucionarían el sesgo subyacente y podrían restringir demasiado o no generalizar.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Reemplazar el modelo generativo por un modelo de clasificación más simple que solo describa objetos

Un modelo de clasificación que solo describe objetos no puede generar subtítulos, que es el requisito principal; emite etiquetas predefinidas en lugar de lenguaje natural, por lo que no produce ningún subtítulo, y mucho menos creativos. Esta opción es tentadora porque un clasificador evitaría de manera confiable los estereotipos al ignorar el contexto social, lo que lo convierte en una opción correcta si el objetivo fuera simplemente etiquetar objetos sin generar texto descriptivo.

B

Incorrecta

Usar un modelo generativo preentrenado diferente que sea más grande y preciso

Un modelo preentrenado más grande hereda las mismas correlaciones sesgadas de imagen y subtítulo de su corpus de entrenamiento, por lo que los estereotipos persisten independientemente de las ganancias de precisión. Es tentador porque cambiar de modelo es una solución rápida, y sería correcto si el problema fuera la calidad de los subtítulos o la generalización en lugar del sesgo demográfico.

C

Correcta

Filtrar los datos de entrenamiento para eliminar o reducir el peso de los pares con estereotipos, luego afinar el modelo

Filtrar o reducir el peso de los pares de imagen y subtítulo estereotipados antes del ajuste fino reduce las asociaciones sesgadas que aprende el modelo, apuntando directamente al sesgo de los datos de entrenamiento. Esto satisface la restricción de bajo presupuesto y preservación de la creatividad mejor que el filtrado de avisos o las listas de bloqueo de salidas, que suprimen los síntomas sin corregir las asociaciones aprendidas.

D

Incorrecta

Agregar un filtro de postprocesamiento que verifique los subtítulos en busca de patrones de estereotipos conocidos y los bloquee

Los filtros de coincidencia de patrones solo detectan estereotipos ya enumerados, bloqueando los subtítulos después de la generación mientras dejan intacto el sesgo subyacente del modelo y perjudican la creatividad. Es tentador porque es económico y rápido de implementar, y sería correcto como una guardrail temporal junto con la remediación de datos o ajuste fino.

Para profundizar

El sesgo en la IA generativa a menudo surge de correlaciones espurias en los datos de entrenamiento, donde ciertos objetos coocurren con atributos demográficos específicos. Por ejemplo, en el conjunto de datos COCO, las imágenes de 'cocina' pueden subtitularse con 'mujer cocinando' debido a los sesgos sociales presentes en las anotaciones originales. El ajuste fino con un conjunto de datos desesgado, mediante la eliminación o reducción de peso de dichos pares, ajusta las asociaciones aprendidas del modelo. Esta es una forma de aumento de datos y reponderación, que puede ser más eficaz que el filtrado posterior porque cambia las representaciones internas del modelo. Sin embargo, se debe tener cuidado para evitar la sobrecorrección que reduce la diversidad de subtítulos. En la práctica, técnicas como el aumento de datos contrafactuales o el entrenamiento adversarial pueden mitigar aún más el sesgo. Los escenarios del mundo real incluyen sistemas de moderación de contenido donde las salidas sesgadas pueden provocar daños reputacionales y riesgos legales, lo que hace que la curaduría de datos proactiva sea esencial.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AIF-C01 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.