Pregunta de práctica de AIF-C01
Una empresa de medios utiliza un modelo de IA generativa para crear automáticamente subtítulos de imágenes para fotos subidas por los usuarios. Durante el control de calidad, los evaluadores descubren que el modelo a veces genera subtítulos que incluyen estereotipos basados en el género y la raza, incluso cuando las fotos no contienen personas. Por ejemplo, una foto de una cocina produce subtítulos como 'mujer cocinando', y una foto de un automóvil deportivo genera 'hombre conduciendo'. La empresa quiere lanzar la función pronto, pero reconoce el riesgo reputacional. Tienen un presupuesto limitado y necesitan implementar una solución que reduzca los estereotipos dañinos sin restringir demasiado la creatividad de los subtítulos. El equipo tiene acceso a los datos de entrenamiento del modelo, que es un gran conjunto de datos público de pares de imagen y subtítulo. ¿Qué enfoque debe priorizar el equipo?
Respuesta correcta
- CFiltrar los datos de entrenamiento para eliminar o reducir el peso de los pares con estereotipos, luego afinar el modelo
Explicación
La causa raíz de los subtítulos estereotipados son los propios datos de entrenamiento, que contienen pares sesgados de imagen y subtítulo (por ejemplo, cocinas asociadas con mujeres, autos deportivos con hombres). Filtrar o reducir el peso de estos pares sesgados y luego afinar (fine-tune) el modelo aborda directamente la fuente del sesgo, reduciendo los estereotipos dañinos mientras se preserva la creatividad generativa del modelo. Este enfoque es rentable porque aprovecha el modelo y el conjunto de datos existentes, y se alinea con las prácticas de IA responsable de AWS de eliminación de sesgos centrada en datos. El postprocesamiento o el reemplazo del modelo no solucionarían el sesgo subyacente y podrían restringir demasiado o no generalizar.
Para profundizar
El sesgo en la IA generativa a menudo surge de correlaciones espurias en los datos de entrenamiento, donde ciertos objetos coocurren con atributos demográficos específicos. Por ejemplo, en el conjunto de datos COCO, las imágenes de 'cocina' pueden subtitularse con 'mujer cocinando' debido a los sesgos sociales presentes en las anotaciones originales. El ajuste fino con un conjunto de datos desesgado, mediante la eliminación o reducción de peso de dichos pares, ajusta las asociaciones aprendidas del modelo. Esta es una forma de aumento de datos y reponderación, que puede ser más eficaz que el filtrado posterior porque cambia las representaciones internas del modelo. Sin embargo, se debe tener cuidado para evitar la sobrecorrección que reduce la diversidad de subtítulos. En la práctica, técnicas como el aumento de datos contrafactuales o el entrenamiento adversarial pueden mitigar aún más el sesgo. Los escenarios del mundo real incluyen sistemas de moderación de contenido donde las salidas sesgadas pueden provocar daños reputacionales y riesgos legales, lo que hace que la curaduría de datos proactiva sea esencial.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de AIF-C01 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.