Bonne réponse
- CFiltrer les données d'entraînement pour supprimer ou pondérer moins les paires comportant des stéréotypes, puis affiner le modèle
Explication
La cause profonde des légendes stéréotypées réside dans les données d'entraînement elles-mêmes, qui contiennent des paires image-légende biaisées (par exemple, des cuisines associées à des femmes, des voitures de sport à des hommes). Filtrer ou réduire la pondération de ces paires biaisées, puis affiner (fine-tune) le modèle s'attaque directement à la source du biais, réduisant les stéréotypes nuisibles tout en préservant la créativité générative du modèle. Cette approche est rentable car elle exploite le modèle et le jeu de données existants, et s'aligne sur les pratiques d'IA responsable d'AWS en matière de correction de biais axée sur les données. Le post-traitement ou le remplacement du modèle ne résoudrait pas le biais sous-jacent et pourrait soit restreindre excessivement, soit échouer à généraliser.
Pour aller plus loin
Le biais dans l'IA générative découle souvent de corrélations fallacieuses dans les données d'entraînement, où certains objets cooccurrent avec des attributs démographiques spécifiques. Par exemple, dans le jeu de données COCO, les images de « cuisine » peuvent être légendées par « femme cuisinant » en raison des biais sociétaux présents dans les annotations d'origine. L'affinage avec un jeu de données corrigé — en supprimant ou en pondérant moins ces paires — ajuste les associations apprises du modèle. Il s'agit d'une forme d'augmentation de données et de repondération, qui peut être plus efficace que le filtrage a posteriori car elle modifie les représentations internes du modèle. Cependant, il faut veiller à éviter une surcorrection qui réduirait la diversité des légendes. En pratique, des techniques telles que l'augmentation de données contrefactuelles ou l'apprentissage contradictoire peuvent atténuer davantage le biais. Les scénarios du monde réel incluent les systèmes de modération de contenu où les sorties biaisées peuvent entraîner des dommages à la réputation et des risques juridiques, ce qui rend la conservation proactive des données essentielle.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement AIF-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.