DifficileChoix unique

Question d'entraînement AIF-C01

Une entreprise de médias utilise un modèle d'IA générative pour créer automatiquement des légendes d'images pour des photos téléchargées par les utilisateurs. Lors du contrôle qualité, les testeurs découvrent que le modèle génère parfois des légendes incluant des stéréotypes fondés sur le genre et la race, même lorsque les photos ne contiennent pas de personnes. Par exemple, la photo d'une cuisine produit des légendes telles que « femme cuisinant » et la photo d'une voiture de sport génère « homme conduisant ». L'entreprise souhaite lancer la fonctionnalité rapidement mais reconnaît le risque de réputation. Elle dispose d'un budget limité et doit mettre en œuvre une solution qui réduit les stéréotypes nuisibles sans restreindre excessivement la créativité des légendes. L'équipe a accès aux données d'entraînement du modèle, qui consistent en un vaste jeu de données public de paires image-légende. Quelle approche l'équipe doit-elle privilégier ?

Choisissez la meilleure réponse.

Bonne réponse

  • CFiltrer les données d'entraînement pour supprimer ou pondérer moins les paires comportant des stéréotypes, puis affiner le modèle

Explication

La cause profonde des légendes stéréotypées réside dans les données d'entraînement elles-mêmes, qui contiennent des paires image-légende biaisées (par exemple, des cuisines associées à des femmes, des voitures de sport à des hommes). Filtrer ou réduire la pondération de ces paires biaisées, puis affiner (fine-tune) le modèle s'attaque directement à la source du biais, réduisant les stéréotypes nuisibles tout en préservant la créativité générative du modèle. Cette approche est rentable car elle exploite le modèle et le jeu de données existants, et s'aligne sur les pratiques d'IA responsable d'AWS en matière de correction de biais axée sur les données. Le post-traitement ou le remplacement du modèle ne résoudrait pas le biais sous-jacent et pourrait soit restreindre excessivement, soit échouer à généraliser.

Pourquoi chaque option est juste ou fausse

A

Fausse

Remplacer le modèle génératif par un modèle de classification plus simple qui décrit uniquement les objets

Un modèle de classification qui décrit uniquement les objets ne peut pas générer de légendes, ce qui constitue l'exigence principale ; il produit des étiquettes prédéfinies plutôt qu'un langage naturel, de sorte qu'il ne produit aucune légende, et encore moins créative. Cette option est tentante car un classifieur éviterait de manière fiable les stéréotypes en ignorant le contexte social, ce qui en fait un bon choix si l'objectif était simplement de taguer des objets sans générer de texte descriptif.

B

Fausse

Utiliser un autre modèle génératif pré-entraîné qui est plus grand et plus précis

Un modèle pré-entraîné plus grand hérite des mêmes corrélations biaisées image-légende de son corpus d'entraînement, de sorte que les stéréotypes persistent indépendamment des gains de précision. C'est tentant car remplacer les modèles est une solution rapide, et ce serait correct si le problème était la qualité des légendes ou la généralisation plutôt que le biais démographique.

C

Juste

Filtrer les données d'entraînement pour supprimer ou pondérer moins les paires comportant des stéréotypes, puis affiner le modèle

Filtrer ou réduire la pondération des paires image-légende stéréotypées avant l'affinage réduit les associations biaisées apprises par le modèle, ciblant directement le biais des données d'entraînement. Cela satisfait la contrainte de faible budget et de préservation de la créativité mieux que le filtrage des invites ou les listes de blocage des sorties, qui suppriment les symptômes sans corriger les associations apprises.

D

Fausse

Ajouter un filtre de post-traitement qui vérifie les légendes pour détecter les schémas de stéréotypes connus et les bloque

Les filtres de correspondance de motifs ne détectent que les stéréotypes déjà énumérés, bloquant les légendes après la génération tout en laissant intact le biais sous-jacent du modèle et en nuisant à la créativité. C'est tentant car c'est bon marché et rapide à déployer, et ce serait correct comme guardrail temporaire aux côtés d'une remédiation des données ou d'un affinage.

Pour aller plus loin

Le biais dans l'IA générative découle souvent de corrélations fallacieuses dans les données d'entraînement, où certains objets cooccurrent avec des attributs démographiques spécifiques. Par exemple, dans le jeu de données COCO, les images de « cuisine » peuvent être légendées par « femme cuisinant » en raison des biais sociétaux présents dans les annotations d'origine. L'affinage avec un jeu de données corrigé — en supprimant ou en pondérant moins ces paires — ajuste les associations apprises du modèle. Il s'agit d'une forme d'augmentation de données et de repondération, qui peut être plus efficace que le filtrage a posteriori car elle modifie les représentations internes du modèle. Cependant, il faut veiller à éviter une surcorrection qui réduirait la diversité des légendes. En pratique, des techniques telles que l'augmentation de données contrefactuelles ou l'apprentissage contradictoire peuvent atténuer davantage le biais. Les scénarios du monde réel incluent les systèmes de modération de contenu où les sorties biaisées peuvent entraîner des dommages à la réputation et des risques juridiques, ce qui rend la conservation proactive des données essentielle.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AIF-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.