Questão de prática de AIF-C01
Uma empresa de mídia usa um modelo de IA generativa para criar automaticamente legendas de imagens para fotos enviadas por usuários. Durante o controle de qualidade, os testadores descobrem que o modelo às vezes gera legendas que incluem estereótipos com base em gênero e raça, mesmo quando as fotos não contêm pessoas. Por exemplo, a foto de uma cozinha produz legendas como 'mulher cozinhando', e a foto de um carro esportivo gera 'homem dirigindo'. A empresa quer lançar o recurso em breve, mas reconhece o risco reputacional. Eles têm um orçamento limitado e precisam implementar uma solução que reduza estereótipos prejudiciais sem restringir excessivamente a criatividade das legendas. A equipe tem acesso aos dados de treinamento do modelo, que é um grande conjunto de dados público de pares de imagem e legenda. Qual abordagem a equipe deve priorizar?
Resposta correta
- CFiltrar os dados de treinamento para remover ou diminuir o peso de pares com estereótipos, depois ajustar o modelo
Explicação
A causa raiz das legendas estereotipadas são os próprios dados de treinamento, que contêm pares tendenciosos de imagem e legenda (por exemplo, cozinhas associadas a mulheres, carros esportivos a homens). Filtrar ou reduzir o peso desses pares tendenciosos e, em seguida, fazer o ajuste fino (fine-tuning) do modelo aborda diretamente a fonte do viés, reduzindo estereótipos prejudiciais enquanto preserva a criatividade gerativa do modelo. Essa abordagem é econômica porque aproveita o modelo e o conjunto de dados existentes, alinhando-se às práticas de IA responsável da AWS de remoção de viés centrada em dados. O pós-processamento ou a substituição do modelo não corrigiria o viés subjacente e poderia restringir excessivamente ou falhar na generalização.
Para se aprofundar
O viés na IA generativa geralmente decorre de correlações espúrias nos dados de treinamento, onde certos objetos coocorrem com atributos demográficos específicos. Por exemplo, no conjunto de dados COCO, imagens de 'cozinha' podem ser legendadas com 'mulher cozinhando' devido a vieses sociais presentes nas anotações originais. O ajuste fino com um conjunto de dados sem viés — removendo ou diminuindo o peso de tais pares — ajusta as associações aprendidas do modelo. Esta é uma forma de aumento de dados e reponderação, que pode ser mais eficaz do que a filtragem a posteriori porque altera as representações internas do modelo. No entanto, deve-se tomar cuidado para evitar a correção excessiva que reduz a diversidade de legendas. Na prática, técnicas como aumento de dados contrafactuais ou treinamento adversarial podem mitigar ainda mais o viés. Cenários do mundo real incluem sistemas de moderação de conteúdo em que saídas tendenciosas podem levar a danos à reputação e riscos legais, tornando a curadoria proativa de dados essencial.
Sobre estas questões de prática
Esta é uma das questões de prática originais de AIF-C01 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.