Respostas corretas
- CUsar um conjunto de dados de treinamento mais diverso
- DUsar filtros de segurança
- EAplicar engenharia de prompts para instruir o modelo a ser justo
Explicação
Um conjunto de dados de treinamento mais diverso reduz o viés de representação ao expor o modelo a uma gama mais ampla de dados demográficos, culturas, idiomas e pontos de vista, de modo que a distribuição aprendida fique menos distorcida em direção a um grupo dominante. Filtros de segurança (por exemplo, classificadores de moderação de conteúdo, detectores de toxicidade ou salvaguardas de viés aplicadas a prompts e saídas) podem detectar e bloquear gerações tendenciosas ou prejudiciais, mitigando o viés no momento da inferência. A engenharia de prompts que instrui explicitamente o modelo a ser justo, neutro ou inclusivo (por exemplo, prompts de sistema especificando representação equilibrada) direciona a geração para saídas menos tendenciosas sem retreinamento. Restringir prompts ao inglês estreita o escopo linguístico e cultural, o que pode amplificar o viés em vez de reduzi-lo. Aumentar o tamanho do modelo sozinho não remove o viés e pode até amplificar os vieses presentes nos dados de treinamento.
Para se aprofundar
O viés em modelos gerativos se origina nas distribuições de dados de treinamento, portanto, diversificar o corpus reduz o viés de representação na fonte, enquanto os filtros de segurança atuam como uma salvaguarda em tempo de execução que suprime saídas prejudiciais ou estereotipadas após a geração. A engenharia de prompts adiciona uma restrição em nível de instrução, guiando o modelo para respostas justas e equilibradas sem retreinamento. Esses três operam em diferentes camadas: dados, decodificação e condicionamento. Um comportamento sutil é que os filtros de segurança podem bloquear excessivamente conteúdo legítimo, e as instruções de prompt podem ser ignoradas sob mudança de distribuição, portanto, combiná-los é mais robusto do que qualquer método individual. Em um cenário de assistente de contratação, um corpus de currículos diverso mais prompts de imparcialidade e filtros de saída reduzem conjuntamente o impacto díspar que qualquer controle isolado perderia.
Sobre estas questões de prática
Esta é uma das questões de prática originais de Generative AI Leader da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.