DifícilVárias respostas

Questão de prática de Generative AI Leader

Quais TRÊS são métodos válidos para reduzir o viés em saídas de IA gerativa?

Escolha todas as respostas corretas.

Respostas corretas

  • CUsar um conjunto de dados de treinamento mais diverso
  • DUsar filtros de segurança
  • EAplicar engenharia de prompts para instruir o modelo a ser justo

Explicação

Um conjunto de dados de treinamento mais diverso reduz o viés de representação ao expor o modelo a uma gama mais ampla de dados demográficos, culturas, idiomas e pontos de vista, de modo que a distribuição aprendida fique menos distorcida em direção a um grupo dominante. Filtros de segurança (por exemplo, classificadores de moderação de conteúdo, detectores de toxicidade ou salvaguardas de viés aplicadas a prompts e saídas) podem detectar e bloquear gerações tendenciosas ou prejudiciais, mitigando o viés no momento da inferência. A engenharia de prompts que instrui explicitamente o modelo a ser justo, neutro ou inclusivo (por exemplo, prompts de sistema especificando representação equilibrada) direciona a geração para saídas menos tendenciosas sem retreinamento. Restringir prompts ao inglês estreita o escopo linguístico e cultural, o que pode amplificar o viés em vez de reduzi-lo. Aumentar o tamanho do modelo sozinho não remove o viés e pode até amplificar os vieses presentes nos dados de treinamento.

Por que cada alternativa está certa ou errada

A

Incorreta

Usar apenas prompts em inglês

Restringir prompts ao inglês não remove o viés; a assimetria dos dados de treinamento persiste independentemente do idioma do prompt, e os usuários que não falam inglês simplesmente recebem serviço degradado. É tentador porque padronizar as entradas parece controlar a variabilidade, e o uso de prompts estritamente em inglês seria razoável para uma implantação deliberadamente direcionada ao inglês, não para mitigação de viés.

B

Incorreta

Aumentar o tamanho do modelo

O dimensionamento de parâmetros não tem como alvo as correlações tendenciosas incorporadas nos dados de treinamento; modelos maiores podem reproduzi-las ou amplificá-las com maior fluidez. É tentador porque modelos maiores pontuam mais alto em muitos benchmarks, e aumentar o tamanho seria correto quando a restrição for a capacidade geral ou a qualidade do raciocínio em vez da imparcialidade.

C

Correta

Usar um conjunto de dados de treinamento mais diverso

Um conjunto de dados de treinamento mais diverso aborda diretamente o viés de representação ao expor o modelo a maior variação demográfica, cultural e linguística durante o pré-treinamento, reduzindo a probabilidade de associações tendenciosas em saídas geradas. Isso satisfaz o requisito do enunciado de um método válido de redução de viés, já que o viés frequentemente se origina de corpus de treinamento não representativos ou historicamente tendenciosos.

D

Correta

Usar filtros de segurança

Filtros de segurança avaliam prompts e respostas em relação a limites configurados, bloqueando conteúdo prejudicial ou tendencioso antes que chegue aos usuários. Isso fornece um controle do lado da saída que reduz gerações tendenciosas, independentemente do que os dados de treinamento subjacentes continham.

E

Correta

Aplicar engenharia de prompts para instruir o modelo a ser justo

A engenharia de prompts orienta a saída gerativa por meio de instruções explícitas, de modo que as diretrizes de imparcialidade podem restringir o tom e o enquadramento no momento da inferência sem retreinamento. Ela satisfaz o requisito do enunciado para um método válido de redução de viés, embora molde apenas o comportamento de superfície e não possa corrigir dados de treinamento tendenciosos ou decisões de acesso regidas pelo Microsoft Entra ID.

Para se aprofundar

O viés em modelos gerativos se origina nas distribuições de dados de treinamento, portanto, diversificar o corpus reduz o viés de representação na fonte, enquanto os filtros de segurança atuam como uma salvaguarda em tempo de execução que suprime saídas prejudiciais ou estereotipadas após a geração. A engenharia de prompts adiciona uma restrição em nível de instrução, guiando o modelo para respostas justas e equilibradas sem retreinamento. Esses três operam em diferentes camadas: dados, decodificação e condicionamento. Um comportamento sutil é que os filtros de segurança podem bloquear excessivamente conteúdo legítimo, e as instruções de prompt podem ser ignoradas sob mudança de distribuição, portanto, combiná-los é mais robusto do que qualquer método individual. Em um cenário de assistente de contratação, um corpus de currículos diverso mais prompts de imparcialidade e filtros de saída reduzem conjuntamente o impacto díspar que qualquer controle isolado perderia.

Sobre estas questões de prática

Esta é uma das questões de prática originais de Generative AI Leader da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.