Resposta correta
- AO conjunto de dados de fine-tuning continha informações de identificação pessoal que não foram removidas.
Explicação
A causa mais provável é que o conjunto de dados de fine-tuning continha informações de identificação pessoal (PII) que não foram devidamente limpas. Durante o fine-tuning, o modelo aprende padrões e memoriza sequências específicas dos dados de treinamento. Se o conjunto de dados incluir registros confidenciais de funcionários, o modelo poderá reproduzir essa informação de forma literal quando solicitado, levando ao vazamento de dados. Esse é um risco bem conhecido no fine-tuning, pois os modelos podem sofrer overfitting em exemplos raros ou exclusivos no conjunto de treinamento.
Para se aprofundar
O fine-tuning ajusta os pesos de um modelo pré-treinado via descrescente de gradiente no seu conjunto de dados, de modo que qualquer PII presente nesses dados se torne estatisticamente codificada nos parâmetros e possa ser reproduzida literalmente na inferência. Ao contrário da geração aumentada por recuperação (RAG), onde os registros confidenciais permanecem em um armazenamento externo que você pode revogar, o fine-tuning insere informações no próprio modelo, tornando a remoção difícil sem re-treinamento ou técnicas de machine unlearning. O RLHF molda o estilo e as preferências de alinhamento, mas não limpa fatos memorizados, e a contagem de parâmetros não está relacionada a vazamentos. Um caso realista: um chatbot de RH ajustado em arquivos de casos não redigidos recita posteriormente o salário de um funcionário e detalhes de licença médica quando solicitado com um nome, criando um incidente de privacidade e exposição regulatória sob GDPR ou HIPAA.
Sobre estas questões de prática
Esta é uma das questões de prática originais de Generative AI Leader da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.