DifícilMúltipla escolha

Questão de prática de AIF-C01

Uma equipe de aprendizado de máquina está refinando um modelo base usando o Amazon SageMaker. Eles precisam otimizar o tempo e o custo de treinamento. Qual abordagem eles devem adotar?

Escolha a melhor resposta.

Resposta correta

  • DUsar técnicas de ajuste fino eficiente em parâmetros (PEFT) como LoRA

Explicação

Técnicas de ajuste fino eficiente de parâmetros (PEFT), como o LoRA (Low-Rank Adaptation), reduzem significativamente o número de parâmetros treináveis injetando matrizes de baixo posto nas camadas do modelo, mantendo os pesos originais congelados. Isso diminui drasticamente o uso de memória e o custo computacional, permitindo um treinamento mais rápido e menos horas de GPU no SageMaker sem sacrificar a qualidade do modelo.

Por que cada alternativa está certa ou errada

A

Incorreta

Usar um tipo de instância maior com mais vCPUs

Escalar para mais vCPUs deixa todo o conjunto de parâmetros e os estados do otimizador na memória, portanto o custo aumenta sem resolver o gargalo dominante de treinamento. Instâncias maiores são adequadas para cargas de trabalho limitadas pela taxa de transferência da CPU, enquanto este cenário precisa de ajuste fino eficiente em parâmetros para cortar tempo e despesas.

B

Incorreta

Aumentar o tamanho do lote para o máximo possível

Maximizar o tamanho do lote eleva o consumo de memória e pode degradar a convergência, forçando taxas de aprendizado menores e épocas extras em vez de cortar custos. Lotes grandes adequam-se ao treinamento limitado por taxa de transferência em hardware abundante, mas não reduzem o trabalho de atualização de parâmetros que o ajuste fino eficiente em parâmetros elimina.

C

Incorreta

Usar os pesos completos do modelo e treinar em uma única GPU

O treinamento com peso completo em uma GPU atualiza cada parâmetro, de modo que os custos de memória and computação permanecem no pico e o tempo de treinamento não é reduzido. Isso serviria para um ajuste fino completo quando a precisão importa mais, mas o enunciado pede otimização, que métodos eficientes em parâmetros como LoRA atendem.

D

Correta

Usar técnicas de ajuste fino eficiente em parâmetros (PEFT) como LoRA

O LoRA congela os pesos do modelo base e treina pequenas matrizes adaptadoras de baixo posto em vez disso, reduzindo drasticamente o número de parâmetros treináveis. Isso diminui os requisitos de memória e computação da GPU, cortando o tempo de treinamento e o custo em comparação com o ajuste fino completo.

Para se aprofundar

O LoRA congela os pesos pré-treinados e injeta matrizes treináveis de baixo posto nas camadas de atenção, de modo que apenas uma pequena fração dos parâmetros recebe atualizações de gradiente. Isso reduz a memória da GPU porque os estados do otimizador e os gradientes existem apenas para os adaptadores, permitindo que um modelo que exigiria várias GPUs caiba em apenas uma. Um ponto sutil: o posto e o alfa do LoRA controlam a capacidade; um posto muito baixo resulta em underfitting no jargão do domínio, um posto muito alto erode o ganho de eficiência. Na prática, uma equipe que adapta um modelo 7B para contratos jurídicos pode treinar adaptadores em horas em um único A10G em vez de provisionar um cluster multi-GPU, e o arquivo de adaptador resultante tem megabytes em vez de dezenas de gigabytes, simplificando o versionamento e a implantação.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AIF-C01 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.