Resposta correta
- DUsar técnicas de ajuste fino eficiente em parâmetros (PEFT) como LoRA
Explicação
Técnicas de ajuste fino eficiente de parâmetros (PEFT), como o LoRA (Low-Rank Adaptation), reduzem significativamente o número de parâmetros treináveis injetando matrizes de baixo posto nas camadas do modelo, mantendo os pesos originais congelados. Isso diminui drasticamente o uso de memória e o custo computacional, permitindo um treinamento mais rápido e menos horas de GPU no SageMaker sem sacrificar a qualidade do modelo.
Para se aprofundar
O LoRA congela os pesos pré-treinados e injeta matrizes treináveis de baixo posto nas camadas de atenção, de modo que apenas uma pequena fração dos parâmetros recebe atualizações de gradiente. Isso reduz a memória da GPU porque os estados do otimizador e os gradientes existem apenas para os adaptadores, permitindo que um modelo que exigiria várias GPUs caiba em apenas uma. Um ponto sutil: o posto e o alfa do LoRA controlam a capacidade; um posto muito baixo resulta em underfitting no jargão do domínio, um posto muito alto erode o ganho de eficiência. Na prática, uma equipe que adapta um modelo 7B para contratos jurídicos pode treinar adaptadores em horas em um único A10G em vez de provisionar um cluster multi-GPU, e o arquivo de adaptador resultante tem megabytes em vez de dezenas de gigabytes, simplificando o versionamento e a implantação.
Sobre estas questões de prática
Esta é uma das questões de prática originais de AIF-C01 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.