DifficileChoix unique

Question d'entraînement AIF-C01

Une équipe de machine learning peaufine un modèle de base en utilisant Amazon SageMaker. Elle doit optimiser le temps et le coût d'entraînement. Quelle approche doit-elle adopter ?

Choisissez la meilleure réponse.

Bonne réponse

  • DUtiliser des techniques de réglage fin efficace en paramètres (PEFT) telles que LoRA

Explication

Les techniques de réglage fin efficace en paramètres (PEFT) telles que LoRA (Low-Rank Adaptation) réduisent considérablement le nombre de paramètres entraînables en injectant des matrices de rang faible dans les couches du modèle, tout en maintenant les poids d'origine gelés. Cela réduit considérablement l'utilisation de la mémoire et le coût de calcul, permettant un entraînement plus rapide et des heures de GPU réduites sur SageMaker sans sacrifier la qualité du modèle.

Pourquoi chaque option est juste ou fausse

A

Fausse

Utiliser un type d'instance plus grand avec plus de vCPU

La mise à l'échelle vers un plus grand nombre de vCPU laisse l'ensemble complet des paramètres et les états de l'optimiseur en mémoire, de sorte que le coût augmente sans résoudre le goulot d'étranglement principal de l'entraînement. Les instances plus grandes conviennent aux charges de travail limitées par le débit du CPU, alors que ce scénario nécessite un réglage fin efficace en paramètres pour réduire à la fois le temps et les dépenses.

B

Fausse

Augmenter la taille du lot au maximum possible

Maximiser la taille du lot augmente la consommation de mémoire et peut dégrader la convergence, forçant des taux d'apprentissage plus faibles et des époques supplémentaires plutôt que de réduire les coûts. Les grands lots conviennent à un entraînement limité par le débit sur du matériel abondant, mais ils ne réduisent pas le travail de mise à jour des paramètres que le réglage fin efficace en paramètres élimine.

C

Fausse

Utiliser les poids complets du modèle et entraîner sur un seul GPU

L'entraînement avec les poids complets sur un seul GPU met à jour chaque paramètre, de sorte que les coûts de mémoire et de calcul restent à leur maximum et que le temps d'entraînement n'est pas réduit. Cela conviendrait à un réglage fin complet lorsque la précision importe le plus, mais la consigne demande une optimisation, ce que les méthodes efficaces en paramètres comme LoRA permettent d'atteindre.

D

Juste

Utiliser des techniques de réglage fin efficace en paramètres (PEFT) telles que LoRA

LoRA gèle les poids du modèle de base et entraîne à la place de petites matrices adaptatrices de rang faible, réduisant drastiquement le nombre de paramètres entraînables. Cela réduit les besoins en mémoire et en calcul du GPU, diminuant à la fois le temps d'entraînement et le coût par rapport au réglage fin complet.

Pour aller plus loin

LoRA gèle les poids pré-entraînés et injecte des matrices entraînables de rang faible dans les couches d'attention, de sorte que seule une petite fraction des paramètres reçoit des mises à jour de gradient. Cela réduit la mémoire du GPU car les états de l'optimiseur et les gradients existent uniquement pour les adaptateurs, permettant à un modèle qui nécessiterait plusieurs GPU de tenir sur un seul. Un point subtil : le rang et l'alpha de LoRA contrôlent la capacité ; un rang trop bas sous-ajuste le jargon du domaine, un rang trop élevé érode le gain d'efficacité. En pratique, une équipe adaptant un modèle 7B à des contrats juridiques peut entraîner des adaptateurs en quelques heures sur un seul A10G au lieu de provisionner un cluster multi-GPU, et le fichier d'adaptateur résultant fait des mégaoctets au lieu de dizaines de gigaoctets, simplifiant le versionnement et le déploiement.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AIF-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.