DifícilOpción múltiple

Pregunta de práctica de AIF-C01

Un equipo de aprendizaje automático está afinando un modelo base utilizando Amazon SageMaker. Necesitan optimizar el tiempo y el costo de entrenamiento. ¿Qué enfoque deben tomar?

Elige la mejor respuesta.

Respuesta correcta

  • DUtilice técnicas de ajuste fino eficiente en parámetros (PEFT) como LoRA

Explicación

Las técnicas de ajuste fino eficiente de parámetros (PEFT) como LoRA (Low-Rank Adaptation) reducen significativamente el número de parámetros entrenables mediante la inyección de matrices de bajo rango en las capas del modelo, manteniendo los pesos originales congelados. Esto reduce drásticamente el uso de memoria y el costo computacional, permitiendo un entrenamiento más rápido y horas de GPU reducidas en SageMaker sin sacrificar la calidad del modelo.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Utilice un tipo de instancia más grande con más vCPU

Escalar a más vCPU deja el conjunto completo de parámetros y los estados del optimizador en la memoria, por lo que el costo aumenta sin abordar el cuello de botella de entrenamiento dominante. Las instancias más grandes se adaptan a cargas de trabajo limitadas por el rendimiento de la CPU, mientras que este escenario necesita un ajuste fino eficiente en parámetros para reducir tanto el tiempo como el gasto.

B

Incorrecta

Aumente el tamaño del lote al máximo posible

Maximizar el tamaño del lote aumenta el consumo de memoria y puede degradar la convergencia, obligando a tasas de aprendizaje más pequeñas y épocas adicionales en lugar de reducir el costo. Los lotes grandes se adaptan al entrenamiento limitado por rendimiento en hardware amplio, pero no reducen el trabajo de actualización de parámetros que elimina el ajuste fino eficiente en parámetros.

C

Incorrecta

Utilice los pesos completos del modelo y entrene en una sola GPU

El entrenamiento de peso completo en una GPU actualiza cada parámetro, por lo que los costos de memoria y computación se mantienen en su punto máximo y el tiempo de entrenamiento no se reduce. Se adaptaría al ajuste fino completo cuando la precisión es lo más importante, pero el enunciado pide optimización, a la que los métodos eficientes en parámetros como LoRA dan respuesta.

D

Correcta

Utilice técnicas de ajuste fino eficiente en parámetros (PEFT) como LoRA

LoRA congela los pesos del modelo base y entrena pequeñas matrices adaptadoras de bajo rango en su lugar, reduciendo drásticamente el número de parámetros entrenables. Esto disminuye los requisitos de memoria y computación de la GPU, reduciendo tanto el tiempo de entrenamiento como el costo en comparación con el ajuste fino completo.

Para profundizar

LoRA congela los pesos preentrenados e inyecta matrices entrenables de bajo rango en las capas de atención, por lo que solo una pequeña fracción de los parámetros recibe actualizaciones de gradiente. Esto reduce la memoria de la GPU porque los estados del optimizador y los gradientes existen solo para los adaptadores, lo que permite que un modelo que requeriría múltiples GPUs quepa en una sola. Un punto sutil: el rango y el alfa de LoRA controlan la capacidad; un rango demasiado bajo subajusta la jerga del dominio, uno demasiado alto erosiona la ganancia de eficiencia. En la práctica, un equipo que adapta un modelo 7B a contratos legales puede entrenar adaptadores en horas en una sola A10G en lugar de aprovisionar un clúster de múltiples GPUs, y el archivo de adaptador resultante es de megabytes en lugar de decenas de gigabytes, simplificando el versionado y la implementación.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AIF-C01 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.