Respuesta correcta
- BSageMaker Batch Transform con instancia de GPU e instancias spot
Explicación
Batch Transform con instancias Spot de GPU es la opción más rentable para un trabajo de inferencia por lotes a gran escala que no es sensible al tiempo sobre 10 TB de datos. Las instancias Spot ofrecen ahorros de costos de hasta el 90% en comparación con bajo demanda (on-demand), y Batch Transform gestiona de forma nativa la división del conjunto de datos, la distribución del trabajo entre instancias y la escritura de resultados en S3 sin requerir un endpoint persistente.
Para profundizar
SageMaker Batch Transform aprovisiona un clúster de instancias, descarga objetos de entrada desde S3, ejecuta inferencia y escribe los resultados de vuelta, luego destruye el clúster. Combinar instancias de GPU con entrenamiento Spot gestionado o capacidad Spot reduce el costo hasta en un 90 por ciento frente a bajo demanda, y Batch Transform admite de forma nativa la comprobación de estado (checkpointing) y reintentos automáticos cuando ocurren interrupciones de Spot. Debido a que el trabajo no es sensible a la latencia, no hay necesidad de un endpoint persistente. Serverless Inference limita la memoria y los arranques en frío (cold-starts), lo cual no es adecuado para modelos de GPU. Async Inference apunta a cargas útiles grandes con SLAs cercanos al tiempo real, y los endpoints en tiempo real se cobran continuamente incluso cuando están inactivos. Un límite sutil: Batch Transform divide la entrada por el tamaño máximo de carga útil, por lo que 10 TB de imágenes deben fragmentarse en archivos de manifiesto para paralelizar entre instancias.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de MLA-C01 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.