MediaOpción múltiple

Pregunta de práctica de MLA-C01

Una empresa ejecuta un trabajo de inferencia por lotes (batch inference) en 10 TB de datos de imágenes almacenados en S3. Cada imagen debe ser procesada por un modelo acelerado por GPU. El trabajo no es sensible al tiempo y el costo es la principal preocupación. ¿Qué opción de SageMaker es MÁS apropiada?

Elige la mejor respuesta.

Respuesta correcta

  • BSageMaker Batch Transform con instancia de GPU e instancias spot

Explicación

Batch Transform con instancias Spot de GPU es la opción más rentable para un trabajo de inferencia por lotes a gran escala que no es sensible al tiempo sobre 10 TB de datos. Las instancias Spot ofrecen ahorros de costos de hasta el 90% en comparación con bajo demanda (on-demand), y Batch Transform gestiona de forma nativa la división del conjunto de datos, la distribución del trabajo entre instancias y la escritura de resultados en S3 sin requerir un endpoint persistente.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

SageMaker Serverless Inference

Serverless Inference no tiene soporte para GPU y limita la memoria y el tamaño de la carga útil, por lo que no puede ejecutar un modelo acelerado por GPU en absoluto. Se adapta a inferencias intermitentes y pequeñas basadas en CPU con tráfico impredecible, no a una carga de trabajo por lotes con GPU de 10 TB.

B

Correcta

SageMaker Batch Transform con instancia de GPU e instancias spot

Batch Transform ejecuta inferencias sobre datos de S3 sin un endpoint persistente, y vincular instancias de GPU con capacidad spot reduce sustancialmente el costo para un trabajo que no es sensible al tiempo. Esto satisface la restricción principal de costo, ya que el entrenamiento spot gestionado se aplica a trabajos de entrenamiento, no a la inferencia por lotes.

C

Incorrecta

SageMaker Async Inference con GPU

Async Inference pone en cola solicitudes individuales y devuelve resultados a través de S3, diseñado para cargas útiles grandes con necesidades de latencia cercana al tiempo real. Para un trabajo por lotes de 10 TB, la puesta en cola por solicitud añade sobrecarga; Batch Transform procesa todo el conjunto de datos en un trabajo gestionado, que es la opción adecuada.

D

Incorrecta

Endpoint en tiempo real de SageMaker en instancias de GPU

Los endpoints en tiempo real mantienen las instancias de GPU ejecutándose continuamente para servir solicitudes de baja latencia, facturando por la capacidad inactiva en un trabajo de 10 TB. Es la opción correcta para predicciones interactivas de latencia de milisegundos, mientras que esta carga de trabajo por lotes no sensible al tiempo debe utilizar un trabajo que proporcione instancias solo mientras procesa.

Para profundizar

SageMaker Batch Transform aprovisiona un clúster de instancias, descarga objetos de entrada desde S3, ejecuta inferencia y escribe los resultados de vuelta, luego destruye el clúster. Combinar instancias de GPU con entrenamiento Spot gestionado o capacidad Spot reduce el costo hasta en un 90 por ciento frente a bajo demanda, y Batch Transform admite de forma nativa la comprobación de estado (checkpointing) y reintentos automáticos cuando ocurren interrupciones de Spot. Debido a que el trabajo no es sensible a la latencia, no hay necesidad de un endpoint persistente. Serverless Inference limita la memoria y los arranques en frío (cold-starts), lo cual no es adecuado para modelos de GPU. Async Inference apunta a cargas útiles grandes con SLAs cercanos al tiempo real, y los endpoints en tiempo real se cobran continuamente incluso cuando están inactivos. Un límite sutil: Batch Transform divide la entrada por el tamaño máximo de carga útil, por lo que 10 TB de imágenes deben fragmentarse en archivos de manifiesto para paralelizar entre instancias.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de MLA-C01 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.