MédiaMúltipla escolha

Questão de prática de MLA-C01

Uma empresa executa um trabalho de inferência em lote (batch inference) em 10 TB de dados de imagem armazenados no S3. Cada imagem precisa ser processada por um modelo acelerado por GPU. O trabalho não é sensível ao tempo e o custo é a principal preocupação. Qual opção do SageMaker é A MAIS apropriada?

Escolha a melhor resposta.

Resposta correta

  • BSageMaker Batch Transform com instância de GPU e instâncias spot

Explicação

O Batch Transform com instâncias Spot de GPU é a escolha mais econômica para um trabalho de inferência em lote de grande escala não sensível ao tempo em 10 TB de dados. As instâncias Spot oferecem economia de custos de até 90% em comparação com o modelo sob demanda (on-demand), e o Batch Transform lida nativamente com a divisão do conjunto de dados, a distribuição do trabalho entre as instâncias e a gravação dos resultados no S3 sem exigir um endpoint persistente.

Por que cada alternativa está certa ou errada

A

Incorreta

SageMaker Serverless Inference

O Serverless Inference não tem suporte a GPU e limita a memória e o tamanho da carga útil, portanto, não pode executar um modelo acelerado por GPU. Ele atende a inferências intermitentes e pequenas baseadas em CPU com tráfego imprevisível, e não a uma carga de trabalho em lote de GPU de 10 TB.

B

Correta

SageMaker Batch Transform com instância de GPU e instâncias spot

O Batch Transform executa inferência sobre dados do S3 sem um endpoint persistente, e emparelhar instâncias de GPU com capacidade spot reduz substancialmente o custo para um trabalho não sensível ao tempo. Isso satisfaz a restrição principal de custo, uma vez que o treinamento spot gerenciado se aplica a trabalhos de treinamento, e não à inferência em lote.

C

Incorreta

SageMaker Async Inference com GPU

O Async Inference enfileira solicitações individuais e retorna resultados via S3, projetado para cargas úteis grandes com necessidades de latência quase em tempo real. Para um trabalho em lote de 10 TB, o enfileiramento por solicitação adiciona sobrecarga; o Batch Transform processa todo o conjunto de dados em um único trabalho gerenciado, que é o ajuste pretendido.

D

Incorreta

Endpoint em tempo real do SageMaker em instâncias de GPU

Os endpoints em tempo real mantêm as instâncias de GPU em execução contínua para atender a solicitações de baixa latência, cobrando pela capacidade ociosa em um trabalho de 10 TB. É a escolha correta para previsões interativas com latência de milissegundos, ao passo que esta carga de trabalho em lote não sensível ao tempo deve usar um trabalho que provisione instâncias apenas durante o processamento.

Para se aprofundar

O SageMaker Batch Transform provisiona um cluster de instâncias, baixa objetos de entrada do S3, executa inferência e grava os resultados de volta, e então encerra o cluster. Combinar instâncias de GPU com treinamento Spot gerenciado ou capacidade Spot reduz o custo em até 90% em comparação com sob demanda, e o Batch Transform oferece suporte nativo a ponto de verificação (checkpointing) e novas tentativas automáticas quando ocorrem interrupções Spot. Como o trabalho não é sensível à latencia, não há necessidade de um endpoint persistente. O Serverless Inference limita a memória e as inicializações a frio (cold-starts), sendo inadequado para modelos de GPU. O Async Inference tem como alvo cargas úteis grandes com SLAs de latência quase em tempo real, e os endpoints em tempo real são cobrados continuamente mesmo quando ociosos. Um limite sutil: o Batch Transform divide a entrada pelo tamanho máximo de carga útil, portanto, 10 TB de imagens devem ser fragmentados em arquivos de manifesto para paralelizar entre instâncias.

Sobre estas questões de prática

Esta é uma das questões de prática originais de MLA-C01 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.