Resposta correta
- BSageMaker Batch Transform com instância de GPU e instâncias spot
Explicação
O Batch Transform com instâncias Spot de GPU é a escolha mais econômica para um trabalho de inferência em lote de grande escala não sensível ao tempo em 10 TB de dados. As instâncias Spot oferecem economia de custos de até 90% em comparação com o modelo sob demanda (on-demand), e o Batch Transform lida nativamente com a divisão do conjunto de dados, a distribuição do trabalho entre as instâncias e a gravação dos resultados no S3 sem exigir um endpoint persistente.
Para se aprofundar
O SageMaker Batch Transform provisiona um cluster de instâncias, baixa objetos de entrada do S3, executa inferência e grava os resultados de volta, e então encerra o cluster. Combinar instâncias de GPU com treinamento Spot gerenciado ou capacidade Spot reduz o custo em até 90% em comparação com sob demanda, e o Batch Transform oferece suporte nativo a ponto de verificação (checkpointing) e novas tentativas automáticas quando ocorrem interrupções Spot. Como o trabalho não é sensível à latencia, não há necessidade de um endpoint persistente. O Serverless Inference limita a memória e as inicializações a frio (cold-starts), sendo inadequado para modelos de GPU. O Async Inference tem como alvo cargas úteis grandes com SLAs de latência quase em tempo real, e os endpoints em tempo real são cobrados continuamente mesmo quando ociosos. Um limite sutil: o Batch Transform divide a entrada pelo tamanho máximo de carga útil, portanto, 10 TB de imagens devem ser fragmentados em arquivos de manifesto para paralelizar entre instâncias.
Sobre estas questões de prática
Esta é uma das questões de prática originais de MLA-C01 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.