Resposta correta
- BEndpoint em tempo real do SageMaker em ml.g4dn.xlarge
Explicação
Os endpoints em tempo real do SageMaker fornecem instâncias dedicadas e persistentes que podem lidar com inferência síncrona com latência inferior a 100 ms. A instância ml.g4dn.xlarge inclui uma única GPU NVIDIA T4, que é suficiente para o tamanho do modelo e oferece o menor custo entre as instâncias de GPU que atendem ao requisito de latência. Esta opção equilibra desempenho e custo para inferência em tempo real e de baixa latência.
Para se aprofundar
Um endpoint em tempo real do SageMaker mantém o modelo carregado na instância e responde às chamadas HTTPS InvokeEndpoint de forma síncrona, de modo que o tempo de resposta é dominado pela inferência e não por inicializações a frio. Uma instância ml.g4dn.xlarge fornece uma GPU NVIDIA T4 com 16 GB de memória, suficiente para um modelo PyTorch de GPU única, e é cobrada por instância-hora, o que é mais barato do que instâncias maiores ou multi-GPU para esta carga de trabalho. O Batch Transform é assíncrono e inadequado para chamadas interativas abaixo de 100 ms, o Async Inference enfileira solicitações e pode adicionar segundos, e o Serverless Inference tem latência de inicialização a frio e limites de memória que podem não caber em um modelo de GPU. Isso importa para uma API de pontuação de fraude em que cada milissegundo de latência da cauda afeta a experiência do usuário.
Sobre estas questões de prática
Esta é uma das questões de prática originais de MLA-C01 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.