Resposta correta
- DAdicionar uma política de dimensionamento baseada no número de solicitações concorrentes por instância
Explicação
O dimensionamento baseado apenas na utilização da CPU costuma ser insuficiente para cargas de trabalho de inferência onde a latência é a principal preocupação. Ao adicionar uma política de dimensionamento baseada no número de solicitações concorrentes por instância, a equipe pode realizar o dimensionamento horizontal de forma proativa antes que ocorra a saturação da CPU, reduzindo a latência e eliminando os erros 503. O dimensionamento automático do SageMaker suporta várias métricas de rastreamento de alvo, e o uso de solicitações concorrentes por instância alinha-se mais de perto com a demanda real no contêiner de atendimento do modelo.
Para se aprofundar
O dimensionamento automático do SageMaker avalia as métricas do CloudWatch em relação a um alvo; a utilização da CPU fica atrás da demanda real porque uma solicitação já deve estar enfileirada e sendo executada antes que a CPU aumente, de modo que, durante picos acentuados, o endpoint é dimensionado tarde demais e retorna erros 503. Uma política baseada em ConcurrentRequestsPerInstance (ou InvocationsPerInstance) reage diretamente à profundidade da fila, disparando o dimensionamento horizontal antes que a CPU sature. Isso é mais barato do que mudar para ml.c5.xlarge, o que aumenta o custo por hora para todo o tráfego, e mais barato do que pré-aquecer instâncias extras fixas que ficam ociosas. Uma sutilidade: o período de resfriamento do dimensionamento horizontal e o valor alvo devem ser ajustados; um alvo muito baixo causa oscilação. Em uma implantação real, um pico de tráfego de liquidação relâmpago é exatamente onde o dimensionamento baseado em solicitações mantém a latência dentro do SLA, minimizando o custo em estado estacionário.
Sobre estas questões de prática
Esta é uma das questões de prática originais de MLA-C01 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.