DifícilMúltipla escolha

Questão de prática de MLA-C01

Uma equipe está implantando um modelo do TensorFlow em um endpoint de tempo real do SageMaker com dimensionamento automático. Eles definem a política de dimensionamento para atingir uma utilização média de CPU de 50%. No entanto, durante picos de tráfego, o endpoint apresenta alta latência e erros 503. O tipo de instância é ml.c5.large. O que a equipe deve fazer para resolver isso minimizando os custos?

Escolha a melhor resposta.

Resposta correta

  • DAdicionar uma política de dimensionamento baseada no número de solicitações concorrentes por instância

Explicação

O dimensionamento baseado apenas na utilização da CPU costuma ser insuficiente para cargas de trabalho de inferência onde a latência é a principal preocupação. Ao adicionar uma política de dimensionamento baseada no número de solicitações concorrentes por instância, a equipe pode realizar o dimensionamento horizontal de forma proativa antes que ocorra a saturação da CPU, reduzindo a latência e eliminando os erros 503. O dimensionamento automático do SageMaker suporta várias métricas de rastreamento de alvo, e o uso de solicitações concorrentes por instância alinha-se mais de perto com a demanda real no contêiner de atendimento do modelo.

Por que cada alternativa está certa ou errada

A

Incorreta

Pré-aquecer o endpoint mantendo um número fixo de instâncias adicionais

O pré-aquecimento mantém instâncias ociosas rodando permanentemente, o que aumenta o custo sem abordar a reação lenta da política de dimensionamento a picos. É tentador porque o pré-aquecimento é a escolha correta para endpoints sensíveis à latência com tráfego de linha de base previsível e constante, onde inicializações a frio são inaceitáveis.

B

Incorreta

Aumentar o período de resfriamento de redução (scale-in cooldown) para evitar reduções frequentes

Estender o período de resfriamento de redução apenas atrasa a remoção de instâncias; não faz nada para adicionar capacidade mais rápido durante um pico, de modo que a latência e os erros 503 persistem. É tentador porque o ajuste de resfriamento é a correção correta quando o dimensionamento oscila, adicionando e removendo instâncias repetidamente.

C

Incorreta

Alterar o tipo de instância para uma maior como ml.c5.xlarge para lidar com os picos

Uma instância maior aumenta a capacidade por instância, mas a política de rastreamento de alvo ainda dimensiona com base na CPU, e instâncias maiores ociosas custam mais, contradizendo o requisito de custo. É tentador porque o dimensionamento vertical é a correção correta quando uma única instância é genuinamente limitada por CPU e não pode ser dividida entre réplicas.

D

Correta

Adicionar uma política de dimensionamento baseada no número de solicitações concorrentes por instância

O dimensionamento por solicitações concorrentes rastreia a demanda real em vez da CPU, que fica atrás de rajadas de solicitações em ml.c5.large. Ele adiciona capacidade antes que a latência e os erros 503 ocorram, satisfazendo a restrição de capacidade de resposta e evitando o custo de instâncias permanentemente maiores.

Para se aprofundar

O dimensionamento automático do SageMaker avalia as métricas do CloudWatch em relação a um alvo; a utilização da CPU fica atrás da demanda real porque uma solicitação já deve estar enfileirada e sendo executada antes que a CPU aumente, de modo que, durante picos acentuados, o endpoint é dimensionado tarde demais e retorna erros 503. Uma política baseada em ConcurrentRequestsPerInstance (ou InvocationsPerInstance) reage diretamente à profundidade da fila, disparando o dimensionamento horizontal antes que a CPU sature. Isso é mais barato do que mudar para ml.c5.xlarge, o que aumenta o custo por hora para todo o tráfego, e mais barato do que pré-aquecer instâncias extras fixas que ficam ociosas. Uma sutilidade: o período de resfriamento do dimensionamento horizontal e o valor alvo devem ser ajustados; um alvo muito baixo causa oscilação. Em uma implantação real, um pico de tráfego de liquidação relâmpago é exatamente onde o dimensionamento baseado em solicitações mantém a latência dentro do SLA, minimizando o custo em estado estacionário.

Sobre estas questões de prática

Esta é uma das questões de prática originais de MLA-C01 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.