Resposta correta
- ASageMaker Endpoint Auto Scaling
Explicação
O SageMaker Endpoint Auto Scaling é o recurso correto porque ajusta automaticamente o número de instâncias que atendem a um endpoint de inferência em tempo real com base na carga de tráfego entrante. Ele usa políticas do Application Auto Scaling, que monitoram métricas do CloudWatch (por exemplo, InvocationsPerInstance) para realizar o dimensionamento horizontal, garantindo baixa latência e eficiência de custos sem intervenção manual.
Para se aprofundar
O SageMaker Endpoint Auto Scaling usa o Application Auto Scaling para ajustar o número de instâncias por trás de um endpoint em tempo real com base nas métricas do CloudWatch. Você registra o endpoint como um destino escalável e, em seguida, anexa uma política de dimensionamento, mais comumente o TargetTrackingScaling na métrica SageMakerVariantInvocationsPerInstance com um valor de destino, além de períodos de espera (cooldowns) opcionais. Uma sutileza que vale a pena saber: a redução de capacidade (scale-in) é propositalmente conservadora porque remover capacidade enquanto há solicitações em andamento pode causar erros 5xx, portanto, ela usa períodos de espera mais longos do que o aumento de capacidade (scale-out). Além disso, cada variante de produção é dimensionada de forma independente, e você deve definir MinCapacity and MaxCapacity para limitar os custos. Isso é importante para um modelo que atende a um tráfego com picos repentinos, onde uma contagem fixa de instâncias desperdiça dinheiro na ociosidade ou descarta solicitações durante um pico.
Sobre estas questões de prática
Esta é uma das questões de prática originais de MLA-C01 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.