MédiaMúltipla escolha

Questão de prática de PMLE

Uma empresa implanta um modelo no Vertex AI Prediction com o escalonamento automático ativado. Eles percebem que, durante um pico de tráfego, novas instâncias levam vários minutos para ficarem disponíveis, causando alta latência. Qual é a melhor solução?

Escolha a melhor resposta.

Resposta correta

  • DDefinir um número mínimo de réplicas mais alto para manter uma linha de base de instâncias aquecidas

Explicação

Definir um valor mínimo de réplicas mais alto garante que um número base de instâncias esteja sempre aquecido e pronto para atender ao tráfego. Durante um pico de tráfego, novas instâncias ainda levam tempo para serem provisionadas (inicialização a frio), mas as instâncias aquecidas lidam com o aumento inicial sem picos de latência. Isso aborda diretamente a alta latência observada durante os picos.

Por que cada alternativa está certa ou errada

A

Incorreta

Desativar o escalonamento automático e usar um número fixo de réplicas

Réplicas fixas removem a elasticidade que absorve o pico, de modo que a latência persiste e a capacidade é desperdiçada fora dos horários de pico; o escalonamento automático do Vertex AI já adiciona réplicas, e o atraso decorre da inicialização lenta da instância, que as contagens de réplicas mínimas ou máquinas maiores resolvem. É atraente porque a capacidade previsível evita o atraso de escalonamento e seria correta para uma carga constante e bem prevista.

B

Incorreta

Aumentar a configuração máxima de réplicas

Aumentar as réplicas máximas permite mais instâncias, mas não encurta a inicialização a frio de vários minutos que cada nova réplica precisa para carregar o modelo; o pré-aquecimento ou uma contagem mínima de réplicas aborda esse atraso de provisionamento. É atraente porque as réplicas máximas limitam a capacidade de estouro, o que é a alavanca certa quando o tráfego excede o limite configurado, em vez de quando a expansão em si é lenta.

C

Incorreta

Diminuir o tipo de máquina para reduzir o tempo de provisionamento

Um tipo de máquina menor ainda requer o mesmo download de imagem de contêiner e carregamento de modelo durante o provisionamento, portanto, a latência de inicialização a frio persiste; pode até piorar a taxa de transferência por réplica. Reduzir o tamanho da máquina é genuinamente útil para cortar custos em endpoints de tráfego baixo e tolerantes à latência, não para acelerar a expansão durante um pico.

D

Correta

Definir um número mínimo de réplicas mais alto para manter uma linha de base de instâncias aquecidas

O escalonamento automático adiciona instâncias de forma reativa, e o provisionamento de inicialização a frio mais o carregamento do modelo levam minutos, de modo que a latência aumenta antes que a capacidade chegue. Manter uma contagem mínima de réplicas mais alta mantém instâncias pré-aquecidas que absorvem o pico inicial, abordando diretamente a restrição de expansão lenta do enunciado.

Para se aprofundar

O escalonamento automático do Vertex AI Prediction adiciona ou remove réplicas com base na utilização, mas uma réplica recém-criada deve baixar o modelo, inicializar o ambiente de execução e passar nas verificações de integridade antes de atender ao tráfego, o que pode levar minutos para modelos grandes. Definir uma contagem mínima de réplicas maior mantém uma base de instâncias aquecidas já carregadas e prontas, para que um pico de tráfego seja absorvido imediatamente enquanto o escalonamento automático adiciona capacidade em segundo plano. Um comportamento sutil é que as réplicas máximas apenas limitam o escalonamento horizontal; elas não reduzem a latência de inicialização a frio, e tipos de máquinas menores podem não ser provisionados mais rapidamente se o modelo for grande. Em um cenário realista, um serviço de recomendação com picos matinais previsíveis define a quantidade mínima de réplicas para cobrir a carga de base, evitando o pico de latência que ocorre ao escalar a partir de zero ou de uma única réplica.

Sobre estas questões de prática

Esta é uma das questões de prática originais de PMLE da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.