MédiaMúltipla escolha

Questão de prática de PMLE

Uma empresa de e-commerce usa um modelo de recomendação implantado em Vertex AI Endpoints. A latência do modelo aumenta gradualmente ao longo de duas semanas, causando timeouts. O modelo é servido usando um contêiner personalizado. Qual é a causa raiz mais provável e a ação corretiva?

Escolha a melhor resposta.

Resposta correta

  • BO contêiner personalizado possui um vazamento de memória; implemente monitoramento de memória e defina limites de recursos do contêiner.

Explicação

Um aumento gradual na latência ao longo de duas semanas, sem um pico repentino, indica fortemente um vazamento de memória no contêiner personalizado. À medida que o vazamento se acumula, a coleta de lixo do contêiner torna-se menos eficaz, levando a pausas de coleta de lixo (GC) aumentadas e eventuais timeouts. Definir limites de recursos e monitorar o uso de memória pode impedir que o contêiner esgote a memória do host e cause degradação de desempenho.

Por que cada alternativa está certa ou errada

A

Incorreta

O modelo está recebendo mais tráfego; escale o número de réplicas.

O aumento do tráfego elevaria a latência imediata e proporcionalmente, não gradualmente ao longo de duas semanas com um modelo fixo. O dimensionamento de réplicas aborda picos repentinos de carga; a degradação gradual em um contêiner personalizado aponta, em vez disso, para vazamentos de memória ou esgotamento de recursos que exigem diagnóstico em nível de contêiner.

B

Correta

O contêiner personalizado possui um vazamento de memória; implemente monitoramento de memória e defina limites de recursos do contêiner.

Um vazamento de memória no contêiner personalizado causa esgotamento gradual de recursos, elevando constantemente a latência até que ocorram timeouts. O monitoramento do uso de memória e a aplicação de limites de recursos do contêiner detectam o vazamento e evitam que ele degrade o endpoint, abordando diretamente a linha de base de latência de duas semanas descrita.

C

Incorreta

O endpoint do Vertex AI alterou sua URL; atualize o aplicativo cliente.

As URLs de endpoints permanecem estáveis durante toda a vida útil do endpoint, e uma alteração de URL causaria falhas imediatas de conexão, não um aumento gradual de latência. A atualização da configuração do cliente é correta após a reimplementação ou migração do endpoint, quando as solicitações falham totalmente em vez de desacelerar progressivamente.

D

Incorreta

O tamanho do arquivo do modelo cresceu devido à engenharia de features; reduza a contagem de features.

O artefato de um modelo implantado é fixo no momento da implantação; a engenharia de features ocorre antes do treinamento, portanto, o tamanho do arquivo não pode crescer durante a entrega. Isso descreve o retreinamento com um conjunto de features maior, a preocupação correta quando a precisão do modelo, e não a latência, foi degradada.

Para se aprofundar

Um contêiner personalizado em um Vertex AI Endpoint é executado dentro de uma VM gerenciada; se o processo de atendimento vazar memória, o conjunto residente do contêiner cresce até que o host comece a fazer paginação (swapping) ou o tempo de execução o limite, e a latência por solicitação se arrasta para cima ao longo de dias, em vez de disparar repentinamente. O Vertex AI expõe métricas de memória de contêiner por meio do Cloud Monitoring, e a configuração de um limite de memória de contêiner mais uma sonda de vivacidade (liveness probe) permite que a plataforma reinicie a réplica antes que ocorram timeouts. Isso difere da latência orientada por tráfego, que se correlacionaria com a taxa de solicitações e seria corrigida pelo dimensionamento automático (autoscaling) da contagem de réplicas. O cenário realista é um servidor de inferência Python que armazena tensores em cache por solicitação sem remoção, degradando constantemente até que os clientes atinjam erros de limite de tempo excedido (deadline-exceeded).

Sobre estas questões de prática

Esta é uma das questões de prática originais de PMLE da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.