Resposta correta
- BO contêiner personalizado possui um vazamento de memória; implemente monitoramento de memória e defina limites de recursos do contêiner.
Explicação
Um aumento gradual na latência ao longo de duas semanas, sem um pico repentino, indica fortemente um vazamento de memória no contêiner personalizado. À medida que o vazamento se acumula, a coleta de lixo do contêiner torna-se menos eficaz, levando a pausas de coleta de lixo (GC) aumentadas e eventuais timeouts. Definir limites de recursos e monitorar o uso de memória pode impedir que o contêiner esgote a memória do host e cause degradação de desempenho.
Para se aprofundar
Um contêiner personalizado em um Vertex AI Endpoint é executado dentro de uma VM gerenciada; se o processo de atendimento vazar memória, o conjunto residente do contêiner cresce até que o host comece a fazer paginação (swapping) ou o tempo de execução o limite, e a latência por solicitação se arrasta para cima ao longo de dias, em vez de disparar repentinamente. O Vertex AI expõe métricas de memória de contêiner por meio do Cloud Monitoring, e a configuração de um limite de memória de contêiner mais uma sonda de vivacidade (liveness probe) permite que a plataforma reinicie a réplica antes que ocorram timeouts. Isso difere da latência orientada por tráfego, que se correlacionaria com a taxa de solicitações e seria corrigida pelo dimensionamento automático (autoscaling) da contagem de réplicas. O cenário realista é um servidor de inferência Python que armazena tensores em cache por solicitação sem remoção, degradando constantemente até que os clientes atinjam erros de limite de tempo excedido (deadline-exceeded).
Sobre estas questões de prática
Esta é uma das questões de prática originais de PMLE da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.