FácilVárias respostas

Questão de prática de PDE

Quais DUAS ações podem ajudar a reduzir a latência de previsão para um endpoint do Vertex AI?

Escolha todas as respostas corretas.

Respostas corretas

  • BOtimizar a arquitetura do modelo para reduzir o tamanho
  • CUsar um contêiner de previsão personalizado com dependências otimizadas

Explicação

Otimizar a arquitetura do modelo para reduzir seu tamanho diminui diretamente a carga computacional durante a inferência, o que reduz a latência de previsão. Modelos menores exigem menos operações de ponto flutuante (FLOPs) por previsão, permitindo tempos de resposta mais rápidos em endpoints do Vertex AI.

Por que cada alternativa está certa ou errada

A

Incorreta

Aumentar o número de atributos (features)

Mais atributos aumentam o cálculo.

B

Correta

Otimizar a arquitetura do modelo para reduzir o tamanho

Modelos menores preveem mais rápido.

C

Correta

Usar um contêiner de previsão personalizado com dependências otimizadas

Reduz a sobrecarga.

D

Incorreta

Usar um tipo de máquina maior com mais vCPUs

Não aborda diretamente a latência; pode ajudar, mas não é a melhor opção.

E

Incorreta

Definir o número mínimo de réplicas como 0 para economizar custos

Partidas a frio aumentam a latência.

Para se aprofundar

A latência de endpoints do Vertex AI é dominada pelo cálculo do modelo, inicialização do contêiner e sobrecarga de gerenciamento de solicitações. A redução do tamanho do modelo por meio de otimização de arquitetura, quantização ou poda diminui a aritmética por inferência, e um contêiner de previsão personalizado com dependências enxutas encurta o tempo de pull e importação de imagem e evita carregar bibliotecas não utilizadas. Uma sutileza é que definir o número mínimo de réplicas como zero introduz partidas a frio (cold starts), economizando custos, mas aumentando a latência de cauda, e adicionar vCPUs só ajuda se o modelo for limitado por CPU e passível de paralelização. Em um serviço de pontuação em tempo real com metas rígidas de p99, otimizar o modelo e o contêiner geralmente traz ganhos mais previsíveis do que simplesmente dimensionar o hardware, pois o gargalo costuma ser o pré-processamento serializado ou pesos superdimensionados.

Sobre estas questões de prática

Esta é uma das questões de prática originais de PDE da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.