Respostas corretas
- BOtimizar a arquitetura do modelo para reduzir o tamanho
- CUsar um contêiner de previsão personalizado com dependências otimizadas
Explicação
Otimizar a arquitetura do modelo para reduzir seu tamanho diminui diretamente a carga computacional durante a inferência, o que reduz a latência de previsão. Modelos menores exigem menos operações de ponto flutuante (FLOPs) por previsão, permitindo tempos de resposta mais rápidos em endpoints do Vertex AI.
Para se aprofundar
A latência de endpoints do Vertex AI é dominada pelo cálculo do modelo, inicialização do contêiner e sobrecarga de gerenciamento de solicitações. A redução do tamanho do modelo por meio de otimização de arquitetura, quantização ou poda diminui a aritmética por inferência, e um contêiner de previsão personalizado com dependências enxutas encurta o tempo de pull e importação de imagem e evita carregar bibliotecas não utilizadas. Uma sutileza é que definir o número mínimo de réplicas como zero introduz partidas a frio (cold starts), economizando custos, mas aumentando a latência de cauda, e adicionar vCPUs só ajuda se o modelo for limitado por CPU e passível de paralelização. Em um serviço de pontuação em tempo real com metas rígidas de p99, otimizar o modelo e o contêiner geralmente traz ganhos mais previsíveis do que simplesmente dimensionar o hardware, pois o gargalo costuma ser o pré-processamento serializado ou pesos superdimensionados.
Sobre estas questões de prática
Esta é uma das questões de prática originais de PDE da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.
Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.