MédiaMúltipla escolha

Questão de prática de PDE

Uma equipe de aprendizado de máquina deseja implantar uma nova versão de modelo para testes canary, onde apenas 5% do tráfego é roteado para a nova versão. Qual configuração de endpoint do Vertex AI suporta isso?

Escolha a melhor resposta.

Resposta correta

  • CConfigurar o endpoint com divisão de tráfego: 95% para a versão antiga, 5% para a nova versão.

Explicação

Os endpoints do Vertex AI suportam nativamente a divisão de tráfego (traffic splitting), permitindo rotear uma porcentagem especificada de solicitações para diferentes versões de modelos implantadas no mesmo endpoint. Ao configurar uma divisão de tráfego de 95% para a versão antiga e 5% para a nova, você pode realizar testes canary sem infraestrutura adicional ou lógica do lado do cliente. Esta é a abordagem correta e mais simples dentro do Vertex AI.

Por que cada alternativa está certa ou errada

A

Incorreta

Fazer com que o aplicativo cliente selecione aleatoriamente qual modelo chamar com 5% de probabilidade.

A seleção aleatória do lado do cliente desloca a decisão de roteamento para cada instância do aplicativo, de modo que o Vertex AI não recebe nenhuma configuração de divisão de tráfego e não pode relatar métricas por modelo nem alterar ponderações sem reimplantar os clientes. É necessária a divisão de tráfego no lado do servidor no endpoint; a randomização do cliente é adequada para casos sem um endpoint gerenciado.

B

Incorreta

Implantar a nova versão em um endpoint separado e direcionar 5% dos usuários por meio de um balanceador de carga.

Um endpoint separado com divisão por balanceador de carga externo ignora a divisão de tráfego nativa do Vertex AI, que é configurada em um único endpoint por meio de porcentagens de tráfego do modelo implantado. É tentador porque os balanceadores de carga distribuem tráfego, e estaria correto se os modelos estivessem totalmente fora dos endpoints do Vertex AI.

C

Correta

Configurar o endpoint com divisão de tráfego: 95% para a versão antiga, 5% para a nova versão.

Os endpoints do Vertex AI suportam a divisão de tráfego atribuindo pesos percentuais às versões de modelos implantadas. Definir 95% para a versão existente e 5% para a nova roteia exatamente a fatia canary necessária, permitindo a validação gradual antes do lançamento completo.

D

Incorreta

Usar um framework de teste A/B fora do Vertex AI para comparar os resultados.

Um framework de A/B externo divide o tráfego na camada de aplicativo, ignorando o endpoint do Vertex AI, de modo que a divisão de 5% não pode ser aplicada no lado do servidor e as métricas não são capturadas por modelo implantado. Ele se adapta à comparação de experimentos off-line, e não ao roteamento canary ativo, onde o próprio endpoint deve dividir o tráfego.

Para se aprofundar

Os endpoints do Vertex AI suportam a implantação de vários recursos Model em um único endpoint, cada um com seu próprio ID de modelo implantado, e a divisão de tráfego é configurada especificando um mapa trafficSplit de ID de modelo para porcentagem, que deve somar 100. Isso permite enviar 95% para o modelo estável e 5% para o canary sem alterações no cliente, sendo possível alterar as porcentagens gradualmente ou reverter instantaneamente atualizando a divisão. Uma sutileza: a divisão é aplicada por solicitação de predição no endpoint, e o registro ou monitoramento de predições pode ser habilitado por modelo implantado para comparar latência e taxas de erro. A seleção aleatória pelo lado do cliente ou um balanceador de carga externo adiciona complexidade e ignora as métricas integradas do Vertex AI, portanto, a divisão de tráfego nativa é preferida para testes canary.

Sobre estas questões de prática

Esta é uma das questões de prática originais de PDE da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.