Respuesta correcta
- CConfigurar el endpoint con división de tráfico: 95% para la versión antigua, 5% para la versión nueva.
Explicación
Los endpoints de Vertex AI admiten de forma nativa la división de tráfico, lo que le permite enrutar un porcentaje especificado de solicitudes a diferentes versiones de modelos implementadas en el mismo endpoint. Al configurar una división de tráfico del 95% para la versión anterior y del 5% para la nueva versión, puede realizar pruebas de canary sin infraestructura adicional ni lógica del lado del cliente. Este es el enfoque correcto y más sencillo dentro de Vertex AI.
Para profundizar
Los endpoints de Vertex AI admiten la implementación de múltiples recursos de Model en un solo endpoint, cada uno con su propio ID de modelo implementado, y la división de tráfico se configura especificando un mapa trafficSplit que relaciona el ID del modelo con un porcentaje que debe sumar 100. Esto le permite enviar el 95% al modelo estable y el 5% al modelo de canary sin realizar cambios en el cliente, y puede cambiar los porcentajes gradualmente o revertir los cambios de inmediato actualizando la división. Un detalle sutil: la división se aplica por solicitud de predicción en el endpoint, y el registro o monitoreo de predicciones se puede habilitar por cada modelo implementado para comparar la latencia y las tasas de error. La selección aleatoria del lado del cliente o un balanceador de carga externo agregan complejidad y omiten las métricas integradas de Vertex AI, por lo que se prefiere la división de tráfico nativa para las pruebas de canary.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de PDE de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.