Respuesta correcta
- BEndpoint traffic splitting
Explicación
La división de tráfico en endpoints (Endpoint traffic splitting) de Vertex AI le permite enrutar un porcentaje especificado de solicitudes de inferencia a diferentes versiones de modelos implementadas en el mismo endpoint. Esto permite un despliegue gradual dirigiendo una pequeña fracción del tráfico (por ejemplo, 5 %) al nuevo modelo mientras el resto va a la versión actual, sin necesidad de endpoints separados o lógica de enrutamiento manual.
Para profundizar
Los endpoints de Vertex AI admiten la división de tráfico asignando ponderaciones porcentuales a múltiples entradas DeployedModel detrás de un único recurso de endpoint. Usted implementa la nueva versión del modelo junto con la existente y desvía, digamos, el 5 por ciento de las solicitudes de predicción hacia ella, y luego ajusta las ponderaciones o promueve al 100 por ciento una vez que las métricas se ven saludables. La división ocurre en la capa de endpoints, por lo que los llamadores continúan usando la misma URL y credenciales. Esto difiere del versionado de modelos, que rastrea artefactos en el Model Registry, y del monitoreo, que detecta sesgos y derivas. Esto es importante para las publicaciones canary y las comparaciones A/B en las que desea tráfico de producción real en un modelo candidato sin una pila de servicio separada.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de PDE de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.