FácilOpción múltiple

Pregunta de práctica de PDE

Un científico de datos quiere probar una nueva versión de un modelo en un pequeño porcentaje de tráfico antes del lanzamiento completo. ¿Qué característica de Vertex AI permite esto?

Elige la mejor respuesta.

Respuesta correcta

  • BEndpoint traffic splitting

Explicación

La división de tráfico en endpoints (Endpoint traffic splitting) de Vertex AI le permite enrutar un porcentaje especificado de solicitudes de inferencia a diferentes versiones de modelos implementadas en el mismo endpoint. Esto permite un despliegue gradual dirigiendo una pequeña fracción del tráfico (por ejemplo, 5 %) al nuevo modelo mientras el resto va a la versión actual, sin necesidad de endpoints separados o lógica de enrutamiento manual.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

A/B testing

Las pruebas A/B dividen el tráfico entre versiones de modelos para medir el rendimiento, pero no limitan por sí mismas el despliegue a un pequeño porcentaje antes del despliegue completo; eso es la división de tráfico en un endpoint de Vertex AI. Es tentador porque las pruebas A/B se utilizan genuinamente para experimentos controlados de comparación de modelos.

B

Correcta

Endpoint traffic splitting

La división de tráfico en endpoints le permite asignar ponderaciones porcentuales a múltiples versiones de modelos desplegados detrás de un endpoint, enrutando una pequeña parte de las solicitudes a la nueva versión. Esto satisface directamente la restricción de despliegue gradual antes de promoverlo a todo el tráfico.

C

Incorrecta

Model monitoring

El monitoreo de modelos detecta sesgos, derivas y calidad de predicción en modelos desplegados; no enruta un porcentaje de solicitudes a una nueva versión. La división de tráfico en un endpoint realiza esa exposición gradual. El monitoreo es tentador porque también admite un despliegue seguro, pero observa después del despliegue en lugar de controlar la distribución de solicitudes.

D

Incorrecta

Model versioning with canary deployments

El versionado de modelos de Vertex AI rastrea artefactos y metadatos; no divide el tráfico en vivo entre versiones. El enrutamiento canary se realiza a través de la configuración de división de tráfico en un endpoint, no en el registro de versiones en sí. El versionado es tentador porque gestiona la reversión (rollback) y el linaje, lo cual es una preocupación diferente de la exposición gradual.

Para profundizar

Los endpoints de Vertex AI admiten la división de tráfico asignando ponderaciones porcentuales a múltiples entradas DeployedModel detrás de un único recurso de endpoint. Usted implementa la nueva versión del modelo junto con la existente y desvía, digamos, el 5 por ciento de las solicitudes de predicción hacia ella, y luego ajusta las ponderaciones o promueve al 100 por ciento una vez que las métricas se ven saludables. La división ocurre en la capa de endpoints, por lo que los llamadores continúan usando la misma URL y credenciales. Esto difiere del versionado de modelos, que rastrea artefactos en el Model Registry, y del monitoreo, que detecta sesgos y derivas. Esto es importante para las publicaciones canary y las comparaciones A/B en las que desea tráfico de producción real en un modelo candidato sin una pila de servicio separada.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de PDE de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.