MediaOpción múltiple

Pregunta de práctica de PMLE

Una empresa implementa un modelo en Vertex AI Prediction con el escalado automático habilitado. Nota que durante un pico de tráfico, las nuevas instancias tardan varios minutos en estar disponibles, lo que causa alta latencia. ¿Cuál es la mejor solución?

Elige la mejor respuesta.

Respuesta correcta

  • DEstablecer un valor de réplicas mínimas más alto para mantener una línea base de instancias calientes

Explicación

Establecer un valor de réplicas mínimas más alto garantiza que un número base de instancias esté siempre caliente y listo para atender tráfico. Durante un pico de tráfico, las nuevas instancias aún tardan tiempo en aprovisionarse (arranque en frío, o cold start), pero las instancias calientes manejan el incremento inicial sin picos de latencia. Esto aborda directamente la alta latencia observada durante los picos.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Deshabilitar el escalado automático y usar un número fijo de réplicas

Las réplicas fijas eliminan la elasticidad que absorbe el pico, por lo que la latencia persiste y se desperdicia capacidad fuera de los picos; el escalado automático de Vertex AI ya añade réplicas, y el retraso proviene del inicio lento de las instancias, que los recuentos de réplicas mínimas o las máquinas más grandes solucionan. Resulta tentador porque la capacidad predecible evita el retraso de escalado, y sería correcto para una carga constante y bien pronosticada.

B

Incorrecta

Aumentar la configuración de réplicas máximas

Elevar las réplicas máximas permite más instancias, pero no acorta el arranque en frío de varios minutos que cada nueva réplica necesita para cargar el modelo; el precalentamiento o un recuento mínimo de réplicas soluciona ese retraso de aprovisionamiento. Es tentador porque las réplicas máximas limitan la capacidad de ráfaga, lo cual es la palanca correcta cuando el tráfico supera el límite configurado en lugar de cuando el propio escalado horizontal es lento.

C

Incorrecta

Disminuir el tipo de máquina para reducir el tiempo de aprovisionamiento

Un tipo de máquina más pequeño aún requiere la misma descarga de imagen de contenedor y carga del modelo durante el aprovisionamiento, por lo que la latencia de arranque en frío persiste; incluso puede empeorar el rendimiento por réplica. Reducir el tamaño de la máquina es genuinamente útil para recortar costos en endpoints de bajo tráfico y tolerantes a la latencia, no para acelerar el escalado horizontal durante un pico.

D

Correcta

Establecer un valor de réplicas mínimas más alto para mantener una línea base de instancias calientes

El escalado automático añade instancias de forma reactiva, y el aprovisionamiento de arranque en frío más la carga del modelo toman minutos, por lo que la latencia aumenta antes de que llegue la capacidad. Mantener un recuento mínimo de réplicas más alto mantiene instancias precalentadas que absorben la ráfaga inicial, abordando directamente la limitación de escala horizontal lenta del enunciado.

Para profundizar

El escalado automático de Vertex AI Prediction añade o elimina réplicas según la utilización, pero una réplica recién creada debe descargar el modelo, inicializar el entorno de ejecución y pasar las verificaciones de estado antes de atender tráfico, lo que puede tomar minutos para modelos grandes. Establecer un recuento mínimo de réplicas más alto mantiene una base de instancias calientes ya cargadas y listas, de modo que un pico de tráfico se absorbe de inmediato mientras el escalado automático añade capacidad en segundo plano. Un comportamiento sutil es que las réplicas máximas solo limitan el escalado hacia afuera; no reducen la latencia de arranque en frío, y los tipos de máquina más pequeños pueden no aprovisionarse más rápido si el modelo es grande. En un escenario realista, un servicio de recomendación con picos matutinos predecibles establece las réplicas mínimas para cubrir la carga base, evitando el pico de latencia que ocurre al escalar desde cero o desde una sola réplica.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de PMLE de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.