MediaOpción múltiple

Pregunta de práctica de PMLE

Una empresa de comercio electrónico utiliza un modelo de recomendación implementado en Vertex AI Endpoints. La latencia del modelo aumenta gradualmente durante dos semanas, lo que provoca tiempos de espera (timeouts). El modelo se sirve utilizando un contenedor personalizado. ¿Cuál es la causa raíz más probable y la acción correctiva?

Elige la mejor respuesta.

Respuesta correcta

  • BEl contenedor personalizado tiene una fuga de memoria; implemente monitoreo de memoria y establezca límites de recursos para el contenedor.

Explicación

Un aumento gradual en la latencia durante dos semanas, sin un pico repentino, indica claramente una fuga de memoria en el contenedor personalizado. A medida que la fuga se acumula, la recolección de basura (garbage collection) del contenedor se vuelve menos efectiva, lo que provoca mayores pausas de GC y tiempos de espera finales. Configurar límites de recursos y monitorear el uso de memoria puede evitar que el contenedor agote la memoria del host y cause degradación del rendimiento.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

El modelo está recibiendo más tráfico; escale el número de réplicas.

Un aumento en el tráfico elevaría la latencia de forma inmediata y proporcional, no gradualmente durante dos semanas con un modelo fijo. El escalado de réplicas aborda picos repentinos de carga; la degradación gradual en un contenedor personalizado apunta en su lugar a fugas de memoria o agotamiento de recursos que requieren un diagnóstico a nivel de contenedor.

B

Correcta

El contenedor personalizado tiene una fuga de memoria; implemente monitoreo de memoria y establezca límites de recursos para el contenedor.

Una fuga de memoria en el contenedor personalizado provoca un agotamiento gradual de recursos, elevando constantemente la latencia hasta que ocurren tiempos de espera. Monitorear el uso de memoria y aplicar límites de recursos al contenedor detecta la fuga y evita que degrade el endpoint, abordando directamente el incremento de latencia de dos semanas descrito.

C

Incorrecta

El endpoint de Vertex AI ha cambiado su URL; actualice la aplicación cliente.

Las URL de los endpoints se mantienen estables durante la vida útil del endpoint, y un cambio de URL provocaría fallas inmediatas de conexión, no un aumento gradual de la latencia. Actualizar la configuración del cliente es correcto después de la reimplementación o migración de un endpoint, cuando las solicitudes fallan por completo en lugar de desacelerarse progresivamente.

D

Incorrecta

El tamaño del archivo del modelo ha crecido debido a la ingeniería de características; reduzca el recuento de características.

El artefacto de un modelo implementado es fijo en el momento de la implementación; la ingeniería de características ocurre antes del entrenamiento, por lo que el tamaño del archivo no puede crecer durante el servicio. Esto describe el reentrenamiento con un conjunto de características más grande, que es la preocupación correcta cuando la precisión del modelo, y no la latencia, se ha degradado.

Para profundizar

Un contenedor personalizado en Vertex AI Endpoint se ejecuta dentro de una máquina virtual administrada; si el proceso de servicio pierde memoria, el conjunto residente del contenedor crece hasta que el host comienza a usar memoria virtual (swapping) o el motor de ejecución lo limita, y la latencia por solicitud aumenta progresivamente durante días en lugar de tener un pico repentino. Vertex AI expone métricas de memoria del contenedor a través de Cloud Monitoring, y configurar un límite de memoria del contenedor junto con una sonda de actividad (liveness probe) permite que la plataforma reinicie la réplica antes de que ocurran tiempos de espera. Esto difiere de la latencia impulsada por el tráfico, que se correlacionaría con la tasa de solicitudes y se solucionaría mediante el reescalado automático (autoscaling) del recuento de réplicas. El escenario realista es un servidor de inferencia de Python que almacena en caché tensores por solicitud sin desalojo, degradándose constantemente hasta que los clientes alcanzan errores de límite de tiempo excedido.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de PMLE de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.