Respuesta correcta
- AHabilite el autoescalado con las réplicas mínimas establecidas en la carga base y las réplicas máximas para manejar la carga pico, y asegúrese de que la cuota de GPU sea suficiente.
Explicación
Habilitar el autoescalado con réplicas mínimas y máximas apropiadas permite que el endpoint escale dinámicamente durante el tráfico pico y se reduzca durante el tráfico bajo, garantizando suficientes recursos de GPU para manejar la carga sin intervención manual. Garantizar una cuota de GPU adecuada también es fundamental para evitar el agotamiento de recursos. La opción B es incorrecta porque cambiar a un tipo de máquina más grande con más vCPUs no aborda la latencia de inferencia vinculada a la GPU; el cuello de botella es la aceleración de la GPU, no la CPU. La opción C es incorrecta porque aumentar estáticamente las réplicas genera sobreaprovisionamiento y desperdicio durante las horas de menor actividad, y no puede reaccionar rápidamente a los picos repentinos de tráfico. La opción D es incorrecta porque Cloud Functions son sin servidor (serverless) y no admiten aceleración por GPU; agregan latencia adicional y no son adecuadas para la inferencia de GPU en tiempo real.
Para profundizar
El autoescalado de Vertex AI Prediction ajusta el recuento de réplicas en función de señales de utilización como el uso de CPU/GPU y la concurrencia de solicitudes, pero el escalado está limitado por los valores minReplicaCount y maxReplicaCount del modelo implementado y por la cuota de GPU regional. Cuando un modelo respaldado por GPU se satura, cada réplica pone en cola las solicitudes, por lo que la latencia aumenta hasta que se dispara el tiempo de espera del cliente; agregar réplicas distribuye la carga concurrente. Un límite sutil: el aumento de escala no es instantáneo y las máquinas virtuales de GPU pueden tardar minutos en aprovisionarse, por lo que las réplicas mínimas deben cubrir el tráfico de referencia para absorber picos repentinos. Además, si se agota la cuota de GPU, las nuevas réplicas fallan silenciosamente al programarse, lo que deja la latencia alta. En la práctica, un endpoint de pronóstico minorista que ve ráfagas a la hora del almuerzo establece réplicas mínimas para carga constante y réplicas máximas para picos, después de solicitar suficiente cuota de GPU NVIDIA en la región.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de PMLE de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.