MoyenneChoix unique

Question d'entraînement PMLE

Une entreprise déploie un modèle sur Vertex AI Prediction avec la mise à l'échelle automatique activée. Elle constate que lors d'un pic de trafic, les nouvelles instances prennent plusieurs minutes pour devenir disponibles, provoquant une latence élevée. Quelle est la meilleure solution ?

Choisissez la meilleure réponse.

Bonne réponse

  • DDéfinir un nombre minimal de réplicas plus élevé pour maintenir une base d'instances chaudes

Explication

Définir un nombre minimal de réplicas plus élevé garantit qu'un nombre de base d'instances est toujours chaud et prêt à traiter le trafic. Lors d'un pic de trafic, les nouvelles instances prennent toujours du temps à s'approvisionner (démarrage à froid, ou cold start), mais les instances chaudes gèrent la surcharge initiale sans pics de latence. Cela résout directement la latence élevée observée lors des pics.

Pourquoi chaque option est juste ou fausse

A

Fausse

Désactiver la mise à l'échelle automatique et utiliser un nombre fixe de réplicas

Les réplicas fixes suppriment l'élasticité qui absorbe le pic, de sorte que la latence persiste et que la capacité est gaspillée hors pic ; la mise à l'échelle automatique de Vertex AI ajoute déjà des réplicas, et le délai provient du démarrage lent des instances, que les comptes de réplicas minimales ou les machines plus grandes résolvent. C'est tentant car une capacité prévisible évite le retard de mise à l'échelle, et ce serait correct pour une charge stable et bien anticipée.

B

Fausse

Augmenter le paramètre des réplicas maximales

Augmenter les réplicas maximales permet plus d'instances mais ne raccourcit pas le démarrage à froid de plusieurs minutes dont chaque nouvelle réplica a besoin pour charger le modèle ; un préchauffage ou un nombre minimal de réplicas résout ce délai d'approvisionnement. C'est tentant car les réplicas maximales plafonnent la capacité de rafale, ce qui est le bon levier lorsque le trafic dépasse le plafond configuré plutôt que lorsque la mise à l'échelle elle-même est lente.

C

Fausse

Diminuer le type de machine pour réduire le temps d'approvisionnement

Un type de machine plus petit nécessite toujours le même téléchargement d'image de conteneur et le même chargement de modèle lors de l'approvisionnement, de sorte que la latence de démarrage à froid persiste ; cela peut même aggraver le débit par réplica. Réduire la taille de la machine est réellement utile pour réduire les coûts sur les points de terminaison à faible trafic et tolérants à la latence, et non pour accélérer la mise à l'échelle lors d'un pic.

D

Juste

Définir un nombre minimal de réplicas plus élevé pour maintenir une base d'instances chaudes

La mise à l'échelle automatique ajoute des instances de manière réactive, et l'approvisionnement par démarrage à froid ainsi que le chargement du modèle prennent des minutes, de sorte que la latence augmente avant que la capacité n'arrive. Maintenir un nombre minimal de réplicas plus élevé conserve des instances préchauffées qui absorbent la rafale initiale, répondant directement à la contrainte de mise à l'échelle lente de l'énoncé.

Pour aller plus loin

La mise à l'échelle automatique de Vertex AI Prediction ajoute ou supprime des réplicas en fonction de l'utilisation, mais une réplica nouvellement créée doit récupérer le modèle, initialiser le runtime et réussir les bilans de santé avant de traiter le trafic, ce qui peut prendre plusieurs minutes pour de grands modèles. Définir un nombre minimal de réplicas plus élevé maintient une base d'instances chaudes déjà chargées et prêtes, de sorte qu'un pic de trafic est absorbé immédiatement tandis que la mise à l'échelle automatique ajoute de la capacité en arrière-plan. Un comportement subtil est que les réplicas maximales ne font que plafonner l'expansion ; elles ne réduisent pas la latence de démarrage à froid, et les types de machines plus petits peuvent ne pas s'approvisionner plus rapidement si le modèle est grand. Dans un scénario réaliste, un service de recommandation avec des pics matinaux prévisibles définit des réplicas minimales pour couvrir la charge de base, évitant le pic de latence qui se produit lors d'une mise à l'échelle à partir de zéro ou d'une seule réplica.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement PMLE originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.