Bonne réponse
- DDéfinir un nombre minimal de réplicas plus élevé pour maintenir une base d'instances chaudes
Explication
Définir un nombre minimal de réplicas plus élevé garantit qu'un nombre de base d'instances est toujours chaud et prêt à traiter le trafic. Lors d'un pic de trafic, les nouvelles instances prennent toujours du temps à s'approvisionner (démarrage à froid, ou cold start), mais les instances chaudes gèrent la surcharge initiale sans pics de latence. Cela résout directement la latence élevée observée lors des pics.
Pour aller plus loin
La mise à l'échelle automatique de Vertex AI Prediction ajoute ou supprime des réplicas en fonction de l'utilisation, mais une réplica nouvellement créée doit récupérer le modèle, initialiser le runtime et réussir les bilans de santé avant de traiter le trafic, ce qui peut prendre plusieurs minutes pour de grands modèles. Définir un nombre minimal de réplicas plus élevé maintient une base d'instances chaudes déjà chargées et prêtes, de sorte qu'un pic de trafic est absorbé immédiatement tandis que la mise à l'échelle automatique ajoute de la capacité en arrière-plan. Un comportement subtil est que les réplicas maximales ne font que plafonner l'expansion ; elles ne réduisent pas la latence de démarrage à froid, et les types de machines plus petits peuvent ne pas s'approvisionner plus rapidement si le modèle est grand. Dans un scénario réaliste, un service de recommandation avec des pics matinaux prévisibles définit des réplicas minimales pour couvrir la charge de base, évitant le pic de latence qui se produit lors d'une mise à l'échelle à partir de zéro ou d'une seule réplica.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement PMLE originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.