FacileChoix unique

Question d'entraînement MLA-C01

Une entreprise dispose d'un modèle de machine learning entraîné qui doit être déployé en tant que point de terminaison d'inférence en temps réel sur Amazon SageMaker. Le point de terminaison doit s'adapter automatiquement en fonction du trafic entrant. Quelle fonctionnalité de SageMaker doit être utilisée ?

Choisissez la meilleure réponse.

Bonne réponse

  • ASageMaker Endpoint Auto Scaling

Explication

SageMaker Endpoint Auto Scaling ajuste automatiquement le nombre d'instances desservant un point de terminaison d'inférence en temps réel en fonction de la charge du trafic entrant. Il utilise des stratégies Application Auto Scaling, qui surveillent les métriques CloudWatch (par exemple, InvocationsPerInstance) pour effectuer un scale-in ou un scale-out, garantissant ainsi une faible latence et une efficacité des coûts sans intervention manuelle.

Pourquoi chaque option est juste ou fausse

A

Juste

SageMaker Endpoint Auto Scaling

SageMaker Endpoint Auto Scaling ajuste dynamiquement le nombre d'instances derrière un point de terminaison en temps réel à l'aide de stratégies de suivi de cible ou de mise à l'échelle par étapes, pilotées par des métriques telles que InvocationsPerInstance. Cela répond directement à l'exigence de l'énoncé de s'adapter automatiquement au trafic entrant, contrairement à batch transform ou à l'inférence asynchrone, qui ne peuvent pas traiter de requêtes continues en temps réel.

B

Fausse

SageMaker Elastic Inference

Elastic Inference attache une accélération GPU fractionnaire à des instances existantes ; il modifie le matériel de calcul, pas le nombre d'instances. Il convient à la réduction des coûts pour l'inférence hébergée sur CPU, mais la mise à l'échelle sur le trafic entrant nécessite une stratégie Application Auto Scaling ciblant la variante de point de terminaison, ce qu'Elastic Inference ne peut pas fournir.

C

Fausse

SageMaker Batch Transform

Batch Transform traite des ensembles de données entiers de manière asynchrone en une seule tâche, et non comme un point de terminaison persistant pouvant s'adapter en temps réel à un trafic fluctuant. Il est tentant car il gère l'inférence à grande échelle efficacement lorsque la latence n'est pas critique, et serait correct pour des prédictions hors ligne sur un ensemble de données statique où un point de terminaison en temps réel est inutile.

D

Fausse

SageMaker Model Monitor

Model Monitor détecte la dérive des données et les violations de qualité sur les points de terminaison déployés ; il ne provisionne pas de capacité et n'ajuste pas le nombre d'instances. Ce serait le bon choix pour la détection continue des biais et des dérives, mais la mise à l'échelle automatique basée sur le trafic nécessite la configuration d'une stratégie de mise à l'échelle automatique sur la variante de production du point de terminaison.

Pour aller plus loin

SageMaker Endpoint Auto Scaling utilise Application Auto Scaling pour ajuster le nombre d'instances derrière un point de terminaison en temps réel en fonction des métriques CloudWatch. Vous enregistrez le point de terminaison en tant que cible scalable, puis vous associez une stratégie de mise à l'échelle, le plus souvent TargetTrackingScaling sur la métrique SageMakerVariantInvocationsPerInstance avec une valeur cible, ainsi que des périodes de refroidissement optionnelles. Une subtilité à connaître : le scale-in est délibérément conservateur car la suppression de capacité alors que des requêtes sont en cours peut provoquer des erreurs 5xx, il utilise donc des périodes de refroidissement plus longues que le scale-out. De plus, chaque variante de production s'adapte indépendamment et vous devez définir MinCapacity et MaxCapacity pour limiter les coûts. Cela est important pour un modèle gérant un trafic irrégulier, où un nombre fixe d'instances gaspille de l'argent au repos ou rejette des requêtes lors d'un pic.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement MLA-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.