MoyenneChoix unique

Question d'entraînement MLA-C01

Une entreprise exécute un travail d'inférence par lots sur 10 TB de données d'image stockées dans S3. Chaque image doit être traitée par un modèle accéléré par GPU. Le travail n'est pas sensible au temps et le coût est la préoccupation principale. Quelle option SageMaker est LA PLUS appropriée ?

Choisissez la meilleure réponse.

Bonne réponse

  • BSageMaker Batch Transform avec instance GPU et instances spot

Explication

Batch Transform avec des instances GPU spot est le choix le plus économique pour un travail d'inférence par lots à grande échelle et non sensible au temps sur 10 TB de données. Les instances spot offrent jusqu'à 90 % d'économies par rapport au mode à la demande, et Batch Transform gère nativement la division de l'ensemble de données, la distribution du travail entre les instances et l'écriture des résultats dans S3 sans nécessiter de point de terminaison persistant.

Pourquoi chaque option est juste ou fausse

A

Fausse

SageMaker Serverless Inference

Serverless Inference ne prend pas en charge les GPU et limite la mémoire ainsi que la taille de la charge utile, de sorte qu'il ne peut pas exécuter du tout un modèle accéléré par GPU. Il convient à l'inférence intermittente et de petite taille basée sur le CPU avec un trafic imprévisible, et non à une charge de travail par lots GPU de 10 TB.

B

Juste

SageMaker Batch Transform avec instance GPU et instances spot

Batch Transform exécute l'inférence sur des données S3 sans point de terminaison persistant, et l'association d'instances GPU avec la capacité spot réduit considérablement les coûts pour un travail non sensible au temps. Cela répond à la contrainte principale de coût, puisque l'entraînement spot géré s'applique aux travaux d'entraînement et non à l'inférence par lots.

C

Fausse

SageMaker Async Inference avec GPU

Async Inference met en file d'attente les requêtes individuelles et renvoie les résultats via S3, conçu pour les charges utiles importantes avec des besoins de latence quasi temps réel. Pour un travail par lots de 10 TB, la mise en file d'attente par requête ajoute de la surcharge ; Batch Transform traite l'ensemble du dataset en un seul travail géré, ce qui correspond à l'ajustement prévu.

D

Fausse

Point de terminaison en temps réel SageMaker sur des instances GPU

Les points de terminaison en temps réel maintiennent les instances GPU en cours d'exécution en continu pour servir des requêtes à faible latence, facturant la capacité inactive sur un travail de 10 TB. C'est le bon choix pour des prédictions interactives à latence en millisecondes, tandis que cette charge de travail par lots non sensible au temps devrait utiliser un travail qui ne provisionne des instances que pendant le traitement.

Pour aller plus loin

SageMaker Batch Transform provisionne un cluster d'instances, télécharge les objets d'entrée depuis S3, exécute l'inférence, écrit les résultats, puis supprime le cluster. L'association d'instances GPU avec des instances spot réduit le coût jusqu'à 90 pour cent par rapport au mode à la demande, et Batch Transform prend en charge nativement la reprise sur incident et les nouvelles tentatives automatiques en cas d'interruptions spot. Comme le travail n'est pas sensible à la latence, il n'y a pas besoin de point de terminaison persistant. Serverless Inference limite la mémoire et les démarrages à froid, ce qui ne convient pas aux modèles GPU. Async Inference cible les charges utiles importantes avec des SLA quasi temps réel, et les points de terminaison en temps réel facturent en continu même lorsqu'ils sont inactifs. Une limite subtile : Batch Transform divise l'entrée par la taille maximale de la charge utile, de sorte que 10 TB d'images doivent être fragmentés en fichiers de manifestes pour être parallélisés entre les instances.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement MLA-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.