Bonne réponse
- BSageMaker Batch Transform avec instance GPU et instances spot
Explication
Batch Transform avec des instances GPU spot est le choix le plus économique pour un travail d'inférence par lots à grande échelle et non sensible au temps sur 10 TB de données. Les instances spot offrent jusqu'à 90 % d'économies par rapport au mode à la demande, et Batch Transform gère nativement la division de l'ensemble de données, la distribution du travail entre les instances et l'écriture des résultats dans S3 sans nécessiter de point de terminaison persistant.
Pour aller plus loin
SageMaker Batch Transform provisionne un cluster d'instances, télécharge les objets d'entrée depuis S3, exécute l'inférence, écrit les résultats, puis supprime le cluster. L'association d'instances GPU avec des instances spot réduit le coût jusqu'à 90 pour cent par rapport au mode à la demande, et Batch Transform prend en charge nativement la reprise sur incident et les nouvelles tentatives automatiques en cas d'interruptions spot. Comme le travail n'est pas sensible à la latence, il n'y a pas besoin de point de terminaison persistant. Serverless Inference limite la mémoire et les démarrages à froid, ce qui ne convient pas aux modèles GPU. Async Inference cible les charges utiles importantes avec des SLA quasi temps réel, et les points de terminaison en temps réel facturent en continu même lorsqu'ils sont inactifs. Une limite subtile : Batch Transform divise l'entrée par la taille maximale de la charge utile, de sorte que 10 TB d'images doivent être fragmentés en fichiers de manifestes pour être parallélisés entre les instances.
À propos de ces questions d'entraînement
Cette question fait partie des questions d'entraînement MLA-C01 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.
Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.