Respuesta correcta
- BSageMaker real-time endpoint en ml.g4dn.xlarge
Explicación
Los endpoints en tiempo real de SageMaker proporcionan instancias dedicadas y persistentes que pueden manejar inferencia sincrónica con una latencia inferior a 100ms. La instancia ml.g4dn.xlarge incluye una sola GPU NVIDIA T4, lo que es suficiente para el tamaño del modelo y ofrece el costo más bajo entre las instancias de GPU que cumplen con el requisito de latencia. Esta opción equilibra el rendimiento y el costo para la inferencia en tiempo real de baja latencia.
Para profundizar
Un endpoint en tiempo real de SageMaker mantiene el modelo cargado en la instancia y responde a las llamadas HTTPS InvokeEndpoint de forma sincrónica, por lo que el tiempo de respuesta está dominado por la inferencia en lugar de los arranques en frío. Una instancia ml.g4dn.xlarge proporciona una GPU NVIDIA T4 con 16 GB de memoria, suficiente para un modelo de PyTorch de una sola GPU, y se factura por instancia-hora, lo que es más económico que las instancias multi-GPU o más grandes para esta carga de trabajo. Batch Transform es asincrónico y no es adecuado para llamadas interactivas de menos de 100ms, Async Inference pone las solicitudes en cola y puede añadir segundos, y Serverless Inference tiene latencia de arranque en frío y límites de memoria que pueden no ajustarse a un modelo de GPU. Esto importa para una API de puntuación de fraude donde cada milisegundo de latencia de cola afecta la experiencia del usuario.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de MLA-C01 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.