MediaOpción múltiple

Pregunta de práctica de Databricks-ML-Pro

Un ingeniero de aprendizaje automático necesita implementar un modelo personalizado de scikit-learn en un endpoint de Databricks Model Serving con un SLA de tiempo de respuesta estricto de menos de 50 milisegundos. El modelo incluye una extensa canalización de limpieza de texto que utiliza una coincidencia intensiva de expresiones regulares. ¿Cómo debe empaquetar el ingeniero el modelo para garantizar la máxima eficiencia de inferencia y cumplir con el requisito de baja latencia?

Elige la mejor respuesta.

Respuesta correcta

  • CImplemente un modelo personalizado MLflow PyFunc donde tanto el preprocesamiento de texto como el predictor de scikit-learn estén encapsulados dentro del método predict.

Explicación

Integrar el preprocesamiento directamente en el contenedor MLflow PyFunc garantiza que la transformación de entrada se ejecute dentro del espacio de memoria optimizado del contenedor de inferencia, evitando llamadas de red fuera de banda y reduciendo la sobrecarga de serialización. Este patrón arquitectónico previene los cuellos de botella de latencia introducidos a menudo por microservicios de preprocesamiento separados, cumpliendo con los estrictos SLA de producción.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

Almacene la lógica de preprocesamiento en una Delta table y haga que el endpoint de servicio consulte la tabla de forma asíncrona durante la solicitud de puntuación.

Leer la lógica de preprocesamiento desde una Delta table durante cada solicitud de puntuación añade un viaje de ida y vuelta a la red y acceso al almacenamiento a cada predicción, y hace que el modelo dependa de que un sistema externo esté disponible y sea rápido. Eso hace que un SLA de 50 milisegundos sea muy difícil de cumplir de forma fiable. Los endpoints en tiempo real funcionan mejor cuando todo lo necesario para puntuar una solicitud se empaqueta dentro del artefacto del modelo, cargándose en la memoria una sola vez cuando se inicia el endpoint.

B

Incorrecta

Desarrolle una función separada de Azure o AWS Lambda para manejar la limpieza de texto antes de reenviar la carga útil de la solicitud al endpoint del modelo.

Una función Lambda o en la nube separada frente al endpoint añade otro salto de red, serialización adicional y posibles arranques en frío a cada solicitud, consumiendo un presupuesto de 50 milisegundos. También divide un modelo lógico en dos implementaciones que deben ser versionadas, aseguradas y monitoreadas juntas, por lo que el preprocesamiento y el modelo pueden desincronizarse. Mantener la limpieza y la predicción en un único artefacto servido evita tanto la latencia como el riesgo de consistencia.

C

Correcta

Implemente un modelo personalizado MLflow PyFunc donde tanto el preprocesamiento de texto como el predictor de scikit-learn estén encapsulados dentro del método predict.

Un modelo personalizado de MLflow PyFunc envuelve la limpieza con expresiones regulares y el predictor de scikit-learn en un único método predict, de modo que el texto sin procesar entra y una predicción sale dentro de un solo proceso. Los objetos pesados, como las expresiones regulares compiladas y el modelo cargado, se pueden crear una vez en load_context en lugar de por cada solicitud. La misma lógica se ejecuta en el entrenamiento, las pruebas y el servicio, previniendo la divergencia, y Model Serving lo despliega como un único artefacto versionado.

D

Incorrecta

Implemente el modelo de scikit-learn de forma nativa sin código de contenedor personalizado y requiera que las aplicaciones cliente ejecuten la lógica de limpieza con expresiones regulares localmente.

Enviar la limpieza con expresiones regulares a cada cliente significa que cada aplicación llamante debe implementar una lógica idéntica, y cualquier diferencia produce una divergencia entre entrenamiento y servicio y predicciones erróneas silenciosas. El endpoint en sí ya no aceptaría texto sin procesar, y cambiar la limpieza requeriría actualizaciones coordinadas en todos los clientes. Puede parecer más rápido porque el servidor hace menos trabajo, pero empaquetar el preprocesamiento con el modelo es la forma fiable de mantener tanto la latencia como la precisión bajo control.

Para profundizar

Un endpoint de Databricks Model Serving ejecuta el modelo dentro de un contenedor y devuelve lo que devuelva la función predict del modelo, por lo que el diseño más rápido mantiene cada paso de la inferencia en ese único proceso. Un modelo personalizado de MLflow PyFunc hace esto posible: se crea una subclase de mlflow.pyfunc.PythonModel, se carga el estimador de scikit-learn y cualquier otro artefacto en load_context, y en predict se aplica la limpieza del texto y luego se llama al estimador. Empaquetado de esta manera, el preprocesamiento y la predicción se despliegan como un único artefacto versionado con dependencias fijas, por lo que las transformaciones en el momento del entrenamiento y de la inferencia no pueden divergir, lo cual es una causa común de pérdida silenciosa de precisión. Para un presupuesto de 50 milisegundos, los detalles dentro de predict también importan. Compile las expresiones regulares una vez en load_context en lugar de en cada llamada, procese las entradas como un lote cuando sea posible y evite cualquier E/S en la ruta de la solicitud. Una firma de modelo y un ejemplo de entrada ayudan al endpoint a validar las cargas útiles rápidamente. Las alternativas añaden latencia o riesgo. Consultar una Delta table durante la puntuación añade un viaje de ida y vuelta a la red y tiempo de consulta a cada solicitud, y hacerlo asíncrono no ayuda cuando el resultado es necesario para responder. Una función Lambda separada coloca un segundo salto de red, sus propios arranques en frío y un paso de serialización adicional frente al endpoint. Enviar la limpieza a los clientes distribuye la lógica entre cada consumidor, donde las versiones divergen y un preprocesamiento no coincidente degrada silenciosamente las predicciones, y aún deja los resultados del modelo dependientes de código que no controla.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de Databricks-ML-Pro de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.