MoyenneChoix unique

Question d'entraînement Databricks-ML-Pro

Un ingénieur en apprentissage automatique doit déployer un modèle scikit-learn personnalisé sur un point de terminaison Databricks Model Serving avec un SLA de temps de réponse strict inférieur à 50 millisecondes. Le modèle comprend un pipeline étendu de nettoyage de texte qui utilise une recherche intensive par expressions régulières. Comment l'ingénieur doit-il empaqueter le modèle pour garantir une efficacité d'inférence maximale et répondre à l'exigence de faible latence ?

Choisissez la meilleure réponse.

Bonne réponse

  • CImplémentez un modèle MLflow PyFunc personnalisé où le pre-processing du texte et le prédicteur scikit-learn sont encapsulés dans la méthode predict.

Explication

Intégrer le pre-processing directement dans le wrapper MLflow PyFunc garantit que la transformation des entrées s'exécute dans l'espace mémoire optimisé du conteneur d'inférence, évitant ainsi les appels réseau hors bande et réduisant la surcharge de sérialisation. Ce modèle architectural prévient les goulots d'étranglement de la latence souvent introduits par des microservices de pre-processing séparés, répondant aux SLA de production stricts.

Pourquoi chaque option est juste ou fausse

A

Fausse

Stockez la logique de pre-processing dans une Delta table et demandez au point de terminaison de service d'interroger la table de manière asynchrone lors de la requête de notation.

Lire la logique de pre-processing à partir d'une Delta table lors de chaque requête de notation ajoute un aller-retour réseau et un accès au stockage à chaque prédiction, et rend le modèle dépendant de la disponibilité et de la rapidité d'un système externe. Cela rend un SLA de 50 millisecondes très difficile à respecter de manière fiable. Les points de terminaison en temps réel fonctionnent mieux lorsque tout ce qui est nécessaire pour noter une requête est empaqueté à l'intérieur de l'artefact du modèle, chargé en mémoire une seule fois au démarrage du point de terminaison.

B

Fausse

Développez une fonction Azure ou AWS Lambda distincte pour gérer le nettoyage du texte avant de transmettre la charge utile de la requête au point de terminaison du modèle.

Une fonction Lambda ou cloud distincte en amont du point de terminaison ajoute un autre saut réseau, une sérialisation supplémentaire et d'éventuels démarrages à froid à chaque requête, grignotant un budget de 50 millisecondes. Elle divise également un modèle logique en deux déploiements qui doivent être versionnés, sécurisés et surveillés ensemble, de sorte que le pre-processing et le modèle peuvent diverger. Garder le nettoyage et la prédiction dans un seul artefact servi évite à la fois la latence et le risque de cohérence.

C

Juste

Implémentez un modèle MLflow PyFunc personnalisé où le pre-processing du texte et le prédicteur scikit-learn sont encapsulés dans la méthode predict.

Un modèle MLflow PyFunc personnalisé encapsule le nettoyage par expression régulière et le prédicteur scikit-learn dans une seule méthode predict, de sorte que le texte brut entre et qu'une prédiction sort en un seul processus. Les objets lourds, tels que les expressions régulières compilées et le modèle chargé, peuvent être créés une seule fois dans load_context plutôt que pour chaque requête. La même logique s'exécute lors de l'entraînement, des tests et du service, évitant la dérive, et Model Serving le déploie sous forme d'un artefact versionné unique.

D

Fausse

Déployez le modèle scikit-learn de manière native sans code wrapper personnalisé et exigez que les applications clientes exécutent la logique de nettoyage par expression régulière localement.

Pousser le nettoyage par expression régulière vers chaque client signifie que chaque application appelante doit implémenter une logique identique, et toute différence produit une dérive entre l'entraînement et le service ainsi que des prédictions erronées silencieuses. Le point de terminaison lui-même n'accepterait plus de texte brut, et modifier le nettoyage nécessiterait des mises à jour coordonnées sur tous les clients. Cela peut sembler plus rapide car le serveur fait moins de travail, mais empaqueter le pre-processing avec le modèle est le moyen fiable de garder à la fois la latence et la précision sous contrôle.

Pour aller plus loin

Un point de terminaison Databricks Model Serving exécute le modèle à l'intérieur d'un conteneur et renvoie ce que la fonction predict du modèle renvoie, de sorte que la conception la plus rapide maintient chaque étape de l'inférence dans ce même processus. Un modèle MLflow PyFunc personnalisé rend cela possible : vous sous-classez mlflow.pyfunc.PythonModel, chargez l'estimateur scikit-learn et tous les autres artefacts dans load_context, et dans predict vous appliquez le nettoyage du texte puis appelez l'estimateur. Emballés de cette manière, le pre-processing et la prédiction sont déployés sous la forme d'un artefact versionné unique avec des dépendances épinglées, de sorte que les transformations au moment de l'entraînement et du service ne peuvent pas diverger, ce qui est une cause fréquente de perte de précision silencieuse. Pour un budget de 50 millisecondes, les détails à l'intérieur de predict comptent également. Compilez les expressions régulières une seule fois dans load_context au lieu de à chaque appel, traitez les entrées par lot lorsque cela est possible et évitez toute E/S dans le chemin de la requête. Une signature de modèle et un exemple d'entrée aident le point de terminaison à valider rapidement les charges utiles. Les alternatives ajoutent toutes de la latence ou des risques. Interroger une Delta table pendant la notation ajoute un aller-retour réseau et un temps de requête à chaque requête, et le rendre asynchrone n'aide pas lorsque le résultat est nécessaire pour répondre. Une fonction Lambda séparée place un deuxième saut réseau, ses propres démarrages à froid et une étape de sérialisation supplémentaire devant le point de terminaison. Pousser le nettoyage vers les clients répartit la logique sur chaque consommateur, où les versions divergent et un pre-processing non concordant dégrade discrètement les prédictions, et cela laisse toujours les résultats du modèle dépendants d'un code qu'il ne contrôle pas.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement Databricks-ML-Pro originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.