FacileChoix unique

Question d'entraînement PMLE

Une équipe possède un modèle TensorFlow entraîné s'exécutant localement et souhaite le déployer pour des prédictions en ligne à faible latence sur Google Cloud. Quel service doivent-ils utiliser ?

Choisissez la meilleure réponse.

Bonne réponse

  • AVertex AI Prediction

Explication

Vertex AI Prediction est le bon choix car il s'agit d'un service entièrement géré conçu spécifiquement pour déployer des modèles de ML entraînés pour la prédiction en ligne (en temps réel) avec une faible latence. Il prend en charge l'importation d'artefacts TensorFlow SavedModel et met à l'échelle automatiquement l'infrastructure de service, y compris la prise en charge des GPU/TPU, pour gérer le trafic des requêtes tout en offrant des fonctionnalités intégrées de surveillance et d'explicabilité.

Pourquoi chaque option est juste ou fausse

A

Juste

Vertex AI Prediction

Vertex AI Prediction fournit un point de terminaison géré avec un service en ligne à faible latence, permettant au modèle TensorFlow entraîné d'être déployé en tant que conteneur et interrogé en temps réel. Il satisfait la contrainte de prédiction en ligne à faible latence que le service par lots ou local ne peut pas satisfaire.

B

Fausse

AI Platform Training

AI Platform Training exécute des tâches d'entraînement et de réglage des hyperparamètres ; il n'héberge pas de point de terminaison de prédiction persistant pour un service à faible latence. Il tente car c'est un composant Vertex AI qui accepte les modèles TensorFlow, mais son but est de produire des artefacts entraînés, pas de servir des requêtes en ligne. La prédiction nécessite un point de terminaison de modèle déployé.

C

Fausse

Cloud Run

Cloud Run dessert des applications HTTP conteneurisées mais ne fournit aucun registre de modèles, versioning ou point de terminaison de prédiction ; l'équipe devrait construire elle-même l'infrastructure de service. Il tente car il offre un HTTP à auto-mise à l'échelle à faible latence. Vertex AI Prediction est conçu spécifiquement pour déployer des modèles entraînés avec des points de terminaison de prédiction en ligne gérés.

D

Fausse

Cloud Functions

Cloud Functions exécute du code mono-tâche piloté par les événements avec des démarrages à froid et des limites de temps d'exécution, inadapté à l'inférence de modèle soutenue à faible latence. Il tente car il est sans serveur et simple à invoquer via HTTP. Vertex AI Prediction fournit un déploiement de modèle géré, le versioning et des points de terminaison de prédiction dédiés à la place.

Pour aller plus loin

Vertex AI Prediction héberge des modèles entraînés sur des points de terminaison gérés qui s'auto-mettent à l'échelle et exposent une interface REST ou gRPC pour l'inférence en ligne à faible latence. Un SavedModel TensorFlow est téléchargé vers une ressource Model, déployé sur un Endpoint avec un type de machine et un accélérateur optionnel, et le trafic est réparti entre les versions de modèle déployées pour les déploiements canary. Un comportement subtil : les nœuds de prédiction encourent des coûts lorsqu'ils sont déployés même avec un trafic nul, et les démarrages à froid sont évidés car le modèle reste résident ; la prédiction par lots, en revanche, est asynchrone et moins coûteuse pour les grands travaux hors ligne. Dans un scénario réaliste, une équipe de détection des fraudes a besoin d'un score inférieur à 100 ms par transaction, ils déployent donc le SavedModel sur un Endpoint Vertex AI avec un nœud pris en charge par GPU et configurent l'auto-mise à l'échelle entre une et dix réplicas, maintenant une latence prévisible pendant les périodes d'achat de pointe.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement PMLE originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.