FacileChoix unique

Question d'entraînement PDE

Un data scientist souhaite tester une nouvelle version de modèle sur un faible pourcentage de trafic avant un déploiement complet. Quelle fonctionnalité de Vertex AI permet cela ?

Choisissez la meilleure réponse.

Bonne réponse

  • BEndpoint traffic splitting

Explication

La division du trafic des points de terminaison (Endpoint traffic splitting) de Vertex AI vous permet de router un pourcentage spécifié de requêtes d'inférence vers différentes versions de modèles déployées sur le même point de terminaison. Cela permet un déploiement progressif en dirigeant une petite fraction du trafic (par exemple, 5 %) vers le nouveau modèle tandis que le reste va vers la version actuelle, sans avoir besoin de points de terminaison séparés ou d'une logique de routage manuelle.

Pourquoi chaque option est juste ou fausse

A

Fausse

A/B testing

L'A/B testing divise le trafic entre les versions de modèles pour mesurer les performances, mais il ne limite pas en soi le déploiement à un faible pourcentage avant le déploiement complet — il s'agit de la division du trafic sur un point de terminaison Vertex AI. C'est tentant car l'A/B testing est véritablement utilisé pour des expériences contrôlées de comparaison de modèles.

B

Juste

Endpoint traffic splitting

La division du trafic des points de terminaison vous permet d'attribuer des pondérations en pourcentage à plusieurs versions de modèles déployées derrière un point de terminaison, en routant une petite part des requêtes vers la nouvelle version. Cela satisfait directement la contrainte de déploiement progressif avant de la promouvoir pour tout le trafic.

C

Fausse

Model monitoring

La surveillance des modèles détecte le biais, la dérive et la qualité des prédictions sur les modèles déployés ; elle ne route pas un pourcentage de requêtes vers une nouvelle version. La division du trafic sur un point de terminaison effectue cette exposition progressive. La surveillance est tentante car elle prend également en charge un déploiement sécurisé, mais elle observe après le déploiement plutôt de contrôler la distribution des requêtes.

D

Fausse

Model versioning with canary deployments

Le versionnement des modèles Vertex AI suit les artefacts et les métadonnées ; il ne divise pas le trafic en direct entre les versions. Le routage canary est fourni par la configuration de la division du trafic sur un point de terminaison, et non par le registre de versions lui-même. Le versionnement est tentant car il gère la restauration (rollback) et la traçabilité, ce qui est une préoccupation différente de l'exposition progressive.

Pour aller plus loin

Les points de terminaison Vertex AI prennent en charge la division du trafic en attribuant des pondérations en pourcentage à plusieurs entrées DeployedModel derrière une seule ressource de point de terminaison. Vous déployez la nouvelle version du modèle aux côtés de l'existante et dérivez, disons, 5 pour cent des requêtes de prédiction vers celle-ci, puis ajustez les pondérations ou promouvez à 100 pour cent une fois que les métriques semblent bonnes. La division se produit au niveau de la couche de point de terminaison, de sorte que les appelants continuent d'utiliser la même URL et les mêmes informations d'identification. Cela diffère du versionnement des modèles, qui suit les artefacts dans le Model Registry, et de la surveillance, qui détecte le biais et la dérive. C'est important pour les versions canary et les comparaisons A/B où vous souhaitez du trafic de production réel sur un modèle candidat sans pile de service séparée.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement PDE originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.