MoyenneChoix unique

Question d'entraînement AI-900

Qu'est-ce que le 'model deployment' dans Azure OpenAI et pourquoi utilise-t-on des déploiements nommés ?

Choisissez la meilleure réponse.

Bonne réponse

  • BUne instance nommée d'un modèle d'IA avec un quota alloué, permettant le contrôle de version et la gestion des quotas

Explication

Le déploiement de modèles dans Azure OpenAI crée une instance nommée d'un modèle spécifique (par exemple, GPT-4) avec un quota dédié (jetons par minute, limites de taux). Les déploiements nommés permettent le contrôle de version en se fixant sur une version de modèle spécifique (par exemple, 0613 par rapport à 1106) et permettent une gestion de quota distincte par déploiement, ce qui est essentiel pour les charges de travail de production. Ceci est distinct du simple appel d'un point de terminaison d'API ; il provisionne un point de terminaison d'inférence dédié avec une capacité garantie.

Pourquoi chaque option est juste ou fausse

A

Fausse

Le processus d'expédition physique du matériel d'IA vers les centres de données Azure

Le déploiement est une configuration logique créant un point de terminaison appelable avec son propre nom, quota et filtres de contenu ; le provisionnement du matériel se produit dans les centres de données gérés par Microsoft et est invisible pour le client. C'est tentant car Azure OpenAI s'exécute sur une infrastructure physique, mais ce provisionnement n'est pas ce que le terme décrit.

B

Juste

Une instance nommée d'un modèle d'IA avec un quota alloué, permettant le contrôle de version et la gestion des quotas

Un déploiement nommé lie une version de modèle spécifique à un quota alloué, de sorte que plusieurs applications peuvent cibler des instances distinctes sans conflit. Cela satisfait aux exigences de contrôle de version et de gestion des quotas de l'énoncé, puisque c'est le nom du déploiement, et non le modèle de base, que les appelants référencent.

C

Fausse

Mettre à l'échelle automatiquement le nombre d'instances de modèles en fonction du trafic

La mise à l'échelle automatique ajuste la capacité de débit provisionnée, tandis que le déploiement lui-même est l'acte de publier un modèle sous un point de terminaison nommé. C'est tentant car les déploiements exposent un quota de débit qui peut être géré, mais la mise à l'échelle est une opération de capacité distincte, et non la définition du déploiement ou la raison pour laquelle les noms existent.

D

Fausse

L'étape d'entraînement initiale qui produit un modèle Azure OpenAI

L'entraînement produit le modèle base ; le déploiement publie à la place un point de terminaison appelable, et le nommage permet à plusieurs applications de référencer des configurations distinctes du même modèle sous-jacent. C'est tentant car l'entraînement est une étape préalable, mais il se produit avant le déploiement et n'implique aucun point de terminaison, quota ou attribution de nom.

Pour aller plus loin

Dans Azure OpenAI, un déploiement est une instance nommée d'un modèle de base, tel que gpt-35-turbo ou text-embedding-ada-002, que vous créez au sein d'une ressource Azure OpenAI. Le nom du déploiement devient la valeur passée dans le paramètre de modèle des appels d'API, permettant à plusieurs applications de référencer différentes versions ou configurations sans modifier le code. Chaque déploiement dispose d'un quota alloué, mesuré en jetons par minute ou en requêtes par minute, qui régit le débit et le coût. Cette abstraction de nommage prend en charge le contrôle de version, car vous pouvez déployer une nouvelle version de modèle sous un nouveau nom et basculer le trafic progressivement. Dans un scénario réaliste, une équipe déploie gpt-4 sous le nom prod-gpt4 et gpt-4-32k sous prod-gpt4-32k, permettant des tests A/B et l'isolation des quotas.

À propos de ces questions d'entraînement

Cette question fait partie des questions d'entraînement AI-900 originales de Courseiva, rédigées pour apprendre et jamais copiées d'examens réels ou de dumps.

Traduite de l'original anglais avec l'IA et vérifiée pour le sens. Les codes d'examen, les commandes et les noms de produits sont conservés tels qu'ils apparaissent à l'examen.