MediaOpción múltiple

Pregunta de práctica de AI-900

¿Qué es el 'model deployment' en Azure OpenAI y por qué se utilizan implementaciones con nombre?

Elige la mejor respuesta.

Respuesta correcta

  • BUna instancia con nombre de un modelo de IA con cuota asignada, que permite el control de versiones y la gestión de cuotas

Explicación

El model deployment en Azure OpenAI crea una instancia con nombre de un modelo específico (por ejemplo, GPT-4) con cuota dedicada (tokens por minuto, límites de velocidad). Las implementaciones con nombre permiten el control de versiones al fijar una versión de modelo específica (por ejemplo, 0613 frente a 1106) y permiten una gestión de cuotas separada por implementación, lo cual es crítico para las cargas de trabajo de producción. Esto es distinto a simplemente llamar a un endpoint de API; aprovisiona un endpoint de inferencia dedicado con capacidad garantizada.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

El proceso de envío físico de hardware de IA a los centros de datos de Azure

El deployment es una configuración lógica que crea un endpoint invocable con su propio nombre, cuota y filtros de contenido; el aprovisionamiento de hardware se realiza en centros de datos administrados por Microsoft y es invisible para el cliente. Es tentador porque Azure OpenAI se ejecuta en infraestructura física, pero ese aprovisionamiento no es lo que describe el término.

B

Correcta

Una instancia con nombre de un modelo de IA con cuota asignada, que permite el control de versiones y la gestión de cuotas

Una implementación con nombre vincula una versión de modelo específica a una cuota asignada, de modo que múltiples aplicaciones pueden apuntar a distintas instancias sin contención. Esto satisface los requisitos de control de versiones y gestión de cuotas del enunciado, ya que el nombre de la implementación, y no el modelo base, es lo que referencian los llamadores.

C

Incorrecta

Escalar automáticamente el número de instancias de modelos según el tráfico

El escalado automático ajusta la capacidad de rendimiento aprovisionada, mientras que el deployment en sí es el acto de publicar un modelo bajo un endpoint con nombre. Es tentador porque las implementaciones exponen una cuota de rendimiento que se puede administrar, pero el escalado es una operación de capacidad independiente, no la definición de deployment ni la razón por la cual existen los nombres.

D

Incorrecta

El paso de entrenamiento inicial que produce un modelo de Azure OpenAI

El entrenamiento produce el modelo base; la implementación en su lugar publica un endpoint invocable, y la asignación de nombres permite que varias aplicaciones hagan referencia a distintas configuraciones del mismo modelo subyacente. Es tentador porque el entrenamiento es un paso previo, pero ocurre antes de la implementación y no implica la asignación de endpoints, cuotas o nombres.

Para profundizar

En Azure OpenAI, una implementación (deployment) es una instancia con nombre de un modelo base, como gpt-35-turbo o text-embedding-ada-002, que se crea dentro de un recurso de Azure OpenAI. El nombre de la implementación se convierte en el valor que se pasa en el parámetro de modelo de las llamadas a la API, lo que permite que múltiples aplicaciones hagan referencia a diferentes versiones o configuraciones sin cambiar el código. Cada implementación tiene una cuota asignada, medida en tokens por minuto o solicitudes por minuto, que rige el rendimiento y el coste. Esta abstracción de nombres admite el control de versiones, ya que se puede implementar una nueva versión de modelo bajo un nombre nuevo y cambiar el tráfico gradualmente. En un escenario realista, un equipo implementa gpt-4 con el nombre prod-gpt4 y gpt-4-32k con prod-gpt4-32k, lo que permite realizar pruebas A/B y el aislamiento de cuotas.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.