Respuesta correcta
- BUna instancia con nombre de un modelo de IA con cuota asignada, que permite el control de versiones y la gestión de cuotas
Explicación
El model deployment en Azure OpenAI crea una instancia con nombre de un modelo específico (por ejemplo, GPT-4) con cuota dedicada (tokens por minuto, límites de velocidad). Las implementaciones con nombre permiten el control de versiones al fijar una versión de modelo específica (por ejemplo, 0613 frente a 1106) y permiten una gestión de cuotas separada por implementación, lo cual es crítico para las cargas de trabajo de producción. Esto es distinto a simplemente llamar a un endpoint de API; aprovisiona un endpoint de inferencia dedicado con capacidad garantizada.
Para profundizar
En Azure OpenAI, una implementación (deployment) es una instancia con nombre de un modelo base, como gpt-35-turbo o text-embedding-ada-002, que se crea dentro de un recurso de Azure OpenAI. El nombre de la implementación se convierte en el valor que se pasa en el parámetro de modelo de las llamadas a la API, lo que permite que múltiples aplicaciones hagan referencia a diferentes versiones o configuraciones sin cambiar el código. Cada implementación tiene una cuota asignada, medida en tokens por minuto o solicitudes por minuto, que rige el rendimiento y el coste. Esta abstracción de nombres admite el control de versiones, ya que se puede implementar una nueva versión de modelo bajo un nombre nuevo y cambiar el tráfico gradualmente. En un escenario realista, un equipo implementa gpt-4 con el nombre prod-gpt4 y gpt-4-32k con prod-gpt4-32k, lo que permite realizar pruebas A/B y el aislamiento de cuotas.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de AI-900 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.