MédiaMúltipla escolha

Questão de prática de AI-900

O que é 'model deployment' no Azure OpenAI e por que os deployments nomeados são usados?

Escolha a melhor resposta.

Resposta correta

  • BUma instância nomeada de um modelo de IA com cota alocada, permitindo controle de versão e gerenciamento de cota

Explicação

O deployment de modelos no Azure OpenAI cria uma instância nomeada de um modelo específico (por exemplo, GPT-4) com cota dedicada (tokens por minuto, limites de taxa). Os deployments nomeados habilitam o controle de versão ao fixar em uma versão específica do modelo (por exemplo, 0613 vs. 1106) e permitem gerenciamento de cota separado por deployment, o que é crítico para cargas de trabalho de produção. Isso é diferente de simplesmente chamar um endpoint de API; ele provisiona um endpoint de inferência dedicado com capacidade garantida.

Por que cada alternativa está certa ou errada

A

Incorreta

O processo de envio físico de hardware de IA para os datacenters do Azure

Deployment é uma configuração lógica que cria um endpoint chamável com seu próprio nome, cota e filtros de conteúdo; o provisionamento de hardware ocorre em datacenters gerenciados pela Microsoft e é invisível para o cliente. É tentador porque o Azure OpenAI é executado em infraestrutura física, mas esse provisionamento não é o que o termo descreve.

B

Correta

Uma instância nomeada de um modelo de IA com cota alocada, permitindo controle de versão e gerenciamento de cota

Um deployment nomeado vincula uma versão específica do modelo à cota alocada, para que vários aplicativos possam direcionar instâncias distintas sem contenção. Isso atende aos requisitos de controle de versão e gerenciamento de cota do enunciado, já que o nome do deployment, e não o modelo base, é o que os chamadores referenciam.

C

Incorreta

Dimensionar automaticamente o número de instâncias de modelo com base no tráfego

O dimensionamento automático ajusta a capacidade de throughput provisionada, enquanto o próprio deployment é o ato de publicar um modelo sob um endpoint nomeado. É tentador porque os deployments expõem uma cota de throughput que pode ser gerenciada, mas o dimensionamento é uma operação de capacidade separada, não a definição de deployment ou o motivo da existência de nomes.

D

Incorreta

A etapa de treinamento inicial que produz um modelo do Azure OpenAI

O treinamento produz o modelo base; em vez disso, o deployment publica um endpoint chamável, e a nomenclatura permite que vários aplicativos façam referência a configurações distintas do mesmo modelo subjacente. É tentador porque o treinamento é uma etapa pré-requisito, mas ocorre antes do deployment e não envolve nenhum endpoint, cota ou atribuição de nome.

Para se aprofundar

No Azure OpenAI, um deployment é uma instância nomeada de um modelo base, como gpt-35-turbo ou text-embedding-ada-002, que você cria dentro de um recurso do Azure OpenAI. O nome do deployment se torna o valor passado no parâmetro model de chamadas de API, permitindo que vários aplicativos façam referência a diferentes versões ou configurações sem alterar o código. Cada deployment possui cota alocada, medida em tokens por minuto ou solicitações por minuto, o que rege a taxa de transferência e o custo. Essa abstração de nomenclatura dá suporte ao controle de versão, pois você pode implantar uma nova versão de modelo sob um novo nome e alternar o tráfego gradualmente. Em um cenário realista, uma equipe implanta gpt-4 com o nome prod-gpt4 e gpt-4-32k com prod-gpt4-32k, permitindo testes A/B e isolamento de cota.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.