FácilMúltipla escolha

Questão de prática de Generative AI Leader

Uma startup está construindo um chatbot de suporte ao cliente usando o Vertex AI e deseja fundamentar as respostas na documentação do produto para reduzir alucinações. Qual abordagem eles devem usar?

Escolha a melhor resposta.

Resposta correta

  • AAtivar o Vertex AI Grounding com um armazenamento de dados corporativo personalizado contendo a documentação.

Explicação

O Vertex AI Grounding com um armazenamento de dados corporativo personalizado é a abordagem correta porque permite que o chatbot recupere e cite trechos específicos da documentação do produto em tempo real, reduzindo diretamente as alucinações ao restringir as respostas ao conteúdo verificado. Esse método usa o serviço de fundamentação subjacente para consultar um armazenamento de dados baseado em vetor (alimentado pelo Vertex AI Search) e anexar referências de origem à saída do modelo, garantindo precisão factual sem retreinamento.

Por que cada alternativa está certa ou errada

A

Correta

Ativar o Vertex AI Grounding com um armazenamento de dados corporativo personalizado contendo a documentação.

A fundamentação com um armazenamento de dados corporativo personalizado recupera passagens da documentação do produto e as injeta no prompt, para que as respostas citem conteúdo real em vez de depender da memória paramétrica. Isso aborda diretamente a restrição de alucinação no enunciado.

B

Incorreta

Usar a API Codey para geração de texto.

O Codey gera e completa código; ele não pode recuperar a documentação do produto, portanto, as respostas permanecem sem fundamentação. É tentador porque o Codey é um modelo de geração de texto do Vertex AI e seria a escolha certa para tarefas de assistência de código, como preenchimento, geração ou chat de código, e não para respostas de suporte baseadas em documentos.

C

Incorreta

Usar o modelo base sem nenhuma fundamentação para maximizar a flexibilidade.

Usar o modelo base sozinho deixa as respostas dependentes do conhecimento paramétrico, de modo que as alucinações persistem e nenhuma documentação é consultada. É tentador porque os modelos base oferecem ampla flexibilidade em vários tópicos e seriam corretos para tarefas criativas ou gerais em aberto, onde a fundamentação em um corpus específico não é necessária.

D

Incorreta

Ajustar finamente o modelo com a documentação e implantá-lo.

O ajuste fino (fine-tuning) incorpora a documentação nos pesos, o que não pode citar fontes ou atualizar sem retreinamento, portanto, não fundamenta as respostas no momento da inferência. É tentador porque o ajuste fino adapta um modelo ao conteúdo de domínio e seria correto para ensinar um estilo consistente ou formato de tarefa em vez de recuperar fatos.

Para se aprofundar

Nos bastidores, o Vertex AI Grounding usa um pipeline de geração aumentada por recuperação (RAG) onde a consulta do usuário é inserida em um vetor, uma busca de vizinho mais próximo é realizada no armazenamento de dados personalizado (que indexa a documentação em blocos com embeddings) e os principais resultados são injetados no prompt como contexto. O modelo então gera uma resposta fundamentada nesses trechos recuperados, e o serviço inclui automaticamente citações com URLs de origem e números de página. Um comportamento sutil é que o limite de confiança da fundamentação pode ser ajustado; se definido muito alto, o modelo pode se recusar a responder, e se definido muito baixo, ainda pode alucinar ignorando o contexto recuperado.

Sobre estas questões de prática

Esta é uma das questões de prática originais de Generative AI Leader da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.