MédiaMúltipla escolha

Questão de prática de AI-102

Uma empresa usa o Azure OpenAI Service para gerar descrições de produtos. Eles percebem que as descrições às vezes contêm informações factualmente incorretas. Qual estratégia eles devem usar para reduzir alucinações?

Escolha a melhor resposta.

Resposta correta

  • BImplementar Retrieval-Augmented Generation (RAG) fundamentando os prompts com uma base de conhecimento.

Explicação

Retrieval-Augmented Generation (RAG) fundamenta a resposta do modelo em uma base de conhecimento externa e confiável, fornecendo contexto factual que reduz diretamente as alucinações. Ao recuperar documentos relevantes e injetá-los no prompt, o modelo gera respostas com base em informações verificadas em vez de depender exclusivamente de sua memória paramétrica, que é a principal causa de imprecisões factuais no Azure OpenAI Service.

Por que cada alternativa está certa ou errada

A

Incorreta

Aumentar o parâmetro temperature para 1.0.

Aumentar a temperatura para 1.0 eleva a aleatoriedade da amostragem, o que amplifica em vez de reduzir o conteúdo fabricado; a mitigação de alucinações exige temperatura mais baixa combinada com aterramento. O ajuste de temperatura é útil para a diversidade criativa em sessões de brainstorming ou geração de cópias de marketing, onde a variedade de frases importa mais do que a precisão factual.

B

Correta

Implementar Retrieval-Augmented Generation (RAG) fundamentando os prompts com uma base de conhecimento.

O RAG fundamenta as respostas do modelo em conteúdo recuperado e verificável de uma base de conhecimento, de modo que as descrições geradas fazem referência a dados reais de produtos em vez de depender apenas da memória paramétrica. Isso reduz diretamente os fatos fabricados, satisfazendo o requisito de cortar alucinações.

C

Incorreta

Reduzir o parâmetro max_tokens para limitar o comprimento da saída.

max_tokens limita apenas o comprimento da resposta; não melhora o embasamento factual, e truncar a saída pode até cortar contexto qualificativo. É usado para controlar custos e latência. Reduzir alucinações exige fundamentar o modelo com dados de origem recuperados e verificáveis.

D

Incorreta

Adicionar uma mensagem de sistema instruindo o modelo a ser mais cuidadoso.

Uma mensagem de sistema molda o tom, o formato e o comportamento, mas não fornece embasamento factual, portanto o modelo ainda pode inventar detalhes com confiança. Mensagens de sistema são usadas para definir personas e restrições de saída. Alucinações são reduzidas fundamentando prompts em documentos de origem recuperados.

Para se aprofundar

Nos bastidores, o RAG funciona incorporando consultas de usuários e documentos de bases de conhecimento em um espaço vetorial usando modelos como text-embedding-ada-002, realizando em seguida uma busca de similaridade (por exemplo, similaridade de cosseno) para recuperar os principais trechos relevantes. Esses trechos são pré-anexados ao prompt, restringindo efetivamente a geração do modelo ao contexto recuperado, o que reduz a probabilidade de alucinação ao limitar a dependência do modelo da distribuição de seus dados de treinamento. Em um cenário do mundo real, um catálogo de produtos com milhares de SKUs pode ser indexado no Azure Cognitive Search, e o pipeline de RAG garante que cada descrição gerada faça referência às especificações reais do produto no banco de dados.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-102 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.