MédiaMúltipla escolha

Questão de prática de AI-900

Um analista financeiro usa o Azure OpenAI Service para gerar resumos de relatórios de resultados trimestrais. O analista fornece o texto bruto do relatório no prompt e deseja que o resumo atenha-se estritamente aos fatos apresentados nesse texto, sem adicionar nenhuma informação externa ou especulação. Qual técnica o analista deve empregar para minimizar o risco de o modelo inventar informações?

Escolha a melhor resposta.

Resposta correta

  • BUsar a fundamentação incluindo o texto do relatório no prompt e instruindo explicitamente o modelo a basear o resumo apenas nesse texto.

Explicação

Fundamentar o modelo com o texto de origem e instruí-lo explicitamente a basear o resumo apenas nesse texto é a maneira mais direta de reduzir a alucinação. O Azure OpenAI Service depende do prompt para o contexto; ao fornecer o relatório bruto e uma instrução estrita, o modelo é restringido a extrair fatos do conteúdo fornecido em vez de gerar novas informações.

Por que cada alternativa está certa ou errada

A

Incorreta

Definir o parâmetro temperature com um valor alto.

Uma temperatura alta amplia a distribuição de amostragem, aumentando a aleatoriedade e a probabilidade de conteúdo fabricado, piorando diretamente a alucinação. É tentador porque a temperatura controla a criatividade, o que se adequa ao brainstorming ou à geração de textos de marketing onde se deseja uma saída variada e inovadora em vez de uma base estrita no texto fornecido.

B

Correta

Usar a fundamentação incluindo o texto do relatório no prompt e instruindo explicitamente o modelo a basear o resumo apenas nesse texto.

Incluir o texto do relatório no prompt fornece ao modelo um contexto fundamentado, de modo que sua saída é condicionada a esses tokens em vez da memória paramétrica. A instrução explícita restringe ainda mais a geração à evidência fornecida, atendendo diretamente ao requisito do enunciado de evitar informações externas ou especulação.

C

Incorreta

Definir o parâmetro frequency penalty para o valor máximo permitido.

O frequency penalty reduz a repetição de tokens já emitidos; ele não restringe o modelo ao texto de origem fornecido, portanto, fatos inventados continuam sendo possíveis. É tentador porque molda o estilo de saída, e seria a alavanca certa quando o texto gerado repete frases excessivamente.

D

Incorreta

Definir o parâmetro max_tokens para um número muito pequeno.

O max_tokens limita apenas o comprimento da resposta; uma saída curta ainda pode conter fatos fabricados, e o truncamento pode cortar o resumo no meio de uma frase. É tentador porque limitar a saída parece restringir a invenção, e é genuinamente útil para controlar o custo e a latência, e não a fundamentação factual.

Para se aprofundar

A fundamentação (grounding) restringe a geração fornecendo o texto de origem autoritativo diretamente no prompt e instruindo o modelo a responder apenas a partir dele, o que reduz a alucinação porque o modelo condiciona seus tokens ao contexto fornecido em vez da memória paramétrica. O Azure OpenAI Service também oferece o recurso On Your Data, que recupera e cita documentos, mas a fundamentação em linha é a abordagem leve aqui. A temperatura controla a aleatoriedade da amostragem, não a fidelidade factual, portanto, reduzi-la ajuda apenas marginalmente; o frequency penalty desincentiva a repetição e max_tokens apenas trunca a saída. Um limite subtil: mesmo os modelos fundamentados ainda podem fabricar informações se o contexto for ambíguo, por isso a verificação de citações continua prudente. Isso importa para resumos de resultados financeiros, onde um número inventado pode desencadear problemas de conformidade.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AI-900 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.