DifícilMúltipla escolha

Questão de prática de AIF-C01

Exhibit

Refer to the exhibit.
```json
{
  "anthropic_version": "bedrock-2023-05-31",
  "max_tokens": 500,
  "messages": [
    {
      "role": "user",
      "content": "What is the capital of France?"
    }
  ]
}
```

Um desenvolvedor envia a solicitação acima para o Amazon Bedrock com o Anthropic Claude. O modelo retorna uma resposta que para antes de atingir 500 tokens. Qual é o motivo mais provável?

Escolha a melhor resposta.

Resposta correta

  • CO modelo atingiu uma sequência de parada

Explicação

O modelo parou antes de atingir 500 tokens porque a solicitação provavelmente incluía uma sequência de parada (por exemplo, `\n\nHuman:` ou um token de parada personalizado) que correspondia à saída gerada. Quando uma sequência de parada é encontrada, o Bedrock interrompe imediatamente a geração, mesmo que o limite de tokens não tenha sido atingido. Esta é a explicação mais direta para uma parada prematura.

Por que cada alternativa está certa ou errada

A

Incorreta

A temperatura está configurada muito alta

A temperatura controla a aleatoriedade da amostragem, não o comprimento da saída; um valor alto faz a redação variar, mas nunca aciona uma parada antecipada. É tentador porque a temperatura é o parâmetro de ajuste mais familiar e seria a alavanca certa quando as respostas parecem repetitivas ou precisam de variação criativa.

B

Incorreta

O modelo não foi treinado neste tópico

Uma lacuna de conhecimento produz conteúdo incorreto ou evasivo, não uma resposta truncada; o Claude ainda gera até o limite em tópicos desconhecidos. É tentador porque a falta de dados de treinamento explica respostas ruins, e seria correto se o modelo retornasse fatos imprecisos em vez de parar mais cedo.

C

Correta

O modelo atingiu uma sequência de parada

Uma sequência de parada fornecida na solicitação faz com que a geração seja interrompida imediatamente quando essa string é produzida, independentemente do orçamento máximo de tokens restante. A resposta, portanto, termina bem antes de 500 tokens, o que é um comportamento esperado em vez de truncamento ou limitação.

D

Incorreta

O limite de tokens foi excedido

O enunciado afirma que a resposta parou antes de 500 tokens, portanto o limite configurado não foi atingido; excedê-lo truncaria no teto, não abaixo dele. É tentador porque os limites de tokens comumente causam cortes, e seria correto se a saída parasse exatamente em max_tokens.

Para se aprofundar

Ao invocar o Anthropic Claude no Amazon Bedrock, o corpo da solicitação pode incluir uma matriz stop_sequences de até quatro strings. Durante a decodificação autorregressiva, o modelo amostra os tokens um por um; após cada token, o tempo de execução verifica se a saída acumulada termina com qualquer sequência de parada fornecida. Se houver correspondência, a geração é interrompida imediatamente e a resposta carrega stop_reason "stop_sequence" em vez de "max_tokens" ou "end_turn". Crucialmente, a string de parada correspondente é excluída da conclusão retornada, de modo que a saída pode parecer truncada abruptamente bem abaixo de max_tokens. Um caso realista: um pipeline de RAG adiciona "\n\nHuman:" como uma sequência de parada para evitar que o modelo fabrique mais turnos de diálogo; uma resposta legítima que por acaso contenha essa string literal termina mais cedo, e o aplicativo deve detectar stop_reason para decidir se deve tentar novamente ou pós-processar.

Sobre estas questões de prática

Esta é uma das questões de prática originais de AIF-C01 da Courseiva, escrita para o aprendizado e nunca copiada de provas reais nem de dumps.

Traduzida do original em inglês com IA e conferida quanto ao sentido. Códigos de exame, comandos e nomes de produtos são mantidos como aparecem na prova.