DifícilOpción múltiple

Pregunta de práctica de AIF-C01

Exhibit

Refer to the exhibit.
```json
{
  "anthropic_version": "bedrock-2023-05-31",
  "max_tokens": 500,
  "messages": [
    {
      "role": "user",
      "content": "What is the capital of France?"
    }
  ]
}
```

Un desarrollador envía la solicitud anterior a Amazon Bedrock con Anthropic Claude. El modelo devuelve una respuesta que se detiene antes de alcanzar los 500 tokens. ¿Cuál es la razón más probable?

Elige la mejor respuesta.

Respuesta correcta

  • CEl modelo alcanzó una secuencia de parada

Explicación

El modelo se detuvo antes de alcanzar los 500 tokens porque la solicitud probablemente incluía una secuencia de parada (por ejemplo, `\n\nHuman:` o un token de parada personalizado) que coincidía con la salida generada. Cuando se encuentra una secuencia de parada, Bedrock detiene inmediatamente la generación, incluso si no se ha alcanzado el límite de tokens. Esta es la explicación más directa para una parada prematura.

Por qué cada opción es correcta o incorrecta

A

Incorrecta

La temperatura está configurada demasiado alta

La temperatura controla la aleatoriedad del muestreo, no la longitud de la salida; un valor alto hace que la redacción varíe pero nunca desencadena una parada anticipada. Es tentador porque la temperatura es el parámetro de ajuste más familiar y sería la palanca adecuada cuando las respuestas se sienten repetitivas o necesitan variación creativa.

B

Incorrecta

El modelo no está entrenado en este tema

Una brecha de conocimiento produce contenido incorrecto o evasivo, no una respuesta truncada; Claude sigue generando hasta el límite en temas desconocidos. Es tentador porque la falta de datos de entrenamiento explica las respuestas deficientes, y sería correcto si el modelo devolviera hechos inexactos en lugar de detenerse antes de tiempo.

C

Correcta

El modelo alcanzó una secuencia de parada

Una secuencia de parada proporcionada en la solicitud hace que la generación se detenga inmediatamente cuando se produce esa cadena, independientemente del presupuesto máximo de tokens restante. Por lo tanto, la respuesta termina mucho antes de los 500 tokens, lo cual es un comportamiento esperado en lugar de un truncamiento o limitación.

D

Incorrecta

Se excede el límite de tokens

El enunciado indica que la respuesta se detuvo antes de los 500 tokens, por lo que no se alcanzó el límite configurado; superarlo truncaría en el tope, no por debajo de él. Es tentador porque los límites de tokens comúnmente causan cortes, y sería correcto si la salida se detuviera exactamente en max_tokens.

Para profundizar

Al invocar a Anthropic Claude en Amazon Bedrock, el cuerpo de la solicitud puede incluir una matriz stop_sequences de hasta cuatro cadenas. Durante la decodificación autorregresiva, el modelo muestrea los tokens uno por uno; después de cada token, el tiempo de ejecución verifica si la salida acumulada termina con alguna secuencia de parada proporcionada. Si coincide, la generación se detiene de inmediato y la respuesta lleva el valor stop_reason "stop_sequence" en lugar de "max_tokens" o "end_turn". Crucialmente, la cadena de parada coincidente se excluye de la finalización devuelta, por lo que la salida puede parecer truncada abruptamente muy por debajo de max_tokens. Un caso realista: un flujo de RAG añade "\n\nHuman:" como secuencia de parada para evitar que el modelo fabrique más turnos de diálogo; una respuesta legítima que por casualidad contenga esa cadena literal termina antes de tiempo, y la aplicación debe detectar stop_reason para decidir si reintenta o realiza un postprocesamiento.

Sobre estas preguntas de práctica

Esta es una de las preguntas de práctica originales de AIF-C01 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.

Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.