Respuesta correcta
- CEl modelo alcanzó una secuencia de parada
Explicación
El modelo se detuvo antes de alcanzar los 500 tokens porque la solicitud probablemente incluía una secuencia de parada (por ejemplo, `\n\nHuman:` o un token de parada personalizado) que coincidía con la salida generada. Cuando se encuentra una secuencia de parada, Bedrock detiene inmediatamente la generación, incluso si no se ha alcanzado el límite de tokens. Esta es la explicación más directa para una parada prematura.
Para profundizar
Al invocar a Anthropic Claude en Amazon Bedrock, el cuerpo de la solicitud puede incluir una matriz stop_sequences de hasta cuatro cadenas. Durante la decodificación autorregresiva, el modelo muestrea los tokens uno por uno; después de cada token, el tiempo de ejecución verifica si la salida acumulada termina con alguna secuencia de parada proporcionada. Si coincide, la generación se detiene de inmediato y la respuesta lleva el valor stop_reason "stop_sequence" en lugar de "max_tokens" o "end_turn". Crucialmente, la cadena de parada coincidente se excluye de la finalización devuelta, por lo que la salida puede parecer truncada abruptamente muy por debajo de max_tokens. Un caso realista: un flujo de RAG añade "\n\nHuman:" como secuencia de parada para evitar que el modelo fabrique más turnos de diálogo; una respuesta legítima que por casualidad contenga esa cadena literal termina antes de tiempo, y la aplicación debe detectar stop_reason para decidir si reintenta o realiza un postprocesamiento.
Sobre estas preguntas de práctica
Esta es una de las preguntas de práctica originales de AIF-C01 de Courseiva, escrita para aprender y nunca copiada de exámenes reales ni de dumps.
Traducida del original en inglés con IA y revisada para comprobar el sentido. Los códigos de examen, los comandos y los nombres de productos se mantienen tal como aparecen en el examen.