关于CC部分模型开启 Thinking 模式后，多轮对话中包含 Tool Use 时报 400 错误（历史记录缺少 thinking 块）

[lvyandev]

问题描述
在使用某些站的 AWS Bedrock 的claude-opus-4-5-20251101-thinking模型时，如果对话中包含工具调用（Tool Use），在进行后续对话时会触发 400 ValidationException 错误，并且对话会被中断不会继续重试其他提供商。

原因分析： AWS Bedrock 在开启 Thinking 模式时有严格的格式校验：助手消息（Assistant Message）如果包含 tool_use，则必须在其紧邻的前方包含一个 thinking 块。 目前的报错信息显示 Expected 'thinking' ..., but found 'tool_use'，这说明 CCH 在处理或转发对话历史（Conversation History）时，可能过滤掉了上一轮的 thinking 内容，或者未正确保留 thinking 与 tool_use 的配对结构，导致直接发送了裸露的 tool_use 给上游，从而触发校验失败。

错误日志

returned 400: param_error: Invalid param: InvokeModel: operation error Bedrock Runtime: InvokeModel, https response error StatusCode: 400, RequestID: 5b957a73-74d0-48a9-ae59-54f007b44350, ValidationException: ***.***.***.***.type: Expected `thinking` or `redacted_thinking`, but found `tool_use`. When `thinking` is enabled, a final `assistant` message must start with a thinking block (preceeding the lastmost set of `tool_use` and `tool_result` blocks). We recommend you include thinking blocks from previous turns. To avoid this requirement, disable `thinking`. Please consult our documentation at https://***.com/***/***/***/*** (request id: 20251231101940404325615wOUj2Klr) (request id: 20251231101938782403885J0Bmyjrg) | Upstream: {"error":{"type":"param_error","message":"Invalid param: InvokeModel: operation error Bedrock Runtime: InvokeModel, https response error StatusCode: 400, RequestID: 5b957a73-74d0-48a9-ae59-54f007b44350, ValidationException: ***.***.***.***.type: Expected `thinking` or `redacted_thinking`, but found `tool_use`. When `thinking` is enabled, a final `assistant` message must start with a thinking block (preceeding the lastmost set of `tool_use` and `tool_result` blocks). We recommend you include thinking blocks from previous turns. To avoid this requirement, disable `thinking`. Please consult our documentation at https://***.com/***/***/***/*** (request id: 20251231101940404325615wOUj2Klr) (request id: 20251231101938782403885J0Bmyjrg)"},"type":"error"}

期望行为
希望 CCH 在处理 AWS Bedrock 协议的对话历史时，如果检测到启用了 Thinking 模式，能够保留 Assistant 消息中的 thinking 块，并确保其位于 tool_use 之前，以符合 AWS Bedrock 的 API 规范。

[github-actions]

感谢您报告这个问题。

问题分析

根据您的描述和代码库分析，这是一个 AWS Bedrock Thinking 模式与工具调用兼容性的问题：

根本原因

AWS Bedrock 在启用 Thinking 模式时有严格的消息格式校验：

• Assistant 消息如果包含 tool_use，必须在其紧邻的前方包含一个 thinking 块
• 错误信息 Expected 'thinking' or 'redacted_thinking', but found 'tool_use' 表明 CCH 在转发对话历史时，可能过滤掉了上一轮的 thinking 内容

可能的问题代码路径

经过代码库分析，相关文件包括：

1. 会话历史存储（可能过滤了 thinking 块）：

• src/app/v1/_lib/proxy/session-guard.ts (第 95 行) - 负责存储 session messages
• src/lib/session-manager.ts - 管理会话存储和恢复

2. 消息转发（可能未完整转发原始消息）：

• src/app/v1/_lib/proxy/forwarder.ts - 转发请求到上游供应商
• 消息在转发过程中可能经过了转换或过滤

3. 格式转换器（可能不完整处理 thinking 块）：

• src/app/v1/_lib/converters/ - 各种 API 格式之间的转换器
• src/app/v1/_lib/converters/types.ts (第 92 行) - 定义了 thinking 为有效的 content block 类型

验证需求

为了准确诊断此问题，需要以下信息：

• 完整的请求体示例 - 包含多轮对话的完整请求（特别是上一轮 assistant 响应中是否包含 thinking 块）
• CCH 转发给上游的实际请求 - 可以通过 DEBUG 日志获取（设置 NODE_ENV=development）
• 上游供应商配置 - 使用的 provider 类型（claude/claude-auth/bedrock-custom）
• 环境变量：
  • STORE_SESSION_MESSAGES - 是否启用了消息存储
  • SESSION_TTL - 会话缓存时长

临时解决方案

如果急需解决，可以考虑：

1. 禁用 Thinking 模式 - 在模型名称中移除 -thinking 后缀
2. 使用非 Bedrock 供应商 - 切换到其他不强制要求 thinking 格式的供应商
3. 在客户端添加空的 thinking 块 - 在发送 tool_use 前手动添加空的 {"type": "thinking", "thinking": ""}

---

Automated response from Claude AI

[lvyandev]

请求日志：

供应商: CC-小呆
状态码: 400
错误: param_error: Invalid param: InvokeModel: operation error Bedrock Runtime: InvokeModel, https response error StatusCode: 400, RequestID: 5b957a73-74d0-48a9-ae59-54f007b44350, ValidationException: ***.***.***.***.type: Expected `thinking` or `redacted_thinking`, but found `tool_use`. When `thinking` is enabled, a final `assistant` message must start with a thinking block (preceeding the lastmost set of `tool_use` and `tool_result` blocks). We recommend you include thinking blocks from previous turns. To avoid this requirement, disable `thinking`. Please consult our documentation at https://***.com/***/***/***/*** (request id: 20251231101940404325615wOUj2Klr) (request id: 20251231101938782403885J0Bmyjrg)

匹配的错误规则:
规则 ID: 4
规则类别: validation_error
匹配模式: ValidationException
匹配类型: contains
规则描述: AWS/Bedrock validation error (non-retryable)
覆写配置: 响应体=false, 状态码=false

请求详情（用于排查问题）:
请求方法: POST
请求 URL: https://******:23000/v1/messages?beta=true
请求头:
  accept: application/json
  accept-encoding: br, gzip, deflate
  accept-language: *
  anthropic-beta: claude-code-20250219,interleaved-thinking-2025-05-14
  anthropic-dangerous-direct-browser-access: true
  anthropic-version: 2023-06-01
  authorization: Bearer sk-d******973d
  connection: close
  content-length: 382758
  content-type: application/json
  host: cch.******:16666
  sec-fetch-mode: cors
  user-agent: claude-cli/2.0.76 (external, cli)
  x-app: cli
  x-forwarded-for: 240e:******:4f03, 240e:******:4f03
  x-forwarded-host: cch.******:16666
  x-forwarded-port: 16666
  x-forwarded-proto: https
  x-real-ip: 240e:******:4f03
  x-real-proto: https
  x-stainless-arch: arm64
  x-stainless-lang: js
  x-stainless-os: MacOS
  x-stainless-package-version: 0.70.0
  x-stainless-retry-count: 0
  x-stainless-runtime: node
  x-stainless-runtime-version: v24.1.0
  x-stainless-timeout: 600
请求体:
  {
    "model": "claude-opus-4-5-20251101",
    "messages": [
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0
    ],
    "system": [
      0,
      0
    ],
    "tools": [
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
    ...

此错误由用户输入导致，不会重试，不计入熔断器。

[ding113]

就目前来说，CCH 不会对请求体做修改，也不会过滤任何字段。如果出现字段缺失情况，可能是供应商的问题。

[lvyandev]

可能是这样，还发现了另一种参数错误的情况

状态码: 400
错误: param_error: Invalid param: InvokeModel: operation error Bedrock Runtime: InvokeModel, https response error StatusCode: 400, RequestID: 7ab8b61c-7a0d-4a82-8954-5b645ea2b4ac, ValidationException: ***.***.***.***.***.signature: Field required (request id: 20251231112839608246939Bma4qMZE) (request id: 20251231112837820025420dBUTtKUx)

匹配的错误规则:
规则 ID: 4
规则类别: validation_error
匹配模式: ValidationException
匹配类型: contains
规则描述: AWS/Bedrock validation error (non-retryable)
覆写配置: 响应体=false, 状态码=false

请求详情（用于排查问题）:
请求方法: POST
请求 URL: https://******:23000/v1/messages?beta=true
请求头:
  accept: application/json
  accept-encoding: br, gzip, deflate
  accept-language: *
  anthropic-beta: claude-code-20250219,interleaved-thinking-2025-05-14
  anthropic-dangerous-direct-browser-access: true
  anthropic-version: 2023-06-01
  authorization: Bearer sk-d******973d
  connection: close
  content-length: 467382
  content-type: application/json
  host: cch.******:16666
  sec-fetch-mode: cors
  user-agent: claude-cli/2.0.76 (external, cli)
  x-app: cli
  x-forwarded-for: 240e:******:4f03, 240e:******:4f03
  x-forwarded-host: cch.******:16666
  x-forwarded-port: 16666
  x-forwarded-proto: https
  x-real-ip: 240e:******:4f03
  x-real-proto: https
  x-stainless-arch: arm64
  x-stainless-lang: js
  x-stainless-os: MacOS
  x-stainless-package-version: 0.70.0
  x-stainless-retry-count: 0
  x-stainless-runtime: node
  x-stainless-runtime-version: v24.1.0
  x-stainless-timeout: 600
请求体:
  {
    "model": "claude-opus-4-5-20251101",
    "messages": [
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
      0,
    ...

此错误由用户输入导致，不会重试，不计入熔断器。

那类似这种400，有没有办法不中断对话，继续重试其他供应商呀

[ding113]

可以看到有一个叫做匹配的错误规则的部分。只需要关闭对应的错误规则（位于系统设置内），就会触发故障转移，重试其他供应商。

[lvyandev]

好的，多谢解答，我去瞅瞅

[lvyandev]

那这个问题大佬你看要不要关掉