[bug] 使用openai compatible 接口，无法对token进行计费

[ZakiLiu]

使用版本 0.5.2
使用openai compatible 接口进行访问，发现使用的模型没有token数量，导致使用一直显示使用0费用。

请求是成功的，而且有返回，但一直显示0费用，0token。

[coderabbitai]

📝 CodeRabbit Plan Mode

Generate an implementation plan and prompts that you can use with your favorite coding agent.

• Create Plan

Examples

• Example 1
• Example 2

---

⚠️ Possible Duplicate Issue

• [req] OpenAI cost calculation #83

---

🧪 Issue enrichment is currently in open beta.

You can configure auto-planning by selecting labels in the issue_enrichment configuration.

To disable automatic issue enrichment, add the following to your .coderabbit.yaml:

issue_enrichment:
  auto_enrich:
    enabled: false

💬 Have feedback or questions? Drop into our discord!

[github-actions]

感谢您报告此问题。

根据对代码库的分析，我找到了可能的原因：

分析

当您使用 OpenAI compatible 接口 (/v1/chat/completions) 访问时，系统会按以下流程处理：

1. 请求处理流程：

   • 客户端格式检测为 "openai" → 映射到 "openai-compatible" 转换器格式
   • 如果提供商类型 (provider type) 也是 "openai-compatible"，响应会直接透传或进行最小转换

2. Token 统计提取位置：

   • 代码位于 src/app/v1/_lib/proxy/response-handler.ts 的 parseUsageFromResponseText 函数（第1470-1671行）
   • 该函数会从响应中提取 usage 字段

可能的原因：

原因 1: 提供商未返回 usage 信息

某些 OpenAI compatible 提供商可能不返回 usage 字段。请检查您使用的提供商原始响应是否包含类似以下格式的 usage 信息：

{
  "usage": {
    "prompt_tokens": 100,
    "completion_tokens": 50,
    "total_tokens": 150
  }
}

原因 2: Usage 字段位置不标准

根据 response-handler.ts:1470-1671 的解析逻辑，系统会尝试从以下位置提取 usage：

• response.usage (标准位置)
• response.response.usage (某些代理的包装格式)
• SSE 流式响应中的 data.usage

如果您的提供商返回的 usage 字段在其他位置，可能无法被正确提取。

诊断步骤

为了帮助诊断此问题，请提供以下信息：

• 您使用的提供商名称和类型（在管理面板中配置的 provider type）
• 该提供商的原始响应示例（可以通过浏览器开发者工具的网络标签查看）
• 是否使用流式 (streaming) 还是非流式请求
• 该提供商是否在其官方文档中声明返回 usage 信息

相关代码

Usage 提取逻辑：

• src/app/v1/_lib/proxy/response-handler.ts (lines 1470-1671) - parseUsageFromResponseText 函数
• src/app/v1/_lib/proxy/response-handler.ts (lines 1261-1468) - extractUsageMetrics 函数

OpenAI 格式转换：

• src/app/v1/_lib/converters/openai-to-claude/response.ts - 处理 OpenAI 响应转换

临时解决方案：

如果您的提供商确实返回了 usage 信息但格式不标准，您可以尝试：

1. 检查提供商是否支持标准的 OpenAI Chat Completions API 格式
2. 联系提供商确认其 usage 字段格式
3. 在配置提供商时设置正确的 provider type

---

Automated response from Claude AI

[github-actions]

This issue appears to be a duplicate of #83.

Why this is a duplicate:
Both issues report the same root cause: OpenAI-compatible API billing is not implemented. In issue #83, the repository owner (ding113) confirmed that "OpenAI-compatible providers are still under development, and the billing function is not yet complete." This appears to remain the case in version 0.5.2.

Symptoms in both issues:

• Requests to OpenAI-compatible endpoints succeed
• Responses are received successfully
• Token counts always show 0
• Costs always show /bin/bash
• Only affects OpenAI-compatible interface (Codex and Anthropic billing work normally)

Original issue: #83

The original issue was closed as the limitation was acknowledged. If you need this feature, you can:

1. Contribute a PR to implement OpenAI billing (as suggested in [req] OpenAI cost calculation #83)
2. Follow [req] OpenAI cost calculation #83 for any future updates on this feature

If you believe this is NOT a duplicate (e.g., billing worked in a previous version and stopped working), please explain the difference and we will reopen this issue.

---

Automated duplicate detection by Claude AI

[ZakiLiu]

不对，你说的不对，我查看了响应，有usage字段。如截图，这就是个bug。