计费不上，实际有输入输出，但是后台计费输入输出都是0
akakenle opened this issue · comments
例行检查
- 我已确认目前没有类似 issue
- 我已确认我已升级到最新版本
- 我已完整查看过项目 README，尤其是常见问题部分
- 我理解并愿意跟进此 issue，协助测试和提供反馈
- 我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭
问题描述
我用litellm的项目聚合了其他模型，litellm输出的接口标准是openai，然后我用oneapi中转，老版本没问题，新版本，出现一些模型计费不到；
老版本具体哪个版本忘了，反正是没有仪表盘功能之前的版本。
复现步骤
预期结果
计费成功
相关截图
你看下你接口返回数据中的prompt_token和completion_token是不是0，非流调用好像直接使用响应中的数据的
你看下你接口返回数据中的prompt_token和completion_token是不是0，非流调用好像直接使用响应中的数据的
所以是one API在某个版本中把非流失的token计算去掉了吗？因为我们什么都没动，就是更新版本后就一下模型计费不到了
你看下你接口返回数据中的prompt_token和completion_token是不是0，非流调用好像直接使用响应中的数据的
所以是one API在某个版本中把非流失的token计算去掉了吗？因为我们什么都没动，就是更新版本后就一下模型计费不到了
不是，是因为上游返回了 usage，但是里面值却是空的
我处理一下这个问题
已处理，请更新试一下