MiniMax 流式格式好像有问题
QAbot-zh opened this issue · comments
例行检查
- 我已确认目前没有类似 issue
- 我已确认我已升级到最新版本
- 我已完整查看过项目 README，尤其是常见问题部分
- 我理解并愿意跟进此 issue，协助测试和提供反馈
- 我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭
问题描述
流式响应格式跟OpenAI的标准格式稍微有差别，最后一条data不是 chunk["choices"][0]["delta"]["content"] 的格式。
不影响在Nextchat里使用，对程序调用有一点小影响，不过算是小问题，要是oneapi能修下更完美。
复现步骤
调用Minimax相关模型，设置 stream=True。如果需要调试，可以提供key。
相关截图
Minimax 流式响应：
gpt 流式响应：
另外发现Minimax日志token无数据
ack
v0.6.6-alpha.12 处理了没有 prompt token 的问题，这是因为他本身就没有返回，之前没有注意
这个流式的问题还没解决
好的，我的调用程序因为修复了这个小问题带来的影响所以没注意，以为一起修复了，群主认真严谨 😁