是否可以支持open AI批处理接口
wangbing35 opened this issue · comments
例行检查
- 我已确认目前没有类似 issue
- 我已确认我已升级到最新版本
- 我已完整查看过项目 README，已确定现有版本无法满足需求
- 我理解并愿意跟进此 issue，协助测试和提供反馈
- 我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭
功能描述
https://platform.openai.com/docs/guides/batch
是否可以支持open AI批处理接口，这样可以便宜一半的价格
应用场景
批量调用open AI接口，用来生成批量数据
这个应该不可以吧？我看文心一言也有这个批量预测的，需要配和bos使用，这个不太好集成到这个项目中吧 @songquanpeng
对于中转场景不太现实，接口是隔天拉数据，如果隔天你提交批处理的这个渠道没了，那就尴尬了
初步看支持会比较麻烦，请求需要跟 key 关联到一起，但我理解支持这个接口确实也蛮有意义的