Giters

OpenBMB / AgentVerse

🤖 AgentVerse 🪐 is designed to facilitate the deployment of multiple LLM-based agents in various applications, which primarily provides two frameworks: task-solving and simulation

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

支持 OpenAI 兼容的模型 API 调用

soulteary opened this issue · comments

commented

GitHub 上有越来越多项目在模型推理时提供 OpenAI API 格式兼容的接口。

或许，项目维护者，可以考虑打开 OpenAI Client 创建时的 API Base 自定义？ https://github.com/openai/openai-python/blob/f1c7d714914e3321ca2e72839fe2d132a8646e7f/src/openai/__init__.py#L106

这样可以让更多的模型，无痛的支持进来。

相关 PR：