Important
Respect xyhelper
,Respect ninja
, Respect Wizerd
!
开源不易,请给我一颗免费的星星!!!
感谢xyhelper、ninja和Wizerd大佬们的付出,敬礼!!!
本项目支持:
-
将 xyhelper
proxy
模式下的backend-api免费接口
转为/v1/chat/completions
接口,支持流式和非流式响应。 -
将 xyhelper
proxy
模式下的backend-api免费接口
转为/v1/images/generations
接口 -
支持直接把refresh_token作为请求key,方便接入one_api
-
支持 gpt-4-mobile 、gpt-4-s 、动态支持所有的gpt-4-gizmo-XXX模型
-
xyhelper 的 免费 backend-api 接口,无需打码
-
xyhelper接口每分钟最多请求30次,介意请绕行
- 我是开发者,我想自行修改功能->前往源码库 https://github.com/xyhelper/chatgpt-mirror-server
- 我没服务器,也没有官网账号,只想使用->前往官网购买我们运营的会员服务 https://www.xyhelper.com.cn
- 我想做商业用途,我想自己运营->老板里面请 https://www.xyhelper.com.cn/access
- 我有服务器,我想自己部署->请继续阅读本文档(有条件的话给个star吧)
如果本项目对你有帮助的话,请点个小星星吧~
如果有什么在项目的使用过程中的疑惑或需求,欢迎加入 Community Telegram Channel: Inker 的魔法世界 来和大家一起交流一下~
见 Release
页面。
-
支持 代码解释器、联网、绘图
-
支持 gpt-4-s
-
支持 gpt-4-mobile
-
支持 gpt-3.5-turbo
-
支持 gpts
-
支持 流式输出
-
支持 非流式输出
-
支持 dalle 绘图接口
-
支持 接口保活
-
支持 自定义接口前缀
-
支持 日志等级划分
-
支持 gpt-4-vision
-
支持 Bot模式(QQ、微信机器人等建议开启,网页应用请不要开启)
-
支持 指定进程、线程数
-
支持文件生成
Caution
-
本项目的运行需要 xyhelper 的免费接口
-
本项目实际为将来自
/v1/chat/completions
的请求转发到xyhelper免费接口的/backend-api/conversation
接口,因此本项目并不支持高并发操作,请不要接入如沉浸式翻译
等高并发项目。 -
本项目支持使用apple平台的refresh_token作为请求key.
-
本项目并不能绕过 OpenAI 和 xyhelper 官方的限制,只提供便利,不提供绕过。
-
提问的艺术:当出现项目不能正常运行时,请携带
DEBUG
级别的日志在Issue
或者社区群内提问,否则将开启算命模式~
目前支持的模型包括:
-
gpt-4-s:支持代码解释器、bing联网、dalle绘图的 GPT-4,对应的是官方的默认 GPT-4(绘图的响应有时候有些不稳定)
-
gpt-4-mobile:支持代码解释器、bing联网、dalle绘图的 GPT-4,对应的是官方的手机版 GPT-4,截止至2023年12月15日,本模型使用量不计入 GPT-4 用量(即不受每 3 小时 40 次的限制)
-
几乎所有的 GPTS(配置方式见下文)
-
gpt-3.5-turbo
仓库内已包含相关文件和目录,拉到本地后修改 docker-compose.yml 文件里的环境变量后运行docker-compose up -d
即可。
-
log_level
: 用于设置日志等级,可选值为:DEBUG
、INFO
、WARNING
、ERROR
,默认为DEBUG
-
need_log_to_file
: 用于设置是否需要将日志输出到文件,可选值为:true
、false
,默认为true
,日志文件路径为:./log/access.log
,默认每天会自动分割日志文件。 -
process_workers
: 用于设置进程数,如果不需要设置,可以保持不变,如果需要设置,可以设置为需要设置的值,默认为2
。 -
process_threads
: 用于设置线程数,如果不需要设置,可以保持不变,如果需要设置,可以设置为需要设置的值,默认为2
。 -
upstream_base_url
: xyhelper 的免费接口地址,如:https://demo.xyhelper.cn
,注意:不要以/
结尾。 -
upstream_api_prefix
: 默认为"" -
backend_container_url
: 用于dalle模型生成图片的时候展示所用,需要设置为使用如 ChatGPT-Next-Web 的用户可以访问到的本项目地址,如:http://1.2.3.4:50011
,同原环境变量中的UPLOAD_BASE_URL
-
backend_container_api_prefix
: 用于设置本项目/v1/xxx
接口的前缀,如果留空则与官方api调用接口一致。设置示例:666
-
key_for_gpts_info
: 填入refresh_token(每天自动转成access_token 推荐)或者access_token(不推荐), 仅获取 GPTS 信息的 access_token,需要该 access_token 能够访问所有配置的 GPTS。后续发送消息仍需要在请求头携带请求所用的 access_token,如果未配置该项,请将gpts.json
文件修改为:
{}
-
gpt_4_s_new_name
、gpt_4_mobile_new_name
、gpt_3_5_new_name
: 用于设置 gpt-4-s、gpt-4-mobile、gpt-3.5-turbo 的模型名称与别名,如果不需要修改,可以保持不变。如果需要修改,每个模型均支持设置多个别名,多个别名之间以英文逗号隔开,例如:gpt-4-s
的别名可以设置为gpt-4-s,dall-e-3
,这样在调用的时候就可以使用gpt-4-s
或者dall-e-3
来调用该模型。 -
need_delete_conversation_after_response
: 用于设置是否在响应后删除对话,可选值为:true
、false
,默认为false
,如果设置为true
,则会在响应后删除对话,这样可以保证在页面上不会留下通过本项目调用的对话记录. -
use_oaiusercontent_url
: 是否使用OpenAI官方图片域名,可选值为:true
、false
,默认为false
,如果设置为true
,则会使用OpenAI的图片域名,否则使用backend_container_url
参数的值作为图片域名。如果设置为true
,则backend_container_url
可以不填且图片不会下载到image文件夹中。 -
use_pandora_file_server
: 是否使用PandoraNext的文件服务器,可选值为:true
、false
,默认为true
,如果设置为true
,则会从PandoraNext的文件服务器下载图片等文件,否则将直接从openai的文件服务器下载文件。 -
custom_arkose_url
: 是否需要自定义Arkose Token获取地址,可选值为:true
、false
,默认为false
,如果设置为true
,则会使用arkose_urls
参数的值作为Arkose Token获取地址,否则使用默认的PandoraNext Arkose Token获取地址。 -
arkose_urls
: Arkose Token获取地址,如果custom_arkose_url
为false
,则该参数无效,如果custom_arkose_url
为true
,则该参数必填,且需要填写为可以获取Arkose Token的地址列表,例如:https://arkose-proxy-1.pandoranext.com/<proxy-prefix>,https://arkose-proxy-2.pandoranext.com/<proxy-prefix>
,支持同时设置多个Arkose Token获取地址,从前往后轮询调用,如果第一个获取失败则自动从第二个获取,以此类推。 -
dalle_prompt_prefix
: 自定义的DALLE接口prompt前缀,可以引导gpt完成绘图任务。
PS. 注意,arkose_urls中的地址需要支持PandoraNext的Arkose Token获取路径与参数,并与PandoraNext的Arkose Token获取接口的响应格式保持一致。
-
bot_mode
-
enabled
: 用于设置是否开启 Bot 模式,可选值为:true
、false
,默认为false
,开启 Bot 模式后,将可以自定义联网插件的引引用、绘图插件的markdown格式的图片以及插件执行过程的输出,仅建议在 QQ、微信机器人等 Bot 项目中开启,网页应用请不要开启。 -
enabled_markdown_image_output
: 用于设置是否开启 Bot 模式下绘图插件的markdown格式的图片输出,可选值为:true
、false
,默认为false
,开启后,将会输出markdown格式的图片输出,仅在bot_mode.enabled
为true
时生效。 -
enabled_plain_image_url_output
: 用于设置是否开启 Bot 模式下绘图插件的纯图片链接(非markdown格式)输出,可选值为:true
、false
,默认为false
,开启后,将会输出纯图片链接输出,仅在bot_mode.enabled
为true
时生效。注意:与enabled_markdown_image_output
同时开启时,只会输出非 markdown 格式的图片。 -
enabled_bing_reference_output
: 用于设置是否开启 Bot 模式下联网插件的引用输出,可选值为:true
、false
,默认为false
,开启后,将会输出联网插件的引用,仅在bot_mode.enabled
为true
时生效。 -
enabled_plugin_output
: 用于设置是否开启 Bot 模式下插件执行过程的输出,可选值为:true
、false
,默认为false
,开启后,将会输出插件执行过程的输出,仅在bot_mode.enabled
为true
时生效。
-
-
refresh_ToAccess
-
stream_sleep_time
:用于设置流式传输时,每条输出的数据间隔时间,单位秒。 -
enableOai
:用于设置是否使用官网通过refresh_token刷新access_token,仅在enableOai
为true
时生效。 -
xyhelper_refreshToAccess_Url
:用于设置使用xyhelper来进行使用refresh_token刷新access_token,enableOai为false的时候必填
-
-
redis
-
host
: Redis的ip地址,例如:1.2.3.4,默认是 redis 容器 -
port
: Redis的端口,默认:6379,如有特殊需求,你可以将此值设置为其他端口 -
password
: Redis的密码,默认为空,如果你的Redis服务设置了密码,请将其设置为你的密码 -
db
: Redis的数据库,默认:0,如有特殊需求,你可以将此值设置为其他数据库
-
- 可修改
gpts.json
文件,其中每个对象的key即为调用对应 GPTS 的时候使用的模型名称,而id
则为对应的模型id,该id
对应每个 GPTS 的链接的后缀。配置多个GPTS的时候用逗号隔开。
例如:PandoraNext的官方 GPTS 的链接为:https://chat.oaifree.com/g/g-CFsXuTRfy-pandoranextzhu-shou
,则该模型的 id
的值应为 g-CFsXuTRfy-pandoranextzhu-shou
,而模型名可以自定义。
示例:
{
"gpt-4-classic": {
"id":"g-YyyyMT9XH-chatgpt-classic"
},
"pandoraNext":{
"id":"g-CFsXuTRfy-pandoranextzhu-shou"
}
}
- 可直接请求的时候加上相应的gpt-4-gizmo-XXX,XXX等同于上面的id的值
{
"stream":true,
"model":"gpt-4-gizmo-XXXX",
"messages": [{"role": "user", "content": "你是什么模型"}]
}
注意:使用该配置的时候需要保证正确填写 config.json
文件的环境变量 KEY_FOR_GPTS_INFO
,同时该变量设置的 key
允许访问所有配置的 GPTS。
接口URI:/v1/images/generations
请求方式:POST
请求头:正常携带 Authorization
和 Content-Type
即可,Authorization
的值为 Bearer <refresh_token>
,Content-Type
的值为 application/json
请求体格式示例:
{
"model": "gpt-4-s",
"prompt": "A cute baby sea otter"
}
请求体参数说明:
-
model:模型名称,需要支持绘图功能,否则绘图结果将为空
-
prompt:绘图的 Prompt
响应体格式示例:
{
"created": 1702788293,
"data": [
{
"url": "http://<upload 容器公网ip>:50012/images/image_20231217044452.png"
}
],
"reply": "\n```\n{\"size\":\"1024x1024\",\"prompt\":\"A cute baby sea otter floating on its back in calm, clear waters. The otter has soft, fluffy brown fur, and its small, round eyes are shining brightly. It's holding a small starfish in its tiny paws. The sun is setting in the background, casting a golden glow over the scene. The water reflects the colors of the sunset, with gentle ripples around the otter. There are a few seagulls flying in the distance under the pastel-colored sky.\"}Here is the image of a cute baby sea otter floating on its back."
}
调用方式同官方 gpt-4-vision-preview
API
接口URI:/v1/chat/completions
请求方式:POST
请求体格式示例(以 url 形式传入文件):
{
"messages": [
{
"role": "user",
"content": [
{
"type": "text",
"text": "这个pdf里写了什么,用中文回复"
},
{
"type": "image_url",
"image_url": {
"url": "https://bitcoin.org/bitcoin.pdf"
}
}
]
}
],
"stream": false,
"model": "gpt-4",
"temperature": 0.5,
"presence_penalty": 0,
"frequency_penalty": 0,
"top_p": 1
}
请求体示例(以 Base64 形式传入文件):
{
"messages": [
{
"role": "user",
"content": [
{
"type": "text",
"text": "这张图里画了什么"
},
{
"type": "image_url",
"image_url": {
"url": "data:<mime>;base64,<文件的Base64>"
}
}
]
}
],
"stream": false,
"model": "gpt-4-s",
"temperature": 0.5,
"presence_penalty": 0,
"frequency_penalty": 0,
"top_p": 1
}
MIME
支持列表,包括但不限于(如果非列表中的类型会直接转成纯文本txt执行上传操作):
"image/jpeg", "image/webp", "image/png", "image/gif","text/x-php", "application/msword", "text/x-c", "text/html", "application/vnd.openxmlformats-officedocument.wordprocessingml.document", "application/json", "text/javascript", "application/pdf", "text/x-java", "text/x-tex", "text/x-typescript", "text/x-sh", "text/x-csharp", "application/vnd.openxmlformats-officedocument.presentationml.presentation", "text/x-c++", "application/x-latext", "text/markdown", "text/plain", "text/x-ruby", "text/x-script.python"
响应体格式示例:
{
"choices": [
{
"finish_reason": "stop",
"index": 0,
"message": {
"content": "\n```\nopen_url(\"file-xxxxxxx\")\n```\n这个PDF文件是关于比特币的原始论文,名为《比特币:一种点对点的电子现金系统》,作者是中本聪。这篇论文介绍了一种全新的数字货币系统,它不依赖于任何中心化的金融机构。比特币通过一种去中心化的网络和一种称为区块链的技术来维持交易的安全和完整性。这个系统使用数字签名来确认交易,并通过一种被称为工作量证明的机制来防止双重支付。整个系统旨在创建一个安全、去中心化、对用户友好的数字货币。",
"role": "assistant"
}
}
],
"created": 1703063445,
"id": "chatcmpl-xxxxxxxx",
"model": "gpt-4",
"object": "chat.completion",
"system_fingerprint": null,
"usage": {
"completion_tokens": 0,
"prompt_tokens": 0,
"total_tokens": 0
}
}
以ChatGPT-Next-Web项目插件版的docker-compose部署为例,支持完全适配项目,这里提供一个简单的部署配置文件示例:
version: '3'
services:
chatgpt-next-web:
image: yangclivia/chatgpt-next-web-langchain
ports:
- "50013:3000"
environment:
- CUSTOM_MODELS=-all,+gpt-3.5-turbo,+gpt-4-s,+gpt-4-mobile,+gpt-4-vision-preview,+gpt-4-gizmo-XXX
- OPENAI_API_KEY=<正确的refresh_token>
- BASE_URL=<backend-to-api容器地址>
- CUSTOM_MODELS=-gpt-4-0613,-gpt-4-32k,-gpt-4-32k-0613,-gpt-4-turbo-preview,-gpt-4-1106-preview,-gpt-4-0125-preview,-gpt-3.5-turbo-0125,-gpt-3.5-turbo-0613,-gpt-3.5-turbo-1106,-gpt-3.5-turbo-16k,-gpt-3.5-turbo-16k-0613,+gpt-3.5-turbo,+gpt-4,+gpt-4-mobile,+gpt-4-vision-preview,+gpt-4-mobile,+<gpts.json 中的模型名>
Caution
- 本项目只提供转发接口🥰
- 开源项目不易,请点个星星吧!!!
![](https://private-user-images.githubusercontent.com/132346501/294685588-6544e8ed-6673-48f9-95a6-c13255acbab1.jpg?jwt=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJnaXRodWIuY29tIiwiYXVkIjoicmF3LmdpdGh1YnVzZXJjb250ZW50LmNvbSIsImtleSI6ImtleTUiLCJleHAiOjE3MjM5MjcyOTksIm5iZiI6MTcyMzkyNjk5OSwicGF0aCI6Ii8xMzIzNDY1MDEvMjk0Njg1NTg4LTY1NDRlOGVkLTY2NzMtNDhmOS05NWE2LWMxMzI1NWFjYmFiMS5qcGc_WC1BbXotQWxnb3JpdGhtPUFXUzQtSE1BQy1TSEEyNTYmWC1BbXotQ3JlZGVudGlhbD1BS0lBVkNPRFlMU0E1M1BRSzRaQSUyRjIwMjQwODE3JTJGdXMtZWFzdC0xJTJGczMlMkZhd3M0X3JlcXVlc3QmWC1BbXotRGF0ZT0yMDI0MDgxN1QyMDM2MzlaJlgtQW16LUV4cGlyZXM9MzAwJlgtQW16LVNpZ25hdHVyZT1lMjMzZDZjMDc4NjNhYTQ1NTk5ODZjMGJhOTY0ZjU1M2E2NGJhMzEyMzZlZWZkYzllMjE1M2RiOTNlMjU3NGRiJlgtQW16LVNpZ25lZEhlYWRlcnM9aG9zdCZhY3Rvcl9pZD0wJmtleV9pZD0wJnJlcG9faWQ9MCJ9.fOo6COmg0AKbWL70fIhAhd9RofU4uuEzznwitX2GCtY)