这个项目是一个反向代理服务,用于将Vecmul WebSocket转换为REST API。它允许用户通过HTTP请求与多种AI模型进行交互,包括GPT-4、Claude 3和Gemini等。
vecmul.py
: 包含与Vecmul WebSocket API交互的核心逻辑。vecmul_service.py
: 实现FastAPI服务,处理HTTP请求并与Vecmul WebSocket通信。build.py
: 用于构建可执行文件的PyInstaller脚本。Dockerfile
: 用于创建Docker容器的配置文件。requirements.txt
: 列出项目的Python依赖。
- 支持多种AI模型,包括GPT-4、Claude 3系列、Gemini等。
- 提供流式和非流式响应选项。
- 支持上下文。
- 使用FastAPI实现RESTful API。
- 支持Docker部署。
-
克隆仓库:
git clone https://github.com/snailyp/vecmul-reverse.git cd vecmul-reverse
-
安装依赖:
pip install -r requirements.txt
-
创建
.env
文件并设置APP_SECRET
。
-
启动服务:
python vecmul_service.py
-
服务将在
http://localhost:8002
上运行。
-
构建Docker镜像:
docker build -t vecmul-reverse .
-
运行Docker容器:
docker run -d --name vecmul-reverse -p 8002:8002 -e APP_SECRET=your_secret vecmul-reverse
{
"claude-3-opus": "Claude3-Opus",
"claude-3-haiku": "Claude3-Haiku",
"claude-3-sonnet-20240229": "Claude3-Sonnet",
"claude-3-opus-20240229": "Claude3-Opus",
"claude-3-haiku-20240307": "Claude3-Haiku",
"gpt-4o": "GPT-4o",
"gpt-4o-2024-05-13": "GPT-4o",
"gemini-1.5-flash-latest": "gemini-1.5-flash",
"gemini-1.5-pro-latest": "gemini-1.5-pro",
"claude-3-5-sonnet-20240620": "Claude3.5-Sonnet",
"gpt-3.5-turbo": "GPT-3.5",
"gpt-4": "GPT-4",
"Claude3-Sonnet": "Claude3-Sonnet",
"Claude3-Opus": "Claude3-Opus",
"Claude3-Haiku": "Claude3-Haiku",
"GPT-4o": "GPT-4o",
"gemini-1.5-flash": "gemini-1.5-flash",
"gemini-1.5-pro": "gemini-1.5-pro",
"Claude3.5-Sonnet": "Claude3.5-Sonnet",
"GPT-3.5": "GPT-3.5",
"GPT-4": "GPT-4"
}
发送POST请求到 /v1/chat/completions
端点,格式如下:
{
"model": "gpt-4",
"messages": [
{"role": "user", "content": "Hello, how are you?"}
],
"stream": false
}
请在请求头中包含 Authorization: Bearer your_app_secret
。
运行 python build.py
来为当前平台构建可执行文件。
- 确保在使用前设置正确的 APP_SECRET。
- 本项目仅用于教育和研究目的,请遵守Vecmul的服务条款。