sinfee / azure-openai-proxy

一个 Azure OpenAI API 代理工具，能将 OpenAI API 请求转换为 Azure OpenAI API 请求，使仅支持 OpenAI 的应用程序可以无缝地使用 Azure Open AI。An Azure OpenAI API proxy tool that can convert OpenAI API requests into Azure OpenAI API requests, allowing applications that only support OpenAI to seamlessly use Azure Open AI.

Azure OpenAI Proxy

English | 简体中文

一个 Azure OpenAI API 代理工具，能将 OpenAI API 请求转换为 Azure OpenAI API 请求，使仅支持 OpenAI 的应用程序可以无缝地使用 Azure Open AI。

使用要求

必须拥有Azure OpenAI帐户才能使用 Azure OpenAI Proxy。

Azure部署

Docker Deployment

docker run -d -p 3000:3000 scalaone/azure-openai-proxy

本地运行和测试，命令行方式

1. 安装 NodeJS 18。
2. 克隆代码到命令行窗口。
3. 运行 npm install 安装依赖项。
4. 运行 npm start 启动应用程序。
5. 运行下面脚本测试，运行前需要把AZURE_RESOURCE_ID，AZURE_MODEL_DEPLOYMENT，AZURE_API_KEY, AZURE_API_VERSION替换，AZURE_API_VERSION参数可选，目前默认是2023-03-15-preview。

curl -X "POST" "http://localhost:3000/v1/chat/completions" \
-H 'Authorization: AZURE_RESOURCE_ID:AZURE_MODEL_DEPLOYMENT:AZURE_API_KEY:AZURE_API_VERSION' \
-H 'Content-Type: application/json; charset=utf-8' \
-d $'{
  "messages": [
    {
      "role": "system",
      "content": "You are an AI assistant that helps people find information."
    },
    {
      "role": "user",
      "content": "hi."
    }
  ],
  "temperature": 1,
  "model": "gpt-3.5-turbo",
  "stream": false
}'

已测试应用

以下应用已经过测试，确认可以与 azure-openai-proxy 一起工作：

App Name	E2E Docker-compose file
chatbot-ui	docker-compose.yml
chatgpt-next-web	docker-compose.yml
chatgpt-web	docker-compose.yml
chatgpt-lite	docker-compose.yml
chatgpt-minimal	docker-compose.yml

要在本地运行测试，请按照以下步骤操作：

1. 在命令行窗口中克隆代码。
2. 更新环境变量OPENAPI_API_KEY的值为AZURE_RESOURCE_ID:AZURE_MODEL_DEPLOYMENT:AZURE_API_KEY。或者，直接在docker-compose.yml文件中更新OPENAPI_API_KEY值。
3. 导航到包含要测试的应用程序的docker-compose.yml文件所在的目录。
4. 执行构建命令：docker-compose build。
5. 启动服务：docker-compose up -d。
6. 根据docker-compose.yml文件中定义的公开端口，启动应用以在本地进行测试。例如，访问 http://localhost:3000。

常见问题

Q：什么是AZURE_RESOURCE_ID，AZURE_MODEL_DEPLOYMENT，AZURE_API_KEY

A: 可以在Azure的管理门户里查找，具体见下图标注

Q: 如何支持GPT-4

A: 要使用GPT-4，请使用下列格式的key:

AZURE_RESOURCE_ID:gpt-3.5-turbo|AZURE_MODEL_DEPLOYMENT,gpt-4|AZURE_MODEL_DEPLOYMENT,gpt-4-32k|AZURE_MODEL_DEPLOYMENT:AZURE_API_KEY:AZURE_API_VERSION

贡献代码方式

欢迎提交各种PR。

免责声明

此代码仅供演示和测试目的。