omeh2003 / ProxyOpenAI

OpenAI API Proxy Server: A Flask-based service utilizing Redis for rate limiting. Streamlines and secures your interactions with OpenAI API.

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

Прокси-сервер OpenAI на Flask

Этот проект представляет собой прокси-сервер для OpenAI API, реализованный с использованием Flask и Redis для ограничения скорости запросов.

Требования

  • Docker
  • Docker Compose
  • OpenAI Python Client

Установка

  1. Установите Docker и Docker Compose на вашей машине, если они ещё не установлены. Смотрите официальные инструкции по установке.

  2. Клонируйте репозиторий на вашу машину.

    git clone <ссылка на репозиторий>
  3. Создайте файл .env в корне проекта. В этом файле необходимо указать два ключа API: ключ для доступа к прокси-серверу (API_KEY) и ваш ключ для доступа к OpenAI (OPEN_AI_API_KEY).

    Пример файла .env:

    OPEN_AI_API_KEY=<ваш ключ API от OpenAI>
    API_KEY=<ключ API для доступа к прокси-серверу>

Запуск

  1. Запустите Docker Compose.
    docker-compose up -d
    Docker Compose автоматически соберет и запустит контейнеры Flask и Redis. Сервер начнет прослушивание на порту 8080.

Использование

После запуска сервера вы можете использовать OpenAI Python Client для взаимодействия с прокси-сервером. Вместо обычного URL OpenAI API, используйте базовый URL вашего прокси-сервера. В качестве ключа API используйте ключ для доступа к прокси-серверу.

openai.api_base = "http://192.168.0.1:8080/api"
openai.api_key = "wcwcmoeineo"

Лицензия

Этот проект распространяется под лицензией MIT. Подробности можно узнать в файле LICENSE.

Поддержка

Если у вас возникли сложности или вопросы по использованию пакета, создайте обсуждение в этом репозитории или напишите на электронную почту <ваша_почта>.

Как внести свой вклад

Мы приветствуем ваши замечания и предложения! Если вы хотите улучшить код или документацию, создайте новую ветку и отправьте pull request.

About

OpenAI API Proxy Server: A Flask-based service utilizing Redis for rate limiting. Streamlines and secures your interactions with OpenAI API.

License:MIT License


Languages

Language:Python 85.2%Language:Dockerfile 14.8%