OedoSoldier / chatglm_webui

A naive webui for ChatGLM

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

ChatGLM WebUI

基于 ChatGPT WebUI 的一个简单的 ChatGLM WebUI。

环境安装

pip install -r requirements.txt

Gradio 版本必须大于 3.21.0!

Windows 下 CPU 运行需要安装编译器,可参考 (https://www.freesion.com/article/4185669814/)。

运行

通过 git clone https://huggingface.co/THUDM/chatglm-6b-int4 下载模型文件到根目录下然后 python main.py 即可,默认状态至少需要 4 GB 显存(CPU 运行则需要 5.2 GB 内存)。

实参

  • --path:指定模型所在文件夹

About

A naive webui for ChatGLM

License:BSD 3-Clause "New" or "Revised" License


Languages

Language:Python 100.0%