基于 ChatGPT WebUI 的一个简单的 ChatGLM WebUI。
pip install -r requirements.txt
通过 git clone https://huggingface.co/THUDM/chatglm-6b 下载模型文件到根目录下然后 python main.py 即可，默认状态至少需要 13GB 显存。
--path：指定模型所在文件夹--low_vram：4-bit 量化，6GB 显存可用--med_vram：8-bit 量化，10GB 显存可用--cpu：CPU运行，32G 内存可用--low_ram：CPU运行，16G 内存可用