GaiZhenbiao / ChuanhuChatGPT

GUI for ChatGPT API and many LLMs. Supports agents, file-based QA, GPT finetuning and query with web search. All with a neat UI.

Home Page:https://huggingface.co/spaces/JohnSmith9982/ChuanhuChatGPT

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

[Bug]: 最新版本地加载Qwen无法并发,如果重新加载界面就会重新加载模型,爆显存

Evantso opened this issue · comments

commented

这个bug是否已存在现有issue了?

  • 我确认没有已有issue,且已阅读常见问题

错误表现

最新版本地加载Qwen无法并发,如果重新加载界面就会重新加载模型,爆显存

2024-04-03.13.40.36.mp4

复现操作

1.正常本地部署
2.使用Qwen模型
3.单独点开一个界面没有问题
4.重复再点开一个界面后模型重新加载,旧模型不清除,导致显存溢出

错误日志

No response

运行环境

  • OS: ubuntu 20.04
  • Browser: chrome
  • Gradio version: latest
  • Python version: 3.10

帮助解决

  • 我愿意协助解决!

补充说明

No response