[Bug]: 最新版本地加载Qwen无法并发,如果重新加载界面就会重新加载模型,爆显存
Evantso opened this issue · comments
这个bug是否已存在现有issue了?
- 我确认没有已有issue,且已阅读常见问题。
错误表现
最新版本地加载Qwen无法并发,如果重新加载界面就会重新加载模型,爆显存
2024-04-03.13.40.36.mp4
复现操作
1.正常本地部署
2.使用Qwen模型
3.单独点开一个界面没有问题
4.重复再点开一个界面后模型重新加载,旧模型不清除,导致显存溢出
错误日志
No response
运行环境
- OS: ubuntu 20.04
- Browser: chrome
- Gradio version: latest
- Python version: 3.10
帮助解决
- 我愿意协助解决!
补充说明
No response