SCIR-HI / Huatuo-Llama-Med-Chinese

Repo for BenTsao [original name: HuaTuo (华驼)], Instruction-tuning Large Language Models with Chinese Medical Knowledge. 本草(原名:华驼)模型仓库,基于中文医学知识的大语言模型指令微调

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

您好,您这个项目如何运行起来?

endluo opened this issue · comments

commented

我按照教程配置了python3.9和安装了requirements.txt里面的库,直接在pycharm运行infer.py的时候报错了,报错信息如下
image
对了:
1、我没有GPU环境,是否能运行infer.py
2、我把模型文件都复制到主目录下
image
3、代码也改成如下
image
请问是什么原因?

commented

image
换到服务器上了,又报了这个错

您好,本项目当前需要显存足够大的GPU才可以运行,您最后截图中的错误应该是cuda路径的问题,需要确定cuda已安装并已添加至环境变量

commented

好的呢,thx