linonetwo / MOSS-DockerFile

用于在 Docker 里运行复旦的 MOSS 语言模型,使用 GradIO 提供 WebUI。

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

could not select device driver "" with capabilities: [[gpu]].

kelrose opened this issue · comments

我是在Ubuntu下docker运行的:
docker run --gpus all -it --volume=/home/moss-moon-003-sft-plugin-int4:/mnt/llm -d linonetwo/moss:int4
提示报错,请问如何解决?

commented

怎么解决的?cudatoolkit没装?