sherdencooper / GPTFuzz

Official repo for GPTFUZZER : Red Teaming Large Language Models with Auto-Generated Jailbreak Prompts

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

关于CUDA的一些问题

HITLittleZheng opened this issue · comments

您好,安装cuda需要什么版本呢?请问您安装cuda时安装VS了吗,我在使用pip安装时遇到NameError: name 'nvcc_cuda_version' is not defined,不知道和这个有没有关系。还有,通过克隆仓库方式安装vllm,只挂代理就行吗,我挂代理遇到这种问题
image

你好,感谢你关注我们的工作。我个人更建议先尝试使用pip install vllm进行安装,如果不行再尝试克隆仓库的安装方式。关于你列出的NameError: name 'nvcc_cuda_version' is not defined的问题,在进行环境搭建的过程中我并没有遇到过类似的问题。请问你的安装环境里有安装pytorch和对应的cuda吗?同时我注意到您在使用windows进行配置,因为我手头并没有windows机器,没法帮助你进一步分析,不过我找到有类似的在windows上安装vllm的issue,希望这对您的有帮助。
对于您说的git clone仓库的问题,我觉得可能是被墙了,也行切换全局代理或者换一个代理可以解决。