ztxz16 / fastllm

纯c++的全平台llm加速库,支持python调用,chatglm-6B级模型单卡可达10000+token / s,支持glm, llama, moss基座,手机端流畅运行

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

无法安装fastllm_pytools

bailingchun opened this issue · comments

我满足所需条件按照步骤运行不成功,没有生成tools文件
443ff3404605486a32c65bc94c2bcdf

9c9ee0cf58abc1e50092760a7b7d48f
请问我应该如何下载

Windows下cmake默认使用Visuals Studio 并生成对应的 *.sln / *.vcproj文件。
接下来可以在Visual Studio中打开sln。选择"Release"并构建整个解决方案。