无法安装fastllm_pytools
bailingchun opened this issue · comments
bailingchun commented
TylunasLi commented
Windows下cmake默认使用Visuals Studio 并生成对应的 *.sln / *.vcproj文件。
接下来可以在Visual Studio中打开sln。选择"Release"并构建整个解决方案。
纯c++的全平台llm加速库,支持python调用,chatglm-6B级模型单卡可达10000+token / s,支持glm, llama, moss基座,手机端流畅运行
bailingchun opened this issue · comments
Windows下cmake默认使用Visuals Studio 并生成对应的 *.sln / *.vcproj文件。
接下来可以在Visual Studio中打开sln。选择"Release"并构建整个解决方案。