使用chatglm.cpp模型量化工具,量化ChatGLM3-6B模型
Geek Repo:Geek Repo
Github PK Tool:Github PK Tool
使用 chatglm.cpp 模型量化工具,量化 ChatGLM3-6B 模型。
在 Google Colab 实操,并记录操作过程。