C++ implementation of ChatGLM-6B & ChatGLM2-6B & ChatGLM3 & GLM4
Geek Repo:Geek Repo
Github PK Tool:Github PK Tool
nigel001 opened this issue 6 months ago · comments
internLM2已经发布,请问什么时候能支持
不妨试试llama.cpp
InternLM/InternLM#612
ggerganov/llama.cpp#5031
后续打算把 InternLM / Baichuan 交给 llama.cpp 上游维护了,只维护 ChatGLM 系列模型,人力实在有限