ztxz16 / fastllm

纯c++的全平台llm加速库,支持python调用,chatglm-6B级模型单卡可达10000+token / s,支持glm, llama, moss基座,手机端流畅运行

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

Process finished with exit code 139 (interrupted by signal 11: SIGSEGV)

weizhenhuan opened this issue · comments

在mac air2上使用chatglm2模型时,报错。无论使用fp16还是int8,无论输入是什么,输出一个token后都是报这个错。使用的是cpu版本。
Process finished with exit code 139 (interrupted by signal 11: SIGSEGV)
image