li-plus / chatglm.cpp

C++ implementation of ChatGLM-6B & ChatGLM2-6B & ChatGLM3 & GLM4

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

在量化模型的时候出现segmentation fault

invalid-pointer opened this issue · comments

chatglm3-6b -t q4_0 -o chatglm3-ggml.bin
1

没能复现,试试找到 core 文件,然后 gdb python3 <core_file>,输入 bt 看下调用栈,参考 https://www.cse.unsw.edu.au/~learn/debugging/modules/gdb_coredumps/