Giters

qwopqwop200 / GPTQ-for-LLaMa

4 bits quantization of LLaMA using GPTQ

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

GPTQ vs bitsandbytes

iaoxuesheng opened this issue · comments

commented

您好，感谢您贡献的项目，我有一个地方没理解，GPTQ vs bitsandbytes 这里面的对比列出的nf4等其他的都是什么意思