SPQR 稀疏量-llm模型压缩

[www.ziwang.com]

https://github.com/Vahe1994/SpQR
SPQR 模型压缩
此存储库包含演示用于 LLM 压缩的 SpQR 方法的代码。

它伴随着研究论文“SpQR：几乎无损LLM权重压缩的稀疏量化表示”。