Giters

ziwang-com / AGM

AGM阿格姆：AI基因图谱模型，从token-weight权重微粒角度，探索AI模型，GPT\LLM大模型的内在运作机制。

Home Page:http://www.m-f.vip

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

DAQ将大权重矩阵划分为灵活的块并单独量化

ziwang-com opened this issue · comments

commented

https://github.com/Luccadoremi/Model-Compression-DAQ
该存储库实现了一种称为DAQ（除以量化）的新方法，该方法实质上是将大权重矩阵划分为灵活的块并单独量化它们。