oobabooga / GPTQ-for-LLaMa

4 bits quantization of LLaMa using GPTQ

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

oobabooga/GPTQ-for-LLaMa Stargazers