liucongg / ChatGLM-Finetuning

基于ChatGLM-6B、ChatGLM2-6B、ChatGLM3-6B模型,进行下游具体任务微调,涉及Freeze、Lora、P-tuning、全参微调等

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

两张2080ti多卡加载微调

Lxhnnn opened this issue · comments

你好,两张2080ti, 显存分别10G,怎么多卡加载模型,然后进行微调

目前这个代码不支持