Giters

mindspore-lab / mindpet

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

基于mindspore 1.10和Bert r1.10验证LoRA微调无效果，请帮忙分析一下原因

songjx010 opened this issue · comments

commented

组件版本

mindspore 1.10
Bert r1.10
GPU: T4

结果

  • 应用LoRA前后，微调训练过程中显存占用没有任何变化，都是6032MB，请帮忙看下是什么原因
    image