请问您使用的配置是怎样的？我在跑finetune_bert.py时，batch_size为默认的值时显示gpu内存不够，调到8时才能跑。

Question

Jungle-liu opened this issue 3 years ago · comments

ZeroRin · Answer 1 · Mon May 17 2021 21:50:54 GMT+0800 (China Standard Time)

我实验使用的就是64的batch size，单块32G显存的V100做的训练

Jungle-liu · Answer 2 · Mon May 17 2021 21:55:07 GMT+0800 (China Standard Time)

了解了，谢谢啦