yxuansu / TaCL

[NAACL'22] TaCL: Improving BERT Pre-training with Token-aware Contrastive Learning

Home Page:https://arxiv.org/abs/2111.04198

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

咨询训练时间

tongshoujie opened this issue · comments

作者你好,感谢你的开源
请教一下,预训练150k,你大概用了多长时间呀?

作者你好,感谢你的开源 请教一下,预训练150k,你大概用了多长时间呀?

同学你好,

对于base模型的话,训练时间大概在40个小时左右(也和GPU型号及个数有关)。

作者你好,感谢你的开源 请教一下,预训练150k,你大概用了多长时间呀?

同学你好,

对于base模型的话,训练时间大概在40个小时左右(也和GPU型号及个数有关)。

感谢你的回答