单卡pretrain chinese-large模型
yxk9810 opened this issue · comments
Hi，我按照corpora准备了一个百科的数据，然后修改了eval_step和log_step 为100，10，在单机1张卡上训练执行
bash scripts/ds_pretrain_nvidia.sh config/ds_block_large_chinese.sh，可以看到程序在跑，执行最后输出 Using xxx as Pytorch extensions root 后就没有其他的任何输出信息，但是没有任何的输出信息请问单卡pretrain的有例子可以参考？