训练时出现梯度消失
sheng-zhong opened this issue · comments
作者你好,我在使用piano_transcription做训练的时候出现了梯度消失的情况。我更改了模型内部的一些参数(比如conv channel、fc等)和配置文件(utils/config.py)中的frames_per_second(从100改为20),在训练过程中出现了梯度消失的情况tensor(nan, grad_fn=),我要如何解决这个问题呢?
sheng-zhong opened this issue · comments
作者你好,我在使用piano_transcription做训练的时候出现了梯度消失的情况。我更改了模型内部的一些参数(比如conv channel、fc等)和配置文件(utils/config.py)中的frames_per_second(从100改为20),在训练过程中出现了梯度消失的情况tensor(nan, grad_fn=),我要如何解决这个问题呢?