关于优化器和学习率
Lllllolita opened this issue · comments
请问，Adadelta优化器是自适应更新学习率的，请问您为什么还要对学习率进行余弦调整呢？非常抱歉打扰了，中秋佳节快乐！
请问，Adadelta优化器是自适应更新学习率的，请问您为什么还要对学习率进行余弦调整呢？非常抱歉打扰了，中秋佳节快乐！
你好，可以看一下论文中提到余弦学习率时所引用的李沐的文章，里面有一些说明和比较。
When Counting Meets HMER: Counting-Aware Network for Handwritten Mathematical Expression Recognition (ECCV’2022 Poster).
Lllllolita opened this issue · comments
请问，Adadelta优化器是自适应更新学习率的，请问您为什么还要对学习率进行余弦调整呢？非常抱歉打扰了，中秋佳节快乐！
请问，Adadelta优化器是自适应更新学习率的，请问您为什么还要对学习率进行余弦调整呢？非常抱歉打扰了，中秋佳节快乐！
你好，可以看一下论文中提到余弦学习率时所引用的李沐的文章，里面有一些说明和比较。