a liitle question about loading the pre-embedding
gwaterCy opened this issue · comments
gwaterCy commented
你好,在代码中您是加载了本地的一个pre-embedding的文件,请问下这个文件是有使用什么预训练方法吗?还是就是随机的初始化?
uestcnlp commented
你好,是随机初始化的,然后在模型训练时进行更新。为了方便实验的统一,我们保留了最近一次随机初始化后的embedding来载入。
DebonairLi commented
你好,是随机初始化的,然后在模型训练时进行更新。为了方便实验的统一,我们保留了最近一次随机初始化后的embedding来载入。
你好,我想问一下,在随机初始化embedding之后,没有用RNN去学习embedding吧?如果加上RNN效果会不会有所提升呢?