zhuofupan / Tensorflow-Deep-Neural-Networks

用Tensorflow实现的深度神经网络。

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

请问一下,dbn训练的fine-tuning阶段如何理解?rbm输出给bp的是w、c 还是feature?

gaopenggang opened this issue · comments

我是初学者,你能给我解释一下微调阶段的原理吗?或者给我推荐点详细的资料吗?

主页有rbm资料链接
rbm是无监督训练 W,b 到一个好的状态,rbm的前向传递过程就是特征提取<预训练>
dbn继承训练好的 W,b 后,再在最后加一个分类层,也就是dbm加分类层<微调>

微调时,DBN的每一层训练完成后自然要把参数传递给一个大的NN,这个NN的输入时什么?结构是否会应为要继承RBM的w.b 受限?损失函数如何定义?我是研究机器人相关的,是dl的初学者,请见谅。

看不太懂你提的问题。

哈哈,应该是我问的有问题。我自己查资料吧,谢谢了。

不客气