nndl / solutions

《神经网络与深度学习》课后习题答案-分享讨论

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

习题7-4

simo-an opened this issue · comments

commented

题目

习题7-4 证明公式(7.43).
image

解答

Xavier初始化

IMG_20220108_110750

附加

为什么前向计算的时候使用 M(l-1) 即 l 层前一层神经元个数,而在反向传播过程不使用 M(l+1) 即 l 层后一层神经元个数?
因为 a(l-1) 的维度和 l-1 层神经元个数相等, a(l) 的维度和 l 层神经元个数相等