leekaka / Deep_net

python入门及机器学习体验

深度学习入门基础

内容包括：

• 梯度下降法
  普通梯度下降：linear_bgd,学习效率过低收敛很慢，过高，容易发散
  随机梯度下降：linear_sgd,在训练过程中即跟新权重
  动量梯度下降：linear_momentnum,梯度考虑了上一个梯度*discount和现在梯度的和
  增加激活函数

• 网络结构
  增加简单的异或模拟网络，一个隐藏层，很显然，可以改写成任意的逻辑模拟（包含矩阵和向量两种写法）

• mnist识别

• 增加keras初体验
  网络结构体验
  mnsit测试

• python基础内容

• 常用工具
  批量改名程序