ouyangmingyuan / lihang

李航<<统计学习方法>>代码实现

简介

我这里不介绍任何机器学习算法的原理，只是将《统计学习方法》中每一章的算法用我自己的方式实现一遍。 除了李航书上的算法外，还实现了一些其他机器学习的算法。

章节

第二章 感知器模型

[李航《统计学习方法》第二章——用Python实现感知器模型（MNIST数据集）]
代码：perceptron/binary_perceptron.py

第三章 K近邻法

[李航《统计学习方法》第三章——用Python实现KNN算法（MNIST数据集）]
代码：knn/knn.py

第四章 朴素贝叶斯

[李航《统计学习方法》第四章——用Python实现朴素贝叶斯分类器（MNIST数据集）]
代码：naive_bayes/naive_bayes.py

第五章 决策树

[李航《统计学习方法》第五章——用Python实现决策树（MNIST数据集）]
代码：decision_tree/decision_tree.py

第六章 逻辑斯提回归

[李航《统计学习方法》第六章——用Python实现逻辑斯谛回归（MNIST数据集）]
代码：logistic_regression/logistic_regression.py

第六章 最大熵模型

[李航《统计学习方法》第六章——用Python实现最大熵模型（MNIST数据集）]
代码：maxENT/maxENT.py

第七章 支持向量机

[李航《统计学习方法》第七章——用Python实现支持向量机模型（伪造数据集）]
代码：svm/svm.py

第八章 提升方法

[李航《统计学习方法》第八章——用Python+Cpp实现AdaBoost算法（MNIST数据集）]
纯Python代码：AdaBoost/adaboost.py
Python C++代码：AdaBoost/adaboost_cpp.py,AdaBoost/Sign/Sign/sign.h,AdaBoost/Sign/Sign/sign.cpp

第十章 隐马尔科夫模型

[李航《统计学习方法》第十章——用Python实现隐马尔科夫模型]
代码：hmm/hmm.py

额外章节

softmax分类器

[python 实现 softmax分类器（MNIST数据集）]
代码：softmax/softmax.py