ejuoy / lihang_book_algorithm

致力于将李航博士《统计学习方法》一书中所有算法实现一遍

lihang_book_algorithm

被李航老师肯定啦！！开心！

简介

我这里不介绍任何机器学习算法的原理，只是将《统计学习方法》中每一章的算法用我自己的方式实现一遍。 除了李航书上的算法外，还实现了一些其他机器学习的算法。

那么我们就按章节来了

章节

第二章 感知器模型

博客：李航《统计学习方法》第二章——用Python实现感知器模型（MNIST数据集）
代码：perceptron/binary_perceptron.py

第三章 K近邻法

博客：李航《统计学习方法》第三章——用Python实现KNN算法（MNIST数据集）
代码：knn/knn.py

第四章 朴素贝叶斯

博客：李航《统计学习方法》第四章——用Python实现朴素贝叶斯分类器（MNIST数据集）
代码：naive_bayes/naive_bayes.py

第五章 决策树

博客：李航《统计学习方法》第五章——用Python实现决策树（MNIST数据集）
代码：decision_tree/decision_tree.py

第六章 逻辑斯提回归

博客：李航《统计学习方法》第六章——用Python实现逻辑斯谛回归（MNIST数据集）
代码：logistic_regression/logistic_regression.py

第六章 最大熵模型

博客：李航《统计学习方法》第六章——用Python实现最大熵模型（MNIST数据集）
代码：maxENT/maxENT.py

第七章 支持向量机

博客：李航《统计学习方法》第七章——用Python实现支持向量机模型（伪造数据集）
代码：svm/svm.py

第八章 提升方法

博客：李航《统计学习方法》第八章——用Python+Cpp实现AdaBoost算法（MNIST数据集）
纯Python代码：AdaBoost/adaboost.py
Python C++代码：AdaBoost/adaboost_cpp.py,AdaBoost/Sign/Sign/sign.h,AdaBoost/Sign/Sign/sign.cpp

第十章 隐马尔科夫模型

博客：李航《统计学习方法》第十章——用Python实现隐马尔科夫模型
代码：hmm/hmm.py

额外章节

###softmax分类器 博客：python 实现 softmax分类器（MNIST数据集）
代码：softmax/softmax.py