andrewzrant / ai_explore

机器学习、深度学习基础知识. 推荐系统及nlp相关算法实现

AI_EXPLORE

包含机器学习、深度学习基础知识. 推荐系统及nlp相关算法;

机器学习相关

machine learning

有监督模型

• decision_tree
• gbdt
• lr
• hmm/crf

常用算法

• viterbi解码算法

源码阅读

• Xgboost源码阅读笔记

无监督模型

• EM算法

deep learning

---

自然语言处理

基础模型实现

• DNN
• CNN
• RNN/LSTM
• Transformer
• HighWay

基础模型常用函数模块

• modules

常用nlp任务

• 文本分类(classify)

  • TextCNN
  • Bilstm_Att

• 实体识别(ner)

  • HMM
  • CRF
  • Bilstm_CRF

• 文本匹配(text_match):

  • 文本相关算法:
    • BM25
    • LSI
    • TFIDF
  • 语义相关算法:
    • DSSM
    • ABCNN
    • TPConvNet
    • ESIM
    • BIMPM
    • DIIN
    • DRCN
    • BERT_Match

• ChatBot

  • Seq2Seq_Att

---

推荐系统

常用召回策略

• CF:

  • item_based
  • user_based
  • graph

• LMF

  • ALS
  • MF

• DeepMatch:

常用排序策略

• 基于传统机器学习

  • LR
  • MLR
  • GBDT+LR
  • FM/FFM

• 基于深度算法

  • Wide_Deep
  • DeepFM
  • PNN
  • FNN
  • DCN
  • DIN
  • DIEN

• 在线训练

  • FTRL

竞赛及其解决方案

---

理论思维导图

• 传统机器学习.xmind
• 深度学习.xmind
• 自然语言处理.xmind
• 推荐系统.xmind