luguorenjian / english_news_analysis_byNMF

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

english_news_analysis_byNMF

原理

世の中のデータは成分が非負値で表されるものが多い. 例えば:

  • 各ドキュメントが各単語をいくつ含んでいるかのデータ
  • 各ユーザが各商品をいくつ購入したかのデータ

例:

商品A 商品B 商品C 商品D 商品E
ユーザ1
ユーザ2
ユーザ3
ユーザ4

このデータを非負値行列 X としてあらわす、非負値行列の積 U * V で分解

これで解釈がしやすい!

  • 各ユーザの購買ベクトル(行ベクトル)は、2つの購買パターンu1=(1,1,2,1,3)とu2=(1,2,1,3,1)の線形和
  • ユーザ1,2,3,4の購買ベクトルはそれぞれu1,u2方向の成分が(1,0),(1,1),(1,0),(0,1)のベクトル

このように一つの非負値行列を二つの非負値行列の積で分解する方法をNMF(Nonnegative Matrix Factorization)と呼ぶ。実は、一般の非負値行列 X に対して、U と V を求めるのは数学的にNP問題であることが知られている。ここで中村先生(機械学習とパタン認識という授業を担当する先生)から助けをもらって、近似解を求める方法が開発されていることがわかった。具体的な方法はこちら:

このアルゴリズムを実装したファイルはこちら:nmf.py

About


Languages

Language:Python 100.0%