SOMの実装

[nahoando]

close #10

取り組んだトレーニングの概要

SOMを実装する

獲得を目指したスキル

• Pythonを用いてSOMのプログラムを実装する
• SOMのアルゴリズムを理解し、説明できる
• 正しい実装結果を描画する

Action list

• SOMの実装
• SOMについての理解を深める

感想

[nahoando]

somの実行結果です。

[cmb-sy]

いいですね. SOMの実装ができています.
データ数を変えたり, 最大近傍半径や最小近傍半径, 近傍関数を変えて実験したり, 数式から, なぜこういう結果になるのか考えてみてもいいかもしれないですね.
また, なぜ多様体が広がるのかとかも考えてみましょう.

[nahoando]

一通り値を変更して実行してみました。おそらくまとめてプッシュしているはずです。
以下に各ファイルの値を記載
初期値
N=50, D = 3, nodes = 10, L = 2, K = nodes**L, T = 100, seed = 0, sigma_max = 3.0, sigma_min = 0.1 ※変数名の詳細はプログラム内に記載
ファイル名およびそのファイルでの変更値の記載
change_N_ver1.gif　N=100
change_N_ver2.gif　N=150
change_N_ver3.gif　N=200

change_node_ver1.gif　node=15
change_node_ver2.gif　node=20
change_node_ver3.gif　node=5

change_T_ver1.gif　T=50
change_T_ver2.gif　T=150
change_T_ver3.gif　T=200

change_sigma_ver1.gif　sigma_max=10.0, sigma_min=0.1
change_sigma_ver2.gif　sigma_max=5.0, sigma_min=0.1
change_sigma_ver3.gif　sigma_max=2.0, sigma_min=0.1
change_sigma_ver4.gif　sigma_max=3.0, sigma_min=0.5
change_sigma_ver5.gif　sigma_max=1.5, sigma_min=0.1
change_sigma_ver6.gif　sigma_max=1.0, sigma_min=0.1
change_sigma_ver7.gif　sigma_max=1.0, sigma_min=0.5

change_seed_ver1.gif　seed=15
change_seed_ver2.gif　seed=5
change_seed_ver3.gif　seed=2
change_seed_ver4.gif　seed=10

↑これは最初の説明の時に開いたファイルで使われていたパラメータを用いたときの実行結果です。
考察などは別にコメントとして記載します。

[cmb-sy]

Gif fileなどはpushせずにdrop boxなどに保存しておきましょう.

[tanacchi]

良さそうです！
色々パラメータを変えて実験していて Good です．
考察も楽しみですね

[tanacchi]

終わったぜい！というときは 「Ready for Review」をクリックして Draft を解除しましょう

[cmb-sy]

近傍関数を変えたら, もっと滑らかに多様体が広がるかもしれません.

[kz-halfmoon]

田中くんのデモで使われたパラメータで学習させて比較する，ナイスです！
学習がまだ途中にみえる（収束しておらず，変化が観察できる）ので，もう少しepochを増やして確認してみるとよさそうですね．

[TetraMiyazaki]

廣田くんの学習がまだ途中に見えるっていうのをもっというと，学習の最後で参照ベクトルがデータの端まで広がってないっていうところからということですね．（おそらく）
端まで広がってない＝学習がまだ途中って思うのはなんでなんですかね．（問いかけ）

[kz-halfmoon]

廣田くんの学習がまだ途中に見えるっていうのをもっというと，学習の最後で参照ベクトルがデータの端まで広がってないっていうところからということですね．（おそらく）
端まで広がってない＝学習がまだ途中って思うのはなんでなんですかね．（問いかけ）

廣田としては，そこまで細かく観察して発言したわけではなくて，シンプルにまだ潜在変数の更新が起きそうな挙動してるなと思っただけですね．写像の更新も含めて，更新されなくなるまでプログラム回してみた方がいいと思いますというアドバイスの意図でした．

[tanacchi]

SOM の実装自体は OK です！
ただちょっと目的関数の計算が気になります．．．

ある時点の参照ベクトルと潜在変数から Heskes の目的関数の値を出したいんだと思いますが，ちょっと変ですね…
ここを解決してから次に進む（そのときはサポートします）か，ここはスキップして先のことに進むか，どちらが良いですか？
なんとなく Mtg 聞いてる感じだと色々急ぎで別のこと勉強しなきゃいけないようですが...