More Related Content
深層学習の不確実性 - Uncertainty in Deep Neural Networks - 勾配ブースティングの基礎と最新の動向 (MIRU2020 Tutorial) What's hot (20)
【論文紹介】How Powerful are Graph Neural Networks? Domain Adaptation 発展と動向まとめ（サーベイ資料） Anomaly detection 系の論文を一言でまとめた データサイエンス概論第一=2-1 データ間の距離と類似度 Dimensionality reduction with t-SNE(Rtsne) and UMAP(uwot) using R packages. TokyoNLP#7 きれいなジャイアンのカカカカ☆カーネル法入門-C++ 【博士論文発表会】パラメータ制約付き特異モデルの統計的学習理論 Viewers also liked (20)
トピックモデルを用いた 潜在ファッション嗜好の推定 はじめてでもわかるベイズ分類器 －基礎からMahout実装まで－ 「はじめてでもわかる RandomForest 入門－集団学習による分類・予測 －」 －第７回データマイニング+WEB勉強会＠東京 ロジスティック回帰の考え方・使い方 - TokyoR #33 Tokyo.R 41 サポートベクターマシンで眼鏡っ娘分類システム構築 機械学習チュートリアル@Jubatus Casual Talks Pythonとdeep learningで手書き文字認識 scikit-learnを用いた機械学習チュートリアル 30分でわかる『R』によるデータ分析｜データアーティスト More from Takashi J OZAKI (17)
直感的な単変量モデルでは予測できない「ワインの味」を多変量モデルで予測する Taste of Wine vs. Data Science Granger因果による 時系列データの因果推定（因果フェス2015） Tech Lab Paak講演会 20150601 なぜ統計学がビジネスの 意思決定において大事なのか？ Deep Learningと他の分類器をRで比べてみよう in Japan.R 2014 『手を動かしながら学ぶ ビジネスに活かすデータマイニング』で目指したもの・学んでもらいたいもの データ分析というお仕事のこれまでとこれから(HCMPL2014) 「データサイエンティスト・ブーム」後の企業におけるデータ分析者像を探る Visualization of Supervised Learning with {arules} + {arulesViz} Rによるやさしい統計学第20章「検定力分析によるサンプルサイズの決定」 計量時系列分析の立場からビジネスの現場のデータを見てみよう - 30th Tokyo Webmining 最新業界事情から見るデータサイエンティストの「実像」 21世紀で最もセクシーな職業！？「データサイエンティスト」の実像に迫る Simple perceptron by TJO
- 4. と、その前に…
パーセプトロンが分からなきゃ、
サポートベクターマシンも分からない！
パーセプトロンが分かれば、
サポートベクターマシンなんて余裕！
今も流行中、（おそらく）史上最強の
機械学習分類器！
3
- 5. 本日のお題は…
線形識別器の基本のき、
パーセプトロンを理解しよう！
4
- 6. 簡単な例から…
【初心者向け】
分かりやすいパーセプトロンの例
5
- 8. 簡単な例から…
返値 重みベクトル 入力信号
（「±の符号」が大事！） （こいつが学習結果） （これから識別したいもの）
7
- 11. 簡単な例から…
返値 重みベクトル 入力信号
（正なら非SPAM （メールの単語頻度）
負ならSPAM）
10
- 14. 簡単な例から…
「会議」は非SPAM
「目標」は非SPAM
「お買い得」はSPAM
13
- 21. ここからは…
【ガチで勉強したい人向け】
いよいよガチなパーセプトロンのお話
20
- 28. 理屈を見てみよう
各○＆△にラベルy(k)を振る。
1 1
1 1
1 1 1
1 1
1 1 1
1
1
1 1 1 1
-1 -1 1
-1 -1 1
-1 1 1
1
-1 -1 -1 1 1
-1
-1 -1 -1 -1
-1
-1 -1 -1
-1 -1 -1 -1
-1 -1
-1
27
- 30. 理屈を見てみよう
1 1
1 1
1 1 1
1 1
1 1 1
1
1
1 1 1 1
-1 -1 1
-1 -1 1
-1 1 1
1
-1 -1 -1 1 1
-1
-1 -1 -1 -1
-1
-1 -1 -1
-1 -1 -1 -1
-1 -1
-1
29
- 31. 理屈を見てみよう
初期化してみた。
1 1
1 1
1 1 1
1 1
1 1 1
1
1
1 1 1 1
-1 -1 1
-1 -1 1
-1 1 1
1
-1 -1 -1 1 1
-1
-1 -1 -1 -1
-1
-1 -1 -1
-1 -1 -1 -1
-1 -1
-1
30
- 33. 理屈を見てみよう
各○＆△のラベルy(k)を見て！
1 1
1 1
1 1 1
1 1
1 1 1
1
1
1 1 1 1
-1 -1 1
-1 -1 1
-1 1 1
1
-1 -1 -1 1 1
-1
-1 -1 -1 -1
-1
-1 -1 -1
-1 -1 -1 -1
-1 -1
-1
32
- 34. 理屈を見てみよう
おかしいのはどれ？
1 1
1 1
1 1 1
1 1
1 1 1
1
1
1 1 1 1
-1 -1 1
-1 -1 1
-1 1 1
1
-1 -1 -1 1 1
-1
-1 -1 -1 -1
-1
-1 -1 -1
-1 -1 -1 -1
-1 -1
-1
33
- 35. 理屈を見てみよう
紫の線で囲まれたところはどうなっていた？
– ラベルt(k)とy+cの「符号」が一致してない
その他のところはどうなっていた？
– ラベルt(k)とy+cの「符号」が一致している
つまり…
– ラベルt(k)とf(x,y)の積の符号を見れば、
何か良いことがあるのでは？
34
- 37. 理屈を見てみよう
1 1
1 1
1 1 1
1 1
1 1 1
1
1
1 1 1 1
-1 -1 1
-1 -1 1
-1 1 1
1
-1 -1 -1 1 1
-1
-1 -1 -1 -1
-1
-1 -1 -1
-1 -1 -1 -1
-1 -1
-1
36
- 40. 理屈を見てみよう
「ズレ」を減らしていこう！
1 1
1 1
1 1 1
1 1
1 1 1
1
1
1 1 1 1
-1 -1 1
-1 -1 1
-1 1 1
1
-1 -1 -1 1 1
-1
-1 -1 -1 -1
-1
-1 -1 -1
-1 -1 -1 -1
-1 -1
-1
39
- 41. 理屈を見てみよう
「ズレ」を減らしていこう！
1 1
1 1
1 1 1
1 1
1 1 1
1
1
1 1 1 1
-1 -1 1
-1 -1 1
-1 1 1
1
-1 -1 -1 1 1
-1
-1 -1 -1 -1
-1
-1 -1 -1
-1 -1 -1 -1
-1 -1
-1
40
- 42. 理屈を見てみよう
「ズレ」を減らしていこう！
1 1
1 1
1 1 1
1 1
1 1 1
1
1
1 1 1 1
-1 -1 1
-1 -1 1
-1 1 1
1
-1 -1 -1 1 1
-1
-1 -1 -1 -1
-1
-1 -1 -1
-1 -1 -1 -1
-1 -1
-1
41
- 48. 理屈を見てみよう
こんな感じで逐次更新される。
1 1
1 1
1 1 1
1 1
1 1 1
1
1
1 1 1 1
-1 -1 1
-1 -1 1
-1 1 1
1
-1 -1 -1 1 1
-1
-1 -1 -1 -1
-1
-1 -1 -1
-1 -1 -1 -1
-1 -1
-1
47
- 49. 理屈を見てみよう
こんな感じで逐次更新される。
1 1
1 1
1 1 1
1 1
1 1 1
1
1
1 1 1 1
-1 -1 1
-1 -1 1
-1 1 1
1
-1 -1 -1 1 1
-1
-1 -1 -1 -1
-1
-1 -1 -1
-1 -1 -1 -1
-1 -1
-1
48
- 50. 理屈を見てみよう
こんな感じで逐次更新される。
1 1
1 1
1 1 1
1 1
1 1 1
1
1
1 1 1 1
-1 -1 1
-1 -1 1
-1 1 1
1
-1 -1 -1 1 1
-1
-1 -1 -1 -1
-1
-1 -1 -1
-1 -1 -1 -1
-1 -1
-1
49
- 52. 理屈を見てみよう
例えば値が5とかならこんな感じ。
1 1
1 1
1 1 1
1 1
1 1 1
1
1
1 1 1 1
-1 -1 1
-1 -1 1
-1 1 1
1
-1 -1 -1 1 1
-1
-1 -1 -1 -1
-1
-1 -1 -1
-1 -1 -1 -1
-1 -1
-1
51
