![自己紹介
• 名前：真木勇人 まきはやと(twitter: @mkhyt)
• 所属：奈良先端科学技術大学院大学 (NAIST)
▸ 情報科学研究科 D1 知能コミュニケーション研究室
• 専門
▸ 信号処理、機械学習
▸ 研究テーマ：機械学習を利用した脳情報の分解・解読
0 200 400 600 800
−20
0
20
40
0 200 400 600 800
−10
0
10
Amplitude[µV]Amplitude[µV]
0 0.2 0.4 0.6 0.8
-10
0
10
0
20
-20
40
N1
P2
N2
P3
Target
Non-targ
(a)
(b)](https://image.slidesharecdn.com/litmachinelearning-151127153804-lva1-app6891/85/-2-320.jpg)
機械学習 入門
- 2. 自己紹介 • 名前：真木勇人 まきはやと(twitter: @mkhyt) • 所属：奈良先端科学技術大学院大学 (NAIST) ▸ 情報科学研究科 D1 知能コミュニケーション研究室 • 専門 ▸ 信号処理、機械学習 ▸ 研究テーマ：機械学習を利用した脳情報の分解・解読 0 200 400 600 800 −20 0 20 40 0 200 400 600 800 −10 0 10 Amplitude[µV]Amplitude[µV] 0 0.2 0.4 0.6 0.8 -10 0 10 0 20 -20 40 N1 P2 N2 P3 Target Non-targ (a) (b)
- 4. 機械学習 とは
- 5. 機械学習 • いわゆる「人工知能」の基盤技術 音声認識 顔画像検出 対話システム（Siri） レコメンドシステム 手書き文字認識 機械翻訳 ユーザークラスタリング 異常検出 Machine Learning
- 9. 例：ビニールハウスの害虫発生予測 • ビニールハウスの内外に温度計・湿度計が1つずつ設置 • 温度と湿度がある条件を満たすと、ビニールハウス内に害虫が発生 「データサイエンティスト養成読本機械学習入門編」（技術評論社）から改変して引用 時間 予測モデル (ルール) アラート飛ばす アラート飛ばさない 入力 出力 ルールをどうやって決める？ 気温 生データ 外気温平均 内気温平均 外湿度平均 内湿度平均 当日の季節 特徴抽出 特徴ベクトル
- 10. 人手でルールを決めてみよう • 過去のデータを眺めてみる（架空のデータ） 外気温(℃) 内気温(℃) 外湿度(%) 内湿度(%) 季節 害虫発生 data1 33.5 37.1 70.2 72.4 0 1 data2 35.4 41.5 53.2 55.8 0 0 data3 31.8 35.4 63.3 62.0 0 1 data4 24.7 28.0 68.9 70.0 0 0 data5 10.6 25.2 61.1 63.8 1 1 data6 5.1 22.1 44.5 52.9 1 0 data7 6.3 20.4 70.7 75.3 1 0 data8 12,5 23.6 62.7 77.9 1 1 夏＝0, 冬＝1 なし＝0, あり＝1 「内気温が30℃以上」ならアラート？ 「夏かつ内気温30℃以上」または「冬かつ内気温25℃以上」ならアラート？？ 「夏かつ内気温30℃以上かつ内湿度60%以上」または「冬かつ内気温25℃以 上かつ内湿度%60以上」ならアラート？？？
- 11. 「内気温が30℃以上」ならアラート？ 「夏かつ内気温30℃以上」または「冬かつ内気温25℃以上」ならアラート？？ 「夏かつ内気温30℃以上かつ内湿度60%以上」または「冬かつ内気温25℃以 上かつ内湿度%60以上」ならアラート？？？ 外気温(℃) 内気温(℃) 外湿度(%) 内湿度(%) 季節 害虫発生 data1 33.5 37.1 70.2 72.4 0 1 data2 35.4 41.5 53.2 55.8 0 0 data3 31.8 35.4 63.3 62.0 0 1 data4 24.7 28.0 68.9 70.0 0 0 data5 10.6 25.2 61.1 63.8 1 1 data6 5.1 22.1 44.5 52.9 1 0 data7 6.3 20.4 70.7 75.3 1 0 data8 12,5 23.6 62.7 77.9 1 1 人手でルールを決めてみよう • 過去のデータを眺めてみる（架空のデータ） 夏＝0, 冬＝1 なし＝0, あり＝1 高次元かつ大量のデータに対して人手で 法則性（ルール）を構築するのは困難 ルールの構築を自動化するのが機械学習 (機械にルールを発見させる)
- 12. 機械学習の手法 •教師あり学習 Supervised Learning ‣ 分類 Classification ‣ 回帰 Regression •教師なし学習 Unsupervised Learning ‣ クラスタリング Clustering ‣ 次元削減 Dimensionality Reduction ‣ 異常検出 Anomaly Detection
- 13. 教師あり学習 • トレーニングデータ（過去のデータ）使って、関数 f (予測モデル) を推定する問題（関数近似問題） • トレーニングデータ: 特徴ベクトルと正解ラベルの事例セット xを入力して、yを予測する x = (x1, x2) = (気温, 湿度) y = 害虫発生あり or 発生なし, Day1 x = (30, 70) y = あり Day2 x = (24, 65) y = なし ・ ・ ・ ・ ・ ・ ・ ・ ・
- 14. 回帰と分類 •回帰 ▸ 予測値が数値である問題 ▸ 例1) 気温からテーマパークの来場者数を予想する ▸ 例2) 年齢と喫煙本数から残りの寿命を予想する •分類 ▸ 予測値がクラスである問題 ▸ 例1) 単語からスパムメールを見分ける ▸ 例2) 手書きの文字を認識する
- 15. 予測モデル 回帰モデルの学習と予測 特徴 ベクトル 正解 ラベル 都市1 x(tr1) y(tr1) 都市2 x(tr2) y(tr2) ・ ・ ・ ・ ・ ・ トレーニングデータ 学習アルゴリズム リッジ回帰 ニューラルネットなど を推定予測モデル 推定 • 例：非雇用率から犯罪発生率を予想する =(犯罪発生率） =(非雇用率） 未知のデータ 予測値
- 16. 予測モデル 分類モデルの学習と予測 特徴 ベクトル 正解 ラベル Day1 x(tr1) y(tr1) Day2 x(tr2) y(tr2) ・ ・ ・ ・ ・ ・ トレーニングデータ 学習アルゴリズム パーセプトロン SVMなど を推定予測モデル = あり or なし 未知のデータ 予測値 • 例：気温と湿度から害虫の発生を予測する 温度 湿度 = あり なし 推定
- 18. 前処理
- 19. 正規化 • 年収と年齢から、残りの寿命を予想する 年収 年齢 予測モデル： 200万 ∼ 3000万 18歳 ∼ 80歳 年収が相対的に大きく影響してしまう • 平均0、分散1になるように、特徴量ごとに正規化 : x1の平均 : x1の標準偏差
- 20. ダミー変数 • 年収と居住地から、残りの寿命を予想する 年収 居住地 予測モデル： 200万 ∼ 3000万 関東、関西、中部 • カテゴリ変数を扱えるようにダミー変数を導入 数値 カテゴリ 関東 関西 中部 該当するところは1、他は０
- 21. 機械学習を 使いこなす ために
- 23. 機械学習のデメリット •デメリット ‣ 大量かつ良質なデータが必要 ‣ 欠損値、フォーマット不揃い、網羅性 ‣ データ前処理ニスト？ ‣ 計算に長時間または豊富なマシンパワーが必要な場合 がある ‣ 結果の解釈が容易でない場合がある ‣ 特徴量の選択、ハイパーパラメタの調整など、すべて 自動になるわけではない
- 24. ビジネス利用への4つの壁 •河本「会社を変える分析の力」講談社 ← めっちゃ良い本 データの壁 分析の壁 問題 ビジネス 価値 十分な質・量の データを保有し ているか？ 適切な手法を選 択・実装し、高 い精度を実現で きるか？ KKDの壁 KKDに対する 優位性があるか？ 費用対効果の壁 データ・計算に かかる費用を上 回る効果を上げ るか？ K=勘, K=経験, D=度胸
- 35. 計算量の爆発 (次元の呪い) • 2次以下の特徴を抽出する写像 1000次元 501501次元 表現力 計算量 低次元 低い 少ない 高次元 高い 多い 高次元の表現力を実現 しつつ、計算は低次元 で行なうアイディア カーネル法！
- 42. 参考文献 • 比戸 他, データサイエンティスト養成読本 機械学習入門編, 技術評 論社 • 河本, 会社を変える分析の力, 講談社 • 杉山, イラストで学ぶ機械学習 最小二乗法による識別モデル学習を 中心に, 講談社 • Bishop, Pattern Recognition and Machine Learning, Springer • 高村, 自然言語処理のための機械学習入門, コロナ社
- 44. Kaggle • 世界最大のデータサイエンティストコミュニティ • データ解析のコンペティションを多数開催 • 賞金が出る • 他企業の協賛コンペ多数、ジョブマッチング
- 46. データに含まれる情報 •Pclass: 搭乗者のクラス (1st, 2nd, 3rd) •Name, Sex, Age, Fare(料金) •SlibSp: 同乗した兄弟または配偶者の数 •Parch: 同乗した親または子供の数 •Ticket: チケット番号 •Cabin: 客室 •Embarked: 出発港 (Cherbourg, Queenstown, Southampton)
- 47. Pythonライブラリ • numpy, scipy: 数値計算ライブラリ • pandas: データ解析ライブラリ • scikit-learn: 機械学習ライブラリ • matplolib: グラフ描写ライブラリ • IPython: 対話型シェル • 1つずつ入れるとめんどいので、Anacondaおすすめ • Kaggleのサイト上でも動かすことができる