Machine learning for biginner
- 1. 第 4 回さくさくテキストマイニング勉強会 初めての機械学習 〜機械が学習するって何？〜 早川 敦士
- 2. http://www.slideshare.net/gepuro/ に資料が公開されています。
- 5. 自己紹介 早川 敦士 電気通信大学電気通信学部 システム工学科 三年 TwitterID: @gepuro さくさくテキストマイニング勉強会がきっかけで テキストマイニングを始めました。 統計学や品質管理に興味があります。
- 6. 自己紹介 はてなダイアリー http://d.hatena.ne.jp/gepuro/ 所属 Microcomputer Making Association http://wiki.mma.club.uec.ac.jp/hayakawa ICES （留学生国際交流会） 新入生歓迎実行委員会 DBCLS （ライフサイエンス統合データベースセンター）
- 8. 機械学習とは 〜初めに〜 機械学習については、初めて勉強しました。 名前だけは、よく聞くけど実態がよく分からず にいました。 そろそろ機械学習に挑戦してみたい。 今日は、この場をお借りして機械学習について 学んだ事を発表したいと思います。 テキスト分類の学習という点に焦点をあてて話 したいと思います。
- 10. 機械学習とは 機械学習（きかいがくしゅう、 Machine learning ）と ● は、人工知能における研究課題の一つで、人間が自 然に行っている学習能力と同様の機能をコンピュータ で実現させるための技術・手法のことである。 （ wikipedia 機械学習より）
- 11. 機械学習とは 機械学習のアルゴリズムは３つの分類がある。 ● 教師あり学習 教師なし学習 強化学習
- 15. 目次 ●自己紹介 ●機械学習とは ●学習手順 ●教師ありテキスト分類器 ●決定木 ●単純ベイズ分類器 ●最大エントロピー分類器 ●単純ベイズ・最大エントロピー分類器の比較 ●まとめ ●参考資料
- 19. 学習手順 何故、コーパスを３つに分ける？ ● a)構築した分類器を正しく評価する為に、テスト セットが必要になる。 b)検証セット無しでは、分類器の精度向上の為に 使用するコーパスが準備出来無い。
- 20. 目次 ●自己紹介 ●機械学習とは ●学習手順 ●教師ありテキスト分類器 ●決定木 ●単純ベイズ分類器 ●最大エントロピー分類器 ●単純ベイズ・最大エントロピー分類器の比較 ●まとめ ●参考資料
- 23. 目次 ●自己紹介 ●機械学習とは ●学習手順 ●教師ありテキスト分類器 ●決定木 ●単純ベイズ分類器 ●最大エントロピー分類器 ●単純ベイズ・最大エントロピー分類器の比較 ●まとめ ●参考資料
- 24. 決定木 入力データのラベル選択のフローチャート ● wikipedia より
- 28. 目次 ●自己紹介 ●機械学習とは ●学習手順 ●教師ありテキスト分類器 ●決定木 ●単純ベイズ分類器 ●最大エントロピー分類器 ●単純ベイズ・最大エントロピー分類器の比較 ●まとめ ●参考資料
- 29. 単純ベイズ分類器 入力に対してどのラベルを割り当てるか決定するの ● に、全ての素性が影響する トーマス・ベイズ (1702 年 ~1761 年 )
- 31. 目次 ●自己紹介 ●機械学習とは ●学習手順 ●教師ありテキスト分類器 ●決定木 ●単純ベイズ分類器 ●最大エントロピー分類器 ●単純ベイズ・最大エントロピー分類器の比較 ●まとめ ●参考資料
- 33. 最大エントロピー分類器 考え方 ● ●乱数でパラメータの初期値を決め、最適解に近づくよ うに繰り返す。 ●最適化否かの判断基準は必ずしも存在しない。 ●単純ベイズ分類器のモデルを一般化したもの
- 34. 目次 ●自己紹介 ●機械学習とは ●学習手順 ●教師ありテキスト分類器 ●決定木 ●単純ベイズ分類器 ●最大エントロピー分類器 ●単純ベイズ・最大エントロピー分類器の比較 ●まとめ ●参考資料
- 35. 単純ベイズ・最大エントロピー分類器 の比較 単純ベイズ分類器との比較 ● 単純ベイズ分類器： ● 事前確率と素性・ラベルのペアで素性の貢献度を知る 多くのコーパスが必要 生成的分類器 最大エントロピー分類器： ● 素性とラベルの組み合わせが自由 少ないコーパスでも可能 条件付き分類器
- 36. 単純ベイズ・最大エントロピー分類器 の比較 分かる事 単純ベイズ分類器 最大エントロピー分類器 入力に対しての可能性の高い ○ ○ ラベル 入力に対してのラベルの尤度 ○ ○ 可能性の高い入力値 ○ ☓ 入力値の尤度 ○ ☓ ラベルに対しての入力値の尤 ○ ☓ 度 ２つのうち１つの値を持つ入 ○ ☓ 力に対して、可能性の高いラ ベル
- 37. 目次 ●自己紹介 ●機械学習とは ●学習手順 ●教師ありテキスト分類器 ●決定木 ●単純ベイズ分類器 ●最大エントロピー分類器 ●単純ベイズ・最大エントロピー分類器の比較 ●まとめ ●参考資料
- 39. 目次 ●自己紹介 ●機械学習とは ●学習手順 ●教師ありテキスト分類器 ●決定木 ●単純ベイズ分類器 ●最大エントロピー分類器 ●単純ベイズ・最大エントロピー分類器の比較 ●まとめ ●参考資料
- 40. 参考資料 出版 O'RELLY 入門 自然言語処理 Steven Bird, Ewan Klein, Edward Loper 著 萩原 正人、中山 敬広、水野 貴明 訳