Machine learningbootstrap For Business
- 1. Machine Learning Bootstrap 2016年2月26日 TIS株式会社 戦略技術センター 久保 隆宏 For Business
- 2. Agenda TIS戦略技術センターについて 機械学習の解説 機械学習とは 機械学習の使いどころ 機械学習の仕組み 機械学習を実装するには (おまけ)機械学習関連の情報収集について 機械学習をビジネスに適用するためのプロセス 仮説の立案 仮説の試行・評価 モデル化 運用 2
- 3. 3 About TIS Strategic Technology Center(1/6) 株主総会 取締役会 会長 社長 IT基盤技術本部 ・IT基盤技術推進部 OSS推進室 ・IT基盤サービス第１部 ・IT基盤サービス第２部 ・IT基盤サービス第３部 ・フィナンシャル基盤サービス部 ・ＩＴ基盤プロジェクト第１推進部 ・ＩＴ基盤プロジェクト第2推進部 経営会議 監査役協議会 監査部 コーポレート本部 ・企画部 広報室 営業推進室 海外事業企画室 北京駐在員事務所 ホーチミン駐在員事務所 ジャカルタ駐在員事務所 ・人事部 人材育成室 ・総務部 秘書室 ・財務経理部 ・法務部 ・コンプライアンス統括部 ・ビジネスプロセス推進部 ・プロキュアメント推進部 ・情報システム部 ・オフィススタッフセンター ＡＩ技術推進室 戦略技術センター 基盤センター 生産革新本部 ・生産革新部 生産技術R&D室 ・品質マネジメント革新部 プロジェクトリスク監理室 ・プロジェクトマネジメント部 ・セキュアワンセンター ・アプリケーション開発センター ソフトウェアエンジニアリング部 アプリケーション開発第１部 アプリケーション開発第２部 統合再編推進部 ビジネスクリエーション事業部 クレジットプラットフォーム事業部 カード第１事業部 フィナンシャル第１事業部 金融第１事業推進部 統合プロジェクト推進事業部 金融第１事業本部 カード第３事業部 フィナンシャル第２事業部 金融ソリューション事業部 金融第２事業推進部 カード第２事業部 アドバンスドクレジット事業部 金融第２事業本部 産業事業推進部 東日本産業事業部 中部産業事業部 九州支社 エネルギーセクタービジネス事業部 デジタルインテグレーション事業部 産業事業本部 公共事業部 公共事業推進部 公共プロジェクト推進事業部 公共事業本部 ITソリューションサービス事業推進部 IT戦略コンサルティング部 ビジネスシステムコンサルティング事業部 ITソリューションサービス本部 プラットフォームサービス事業推進部プラットフォームサービス本部 （平成27年11月1日時点） 西日本産業事業部 プラットフォームサービス事業部 コストセンター&支援部門 プロフィット部門 エンタープライズソリューション事業部 中長期(3～5年後)のビジネス化 を視野に入れた、先進技術の研 究・プロトタイプ開発などを手 掛ける。
- 4. 4 About TIS Strategic Technology Center(2/6) ・「機械学習」「自然言語処理」といったAI技術の検証・開発、関連技術を用いたサービスおよびソリューションの開発 ・先進顧客とのPoC（Proof of Concept：概念実証）の実施 （具体的な適用例） １）自然言語によるドキュメントの活用 ２）問い合わせ対応業務などへの活用 ３）企業内システムのマスタデータの自動メンテナンスへの活用 中期戦略技術テーマ (a) IoT (b) SDI&オーケストレーション (c) 機械学習 (d) 自然言語処理 (e) ネットワークロボティクス AI技術推進室のターゲット領域
- 5. 5 About TIS Strategic Technology Center(3/6) 質問応答によるサポート 薬剤師の代理、もしくは補 助として症状を聞き出しな がら薬の選択をサポートす る 薬コンシェル 状況認識に基づく提案 会議診断士「さゆり」 嗜好理解による提案 観光ルートの自動生成 会議参加者の表情からその 良し悪しを判定し、アドバ イスを行う ユーザーの訪れたい観光ス ポット数個を元に、周辺の 観光ルートを自動生成する これまでに実施したプロトタイピング実装の例
- 6. 6 About TIS Strategic Technology Center(4/6) これまでに実施したプロトタイピング実装の例 呼び込みモードで、周辺のスポット、 またそこで行われるイベントをア ピール。 (興味を持って)近づいてきてくれた 人に対し、一対一の対話でより好み に合ったスポットを推薦。 観光スポットはデータベースから定 期的に取得。 https://youtu.be/LmbT4W9odtQ 自律的な情報配信と、対話による推薦 レジャー&サービス産業展に出展 http://hanjohanjo.jp/article/2015/10/22/2949.html
- 7. 7 About TIS Strategic Technology Center(5/6) 「次世代ロボット中核技術開発」の研究 NEDO（新エネルギー・産業技術総合開発機構）の研 究開発項目「革新的なロボットインテグレーショ ン」技術開発の公募プロジェクトにおいて、明治大 学と共同で人の集散する空間で自由に活動できるロ ボットを目指した技術開発を行う。 車線がある等行動時に取るべ きルールが必ずしも明確では ない環境での行動 「マルチモーダルインタラクションを用いた パブリックスペースにおける対話処理」の共同研究 奈良先端科学技術大学院大学と「マルチモーダルイ ンタラクションを用いた対話処理に関する研究」を、 2015年11月から共同で開始。 ニュース | TISと奈良先端大が「マルチモーダルインタラクションを用いた パブリックスペースにおける対話処理」を共同研究 http://www.tis.co.jp/news/2016/20160112_1.html ニュース | TIS、明治大学との共同研究がNEDOの「次世代ロボット中核技術開発」事業に採択 http://www.tis.co.jp/news/2015/20150803_1.htm ロボットが、視覚・聴覚を含め、 複数（マルチ）のコミュニケー ションモードを利用して人との 対話を実現 大学との共同研究
- 8. 8 About TIS Strategic Technology Center(6/6) 技術ブログ（Tech-Sketch.jp） CodeZine（Tech-Sketch出張所） 技術勉強会（Tech-Circle） facebook（Tech-Sketch） http://techcircle.connpass.com/ https://www.facebook.com/techsketch http://tech-sketch.jp/ http://codezine.jp/article/corner/480 技術情報の社外発信
- 9. 9 Who are you. Takahiro Kubo(@icoxfog417) <Carrer> • 化学系メーカーの業務コンサルタント • 機械学習/自然言語処理を利用したアプリケーションのプロト タイピング(現在はロボット・プレゼンテーターの研究が主) <Topics> • PyCon 2015 Tutorial担当 • Watson Hackathon Softbank賞(準優勝相当) • Qiita 機械学習ランキング1位/Pythonランキング2位 • (2016/2/25時点) <License> • SAPコンサルタント(BI, FI) • ※ただ主に担当してたのはなぜかSC • サイボウズ公認kintone evangelist
- 11. 機械学習とは 11
- 15. 15 機械学習って・・・
- 17. 機械学習の使いどころ 17
- 19. 機械学習の使いどころ ユーザーの評価値を予測して推薦 Amazon: 商品レコメンド Gmail: 迷惑メールフィルタ Facebook: 顔認識によるタグ付 成功を収めている、メジャーな事例 値の予測 分類の予測 ・大規模なデータ/ユーザー ・完璧な精度は必要ないが、あると うれしい(人間の作業のサポート) 機械学習の強みを活かした適用
- 20. 機械学習の使いどころ 人間でも予測困 難なものは当て られない。 株価の予測 Android: 顔認識を利用したロック 適用が難しい領域 値の予測 分類の予測 ・人間にも不可能なことをやらせる ・完璧な精度が必要なシーン ・単純なルールの方が適している シーン 名刺管理のSanSanのように、システ ム＋人の力を活用した例もある パスワード(ルール)の方が 早い。また、夜など状況に よっては解除できない可能 性も。 ※補助的に使うのはありで、 実際そうなっていると思い ます スマートフォンのアシスタント機能 音声認識は100%にはなら ない。 アイコン化されたボタンを タップする(ルール)方が簡 単
- 21. 付加価値の創出 Bill Guard: オンライン決済の不正利用の検知 ダイキン工業: 故障の予知によるサポートサービス 東京海上日勤火災保険: 顧客属性(攻め・守り)の自動判定 コストの削減 Ｇoogleデータセンター :消費電力削減 日本郵船: エンジン制御による燃料費削減 ThyssenKrupp Elevator: 機械学習によるビル管理 新規事業の創出 千葉県: 健康診断データを活用したマーケット創出 クックパッド: レシピデータの提供・分析サービス ビジネス領域での応用例 機械学習の使いどころ
- 25. 25 機械学習は、人間ほどではないが、複雑なルールに基づく処理をそこそこの 精度で大量/高速に処理できる。 これにより、何百万と配信されるアプリケーション、また多くのユーザーそ れぞれに対し、「人間的な」対応や判断を行う機能を実装することができる。 そのメリットとして、以下のようなものがあげられる。 • サービスにさらなる付加価値を付ける レコメンド、サポートサービス • コストダウン 運用管理コスト、異常検知自動化による無人化 • 新サービスの創出 自社データを活用したサービスプラットフォーム 機械学習の使いどころ
- 26. 機械学習のしくみ 26
- 32. 機械学習のしくみ 32 機械学習とはモデル(機械)を選択し、パラメーターの調整(学習)を行うこと。 パラメーターは、実際のデータと予測したデータの差異が小さくなるように 調整される。 学習のさせ方は、以下のようなものがある。 • 教師有り学習: 答え付きデータを与え、その関係を学習させる • 教師無し学習: データのみ与えて、その特徴を学習させる • 強化学習: あるルール(環境)の中で、最適な行動原理を学習させる なお、最近流行のディープラーニング(深層学習)は、ニューラルネットワー クを多層にしたモデルを扱う手法全般を指す (多層ニューラルというモデ ル・多層ニューラルの学習手法双方を含む) 。
- 34. 機械学習を実装するには 34
- 35. 機械学習を実装するには 35 導入のスピード 拡張性ライブラリ型 パッケージ型 サービス型 scikit-learn(Python) MLlib (Scala等) mahout (Java) Jubatus Azure Machine Learning Google Prediction API Prediction I/O 組み込み済みの機 能をAPIで使用 プログラムに組み 込む Amazon Machine Learning クラウド上で実装 しAPIから使用
- 36. 機械学習を実装するには ライブラリ型：プログラムに組み込むライブラリ形式で提供されているもの ○：高い自由度でプログラムに組み込むことができる ×：利用にあたっては専門的な知識が必要 パッケージ型：よく利用するアルゴリズムをサーバー等にまとめたもの ○：目的 (推薦・異常検知など)に応じまとまった形で機能が提供されてお り、利用しやすい ×：パッケージが提供するAPI・機能の範囲でのみカスタマイズが可能。 サービス型：クラウド経由で提供するもの ○：クラウド上でサービスが提供されており、導入の敷居が低い。 ×：手軽に導入できる分、機能・データ量等に制限がある場合がある。課金 体系にも注意。 36 自由度と使いやすさのトレードオフ
- 37. 機械学習を実装するには 実際使ってみよう！ ライブラリ型：scikit-learn scikit-learn-notebook パッケージ型：Jubatus・・・は用意できなかったので事例を 住友精密工業株式会社(2014/2/12) 住友精密が提供するビニールハウス温度管理サービスにおいて、ビッグ データのリアルタイム分析基盤「Jubatus」を導入。各センサユニットか ら得られたセンサデータを機械学習し、個々のビニールハウスにおける 季節毎の異常値の自動検知や最適な温度管理の自動設定の実現を目指す (現在は検証中)。 PredictionIOはSalesforceに買収された クラウド型：Azure Machine Learning Azure Machine Learning を利用したアプリケーション開発 37
- 39. 機械学習関連の情報収集について 基礎知識 Courseraの機械学習コース 最もおすすめ。日本語字幕もあり(最近、自分のペースで進められる自習用コースも開設)。 日本語の解説を書いてくれている方もいる。こちら参照(① ② ③ ④ ⑤)。 ただ、機械学習は数式と英語の海なのでもう慣れておいた方がいいという説あり。 実践 機械学習システム 扱っているテーマ(自然言語処理・レコメンドなど・・・)が豊富で、基礎知識と応用をバ ランスよく学ぶことが可能(ただ、理論的な説明はあまりないため、基礎理論を学んだあ との応用として◎)。 機械学習 はじめよう サイボウズエンジニアの方による非常に丁寧な解説。実装例はないので、Pythonを使っ て自分で実装していったり、英語でわからないときに見返すと良い。 言語処理100本ノック 自然言語処理マスターに向けての100の課題を提供している。2015年にリニューアル。 旧版はこちら。Pythonの入門としても良い。 (機械学習プロフェッショナルシリーズ) 書いている人がばらばらなため、難易度にもばらつきがある。全体的にはわかりやすく 書かれているが、買う際は可能であれば中身を見た方が良い。 Pythonも含めた、機械学習ライブラリの情報 awesome-machine-learning 39
- 40. 機械学習関連の情報収集について 最初の一歩としてあまりお勧めしないもの(数学の素養がある場合を除く) はじめてのパターン認識 パターン認識と機械学習(上下) これくらい読んどくべきでしょ、という意見はあると思います。ただ、最初にこ れらに取り組むと高い確率で挫折すると思います。 そのため、先ほど上げた基礎知識編から初めて、必要に応じて読むという方がい いと思います。 40
- 41. 機械学習関連の情報収集について 41 数学・統計の知識を身に着けるために(上記のような本を読みこなすために) データ解析のための統計モデリング入門 一般化線形モデル・階層ベイズモデル・MCMC (確 率と情報の科学) 上の2冊に比べればだいぶ読みやすい データ分析のための線形代数 少し見ただけだが、かなりわかりやすい(版を重ねてないのが気になるが・・・)
- 44. 仮説の立案 44 機械学習=新しいトレーニング器具、のようなもの。 • 新しい、効果が出るらしい、買ってみたい • 買ってみたけど・・・ • 効果はあるようなないような • やらないよりはましだったかも？ 何をしたかったのか？ • なぜトレーニングすべきなのか • ダイエット、健康維持、あるいは大会に出るetc • トレーニングの成功とは何か • どこの筋肉を、いつまでに、どれくらいつけるべき 機械学習を使用するしないにかかわらず、以下3点を明確にする 1. 解決すべき課題 2. 課題を解決しうるアプローチについての仮説 3. 改善効果を見るための評価指標(KPI) 機械学習は手段であり、目的ではない。 機械学習という手段の有無で、課題解決のアプローチは変わらない。
- 45. 仮説の試行・評価 45 課題解決のための仮説、その効果を測定するためのKPIが定まったら、まずは人手でもよ いので試行してみる。 例) Amazonのレコメンド • 仮説: 特定の商品と、よく一緒に買われる商品を提案すれば購入率が上がる • KPI: 購入率 そもそもレコメンドを行ったら購買率が上がるのか？ ⇒仮説の試行・評価を行ってみる(A/Bテストなど)。 • 試行: 特定のアイテムに絞って実装してみる(パソコンとケーブルなど・・・) • 評価: KPIの動きをみる 仮説の試行が、KPIに対して有意に働くかを検証 ※試行が実装できないような仮説が機械学習で実現可能になることはほぼない。 立証されない仮説に対する投資に意味はない。 レコメンドがそもそも有効でなければ、その精度が100%でもビジネスに貢献しない。
- 46. モデル化 46 仮説が検証されたら、その実装方法を考える(機械学習の出番!?) 試行段階から、さらに精度を上げたり、適応範囲を広げるために、モデル化を行う。 • モデル化の手法について検討 • ルールベースで十二分なカバーが可能なら機械学習を使う必要はない • 機械学習の方が精度が出るか？あるいは適用領域を広げることができるか？をよく検討 • データの収集 • 仮説の試行段階で、必要なデータ項目や、そのデータを保持しているシステムについては当 たりがついているはず まずシンプルなモデルを構築し、想定された効果が出ることを確認する。 ※以下の欲望は抑える • Deep Learningやりたい • 最新の手法を試したい • あのライブラリを使いたいetc… 仮説で検証した効果を実際に適用するために、モデル化を行う。 モデルはシンプルなものからはじめ、精度等の必要に応じて変更を行う。
- 48. 運用 48 リリース後は、KPIの推移を定常的に監視する KPIの推移を監視し、その動きと原因について仮説を立てることで次のアクションを取る。 KPIの推移に問題が発生した場合(思ったほど上昇しないなど) • 問題の切り分け • 精度の問題なのか、仮説の問題なのか、あるいはUIの問題なのか(サイトの改修でレコメンド が目立たなくなっているなど) • A/Bテストができると良い。難しいようであれば、一度に多くの対策を打つべきでない(モデ ルの再学習なども同様)。 • モデルの再学習について • データ項目の問題: 以前有効だったデータ項目が、現在では有効ではなくなるなど • データの複雑度の問題: 現象が複雑になり、既存のモデルでは対応できなくなっているなど • いつどのようにデータ、またそれを生むユーザー行動などに変化が生じるのかは予測できな い。KPIをモニタリングし、適切なタイミングを見出すしかない 精度は生き物であり、時間とともに変化する。適切なメンテナンスのタイミングは、KPI の監視によってつかむしかない。 KPIの推移を確認し、アクションを行うタイミングを見逃さないようにする。 (これは、通常のシステム投資や課題解決施策と何ら変わらない)
- 50. Thank you