Submit Search
Jupyter Notebookを納品した話
Download as PPTX, PDF
10 likes
14,066 views
Hiroki Yamamoto
社内勉強会で発表した「Jupyter Notebookを納品した話」です。
Software
Related topics:
Data Mining Insights
Read more
1 of 33
Download now
Downloaded 25 times
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
More Related Content
PPTX
How to use scikit-image for data augmentation
Hiroki Yamamoto
PPTX
Jupyterで手順再現!Elasticsearch構築・運用を実行可能ドキュメントで機械化してみた
Satoshi Yazawa
PPTX
Jupyterで運用やってみた
Satoshi Yazawa
PPTX
Jupyter notebook
亮吾 守屋
PPTX
面倒くさいこと考えたくないあなたへ〜Tpotと機械学習〜
Hiroki Yamamoto
PPTX
Pythonで機械学習を自動化 auto sklearn
Yukino Ikegami
PDF
Literate Computing for Infrastructure - インフラ・コード化の実践におけるIPython (Jupyter) Not...
No Bu
PDF
IntelliJ IDEAで快適なPython生活
敦志 金谷
How to use scikit-image for data augmentation
Hiroki Yamamoto
Jupyterで手順再現!Elasticsearch構築・運用を実行可能ドキュメントで機械化してみた
Satoshi Yazawa
Jupyterで運用やってみた
Satoshi Yazawa
Jupyter notebook
亮吾 守屋
面倒くさいこと考えたくないあなたへ〜Tpotと機械学習〜
Hiroki Yamamoto
Pythonで機械学習を自動化 auto sklearn
Yukino Ikegami
Literate Computing for Infrastructure - インフラ・コード化の実践におけるIPython (Jupyter) Not...
No Bu
IntelliJ IDEAで快適なPython生活
敦志 金谷
What's hot
(20)
PDF
TFLite_and_PyTorch_Mobile
yusuke shibui
PDF
Scikit learnで学ぶ機械学習入門
Takami Sato
PDF
Mercari Image search 1st Anniversary
yusuke shibui
PDF
ML system design_pattern
yusuke shibui
PDF
Machine learning microservice_management
yusuke shibui
PDF
Pythonを使った機械学習の学習
Kimikazu Kato
PDF
ヤフー音声認識サービスでのディープラーニングとGPU利用事例
Yahoo!デベロッパーネットワーク
PDF
Scikit-learnを使って 画像分類を行う
Arata Honda
PDF
Quality of ml_system
yusuke shibui
PDF
Pythonで簡単ネットワーク分析
antibayesian 俺がS式だ
PDF
Twillio deadshot made me happy
yusuke shibui
PDF
PyData入門(超初心者編)~野球のデータをカジュアルに可視化
Shinichi Nakagawa
PPTX
数理最適化とPython
Yosuke Onoue
PDF
正しいプログラミング言語の覚え方
Kimikazu Kato
PDF
リファクタリング勉強会 第2回
ikikko
PPT
14対話bot発表資料
Keiichirou Miyamoto
PDF
Rnncamp01
Shin Asakawa
PDF
Tensor flowを使った キュウリの仕分け あれこれ
Makoto Koike
PDF
Tensorflow
Daisuke Yamashita
PDF
S08 t0 orientation
Takeshi Akutsu
TFLite_and_PyTorch_Mobile
yusuke shibui
Scikit learnで学ぶ機械学習入門
Takami Sato
Mercari Image search 1st Anniversary
yusuke shibui
ML system design_pattern
yusuke shibui
Machine learning microservice_management
yusuke shibui
Pythonを使った機械学習の学習
Kimikazu Kato
ヤフー音声認識サービスでのディープラーニングとGPU利用事例
Yahoo!デベロッパーネットワーク
Scikit-learnを使って 画像分類を行う
Arata Honda
Quality of ml_system
yusuke shibui
Pythonで簡単ネットワーク分析
antibayesian 俺がS式だ
Twillio deadshot made me happy
yusuke shibui
PyData入門(超初心者編)~野球のデータをカジュアルに可視化
Shinichi Nakagawa
数理最適化とPython
Yosuke Onoue
正しいプログラミング言語の覚え方
Kimikazu Kato
リファクタリング勉強会 第2回
ikikko
14対話bot発表資料
Keiichirou Miyamoto
Rnncamp01
Shin Asakawa
Tensor flowを使った キュウリの仕分け あれこれ
Makoto Koike
Tensorflow
Daisuke Yamashita
S08 t0 orientation
Takeshi Akutsu
Ad
Similar to Jupyter Notebookを納品した話
(20)
PDF
Mackerel Anomaly Detection at PyCon mini Osaka
syou6162
PPTX
Out systemsaichiusermeeting#5 lt2
潤司 渡部
PDF
コンピュータ将棋・囲碁における機械学習活用
Takashi Kato
PDF
チケット管理システム大決戦第二弾
Ryutaro YOSHIBA
PDF
GoogleAnalytics Tools クックブック
Takashi Sudou
PPTX
Qiita上での人気Youtubeチャンネル動画.pptx
hero hero
PPTX
tokyo_webmining_no51
Shu (shoe116)
PDF
S06 t1 python学習奮闘記#4
Takeshi Akutsu
PDF
Twitterにおける即時話題推定技術「どたばたかいぎ」の開発
Eric Sartre
PPTX
Mishimasyk10 iwatobipen
Takayuki Serizawa
PPTX
4th tokushimaapp
Kenichi Tatsuhama
PDF
一生、エンジニアであり続けるために必要なこと「負けてからのエンジニアライフ」
雄哉 吉田
PPTX
Hello Engineer World! 新人リケジョの1年
Satoko Shiroi
PDF
Kaggle の Titanic チュートリアルに挑戦した話
y-uti
PDF
Pythonで検索エンジン2
Yasukazu Kawasaki
PDF
パケットキャプチャの勘どころ Ssmjp 201501
稔 小林
PDF
ISUCON5 予選をPHPで戦った話
Suguru Shirai
PDF
運用にモチベを求めるのは間違っているだろうか
Daisuke Itou
PPTX
Spark streamingを使用したtwitter解析によるレコメンドサービス例
Junichi Noda
PPTX
Talking about Microsoft On-premises Data Gateway
Shinya Sakakibara
Mackerel Anomaly Detection at PyCon mini Osaka
syou6162
Out systemsaichiusermeeting#5 lt2
潤司 渡部
コンピュータ将棋・囲碁における機械学習活用
Takashi Kato
チケット管理システム大決戦第二弾
Ryutaro YOSHIBA
GoogleAnalytics Tools クックブック
Takashi Sudou
Qiita上での人気Youtubeチャンネル動画.pptx
hero hero
tokyo_webmining_no51
Shu (shoe116)
S06 t1 python学習奮闘記#4
Takeshi Akutsu
Twitterにおける即時話題推定技術「どたばたかいぎ」の開発
Eric Sartre
Mishimasyk10 iwatobipen
Takayuki Serizawa
4th tokushimaapp
Kenichi Tatsuhama
一生、エンジニアであり続けるために必要なこと「負けてからのエンジニアライフ」
雄哉 吉田
Hello Engineer World! 新人リケジョの1年
Satoko Shiroi
Kaggle の Titanic チュートリアルに挑戦した話
y-uti
Pythonで検索エンジン2
Yasukazu Kawasaki
パケットキャプチャの勘どころ Ssmjp 201501
稔 小林
ISUCON5 予選をPHPで戦った話
Suguru Shirai
運用にモチベを求めるのは間違っているだろうか
Daisuke Itou
Spark streamingを使用したtwitter解析によるレコメンドサービス例
Junichi Noda
Talking about Microsoft On-premises Data Gateway
Shinya Sakakibara
Ad
Jupyter Notebookを納品した話
1.
Jupyter Notebookを 納品した話 2016/11/10 Acroquest Technology
株式会社 山本 大輝
2.
自己紹介 1. 名前:山本 大輝(やまもと
ひろき) 2. Twitter:@tereka114 3. Blog:のんびりしているエンジニアの日記 http://nonbiri-tereka.hatenablog.com/ 4. 専門:画像処理、異常検知 5. 普段はCV勉強会やPyData等で 活動しています。 Copyright © Acroquest Technology Co., Ltd. All rights reserved. 2
3.
目次 1. はじめに 2. Jupyter
Notebookとは 3. Jupyter Notebookを選んだ理由 4. Jupyter NotebookのPlugin 5. Jupyter Notebookの罠 6. まとめ 3
4.
こんなことありませんか? 1. 「データを分析して欲しい」と言われたけど、分析結果を どんな形式で提出しようか悩んでいる。 2. 分析の思考過程とコードをバラバラに管理しており、後 から分析過程を追跡できなくなる。
そのため、思考過程とコードを一緒に残したいが、コードを Word等に貼り付けたくない。 3. コードの動作確認結果を可視化したいが、対話式に 確認ができない。(デバッガでは画像は面倒) 4
5.
5 この問題全部解決できます!
6.
6 そう Jupyter ならね
7.
Jupyter Notebook 1. Jupyter
Notebookは作成したコードやドキュメントを簡 単に共有できる。 ① 様々な言語をサポート(Rも使えるよ!) ② Notebook自体の共有 ③ インタラクティブな実行 2. 可視化したグラフを掲載できる。 3. Markdownを使える。 7
8.
何ができるの? 1. コードを実行できる。基本はPythonですが、カーネルを追加 すれば他の言語も実行可能。 2. 当然、出力結果を可視化できる。
%matplotlib inlineを記述すれば、Matplotlib(グラフ)も出力可能 3. Markdownで文章を記述できる。コードをドキュメントに組み 込める。 4. 様々なPluginを利用できる。 5. Githubが.ipynb(Jupyter Notebookの拡張子)に対応して いる。 8
9.
Jupyter Notebookの例 9
10.
Markdown 図 ソースコード Jupyter Notebookの例 10 Jupyterの 特殊コマンド (Magic Command)
11.
なぜ、Jupyter Notebook? 1. Jupyter
Notebookは分析の過程を残せる。 なぜ、そのコードを書いたのか、途中経過を残すことができる。 2. Jupyter Notebookは環境を整えれば再現が可能 ① 環境を整えれば、同じ状況を再現をすることが可能できる。 ② 手順を追実験できる。(手順書としても使える!) 3. Jupyter Notebookは結果をエビデンスとして残せる。 これを納品しよう! 11
12.
実際にJupyter Notebookの良かったところ 1. 実行結果を見ながら説明ができる。
ソースコードの実行過程を見ながら説明ができる。 2. 実行結果を逐一確認できる。 現状の実行結果を見て、次にどうするか思考できる。 3. アルゴリズムの検証結果を見ることができる。 4. 便利なPluginがある。 12
13.
Jupyter Notebookの活用例 1. 分析レポートとして使う。
今回の利用用途、過程とコードが一緒でわかりやすい。 2. アルゴリズムの過程を残す。 画像処理のコードで処理後の結果を残す。 3. 手順書 基本的にはその通りやれば動くので手順書として実行コマン ド、結果、説明を同居させて残せる! 例えば、Hadoopの構築手順書 https://github.com/NII-cloud-operation/Literate-computing- Basics 13
14.
Jupyter Notebookの例 14 出展:https://github.com/NII-cloud-operation/Literate-computing-Basics/blob/master/D03_KVM%20-%20Ready!%20on%20CentOS.ipynb
15.
Jupyter Notebookの例 15 【説明】 コードややることに関す る内容を記述できる 出展:https://github.com/NII-cloud-operation/Literate-computing-Basics/blob/master/D03_KVM%20-%20Ready!%20on%20CentOS.ipynb 【コード】 実際のコマンドが わかりやすい 【実行結果】 説明と結果が 同時に見える 上から順に手順を 追える!
16.
Plugin導入の方法 1. nbextensionsを使うと、よく使うPluginは入ります。 2. インストール方法 ①
git clone https://github.com/ipython-contrib/IPython- notebook-extensions ② cd IPython-notebook-extensions ③ python setup.py install ④ sudo jupyter contrib nbextension install --user 今の日本語ページだと あまりこの情報がない 16
17.
nbextensions 17
18.
nbextensions Plugin一覧の テーブル Plugin名 18
19.
おすすめのPlugin 1. Table of
Contents (2) 見出しから目次を作成して表示する。 2. Python Markdown MarkdownにPythonの変数等を埋め込める。 3. Hide input 入力したセルを隠せる。 19
20.
Jupyter Notebookいい面 いっぱいあるよね!
21.
でも・・・・・
22.
Jupyterで苦労したこともあります。
23.
html出力時と見た目が異なることが発覚した 1. Pluginが使えない場合がある、Markdownが機能しない等、 問題が発生する。 2. Jupyter
Notebookの機能にhtmlを出力する機能があるが、 出力結果がNotebookと異なる。 3. Table of Contents (2)の機能を使っていたが、ナンバリング がなくなった。 4. 変数埋め込み機能が使えない。 etc 23
24.
Table of Contents(2)の場合~notebook~ 24
25.
Table of Contents(2)の場合~html~ インデントがない ナンバリング されていない 25
26.
その他いくつかの場合~notebook~
27.
その他いくつかの場合~html~ Notebook上でhideに したcellも、html出力 されてしまう (Hide Cell) 埋め込んだ変数名が 可視化される (Python Markdown) 27
28.
印刷が難しい 1. WebページやNotebookのまま印刷しようとすると、グラ フや表が画面から消える。 2. Jupyter
Notebookをpdf化するために、LaTeXを必要と するのが面倒。(印刷機能を使えば別の方法で可能) 28
29.
印刷が難しい 横スクロールで 印刷が途切れる 29
30.
ファイルの分割ができない 1. ファイルの分割が難しい要因は次の2つ ① ファイルの結合をサポートしていない。 Issueはありました。 https://github.com/jupyter/nbconvert/issues/253 ②
ソースコードが必要である。 2. 複数人開発の構成管理が難しい。 複数人で開発すると必ずconflictが起こる状況へ・・ 3. ファイル構成の設計が必要である。 ① Notebook自体を分割した状況を作る。 ② 結合するスクリプトを書く(できるかわからない。) 30
31.
可能な限り情報は一つのファイルにまとめる 1. csvやExcel形式についてはpandasを使うと可視化可 能となるので、うまくコードを書いて埋め込むことが可能 2. 表示形式を表で出力したい場合はpandas.DataFrame 形式で変数を保持するのも良い。 3.
あまりに長くなってくると見通しが悪化するので可能な 限り影響範囲は狭い方が良い。 4. (ちゃんと設計しましょう) 31
32.
まとめ 1. Jupyter Notebookを使うとコードや過程、手順を Notebookとして残せる。
納品可能なレベル 2. ただし、プラグイン等のカスタマイズ機能を使う場合は 気をつける必要がある。 32
33.
33 Jupyter Notebookを使おうぜ! Infrastructures Evolution
Download