Submit Search
[DLHacks]Comet ML -機械学習のためのGitHub-
5 likes
7,204 views
Deep Learning JP
2018/06/25 Deep Learning JP: http://deeplearning.jp/hacks/
Technology
Read more
1 of 22
Download now
Downloaded 20 times
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
More Related Content
PDF
[DL輪読会]Learning Transferable Visual Models From Natural Language Supervision
Deep Learning JP
PDF
BlackBox モデルの説明性・解釈性技術の実装
Deep Learning Lab(ディープラーニング・ラボ)
PPTX
近年のHierarchical Vision Transformer
Yusuke Uchida
PPTX
画像キャプションの自動生成
Yoshitaka Ushiku
PPTX
【DL輪読会】Visual Classification via Description from Large Language Models (ICLR...
Deep Learning JP
PDF
機械学習モデルのハイパパラメータ最適化
gree_tech
PPTX
[DL輪読会]Swin Transformer: Hierarchical Vision Transformer using Shifted Windows
Deep Learning JP
PDF
時系列予測にTransformerを使うのは有効か?
Fumihiko Takahashi
[DL輪読会]Learning Transferable Visual Models From Natural Language Supervision
Deep Learning JP
BlackBox モデルの説明性・解釈性技術の実装
Deep Learning Lab(ディープラーニング・ラボ)
近年のHierarchical Vision Transformer
Yusuke Uchida
画像キャプションの自動生成
Yoshitaka Ushiku
【DL輪読会】Visual Classification via Description from Large Language Models (ICLR...
Deep Learning JP
機械学習モデルのハイパパラメータ最適化
gree_tech
[DL輪読会]Swin Transformer: Hierarchical Vision Transformer using Shifted Windows
Deep Learning JP
時系列予測にTransformerを使うのは有効か?
Fumihiko Takahashi
What's hot
(20)
PPTX
[DL輪読会]GLIDE: Guided Language to Image Diffusion for Generation and Editing
Deep Learning JP
PDF
SSII2021 [SS1] Transformer x Computer Visionの 実活用可能性と展望 〜 TransformerのCompute...
SSII
PDF
動作認識の最前線:手法,タスク,データセット
Toru Tamaki
PPTX
畳み込みニューラルネットワークの高精度化と高速化
Yusuke Uchida
PPTX
画像処理AIを用いた異常検知
Hideo Terada
PDF
機械学習モデルの判断根拠の説明(Ver.2)
Satoshi Hara
PDF
【論文調査】XAI技術の効能を ユーザ実験で評価する研究
Satoshi Hara
PDF
“機械学習の説明”の信頼性
Satoshi Hara
PDF
Layer Normalization@NIPS+読み会・関西
Keigo Nishida
PDF
最適輸送の計算アルゴリズムの研究動向
ohken
PDF
SSII2022 [TS1] Transformerの最前線〜 畳込みニューラルネットワークの先へ 〜
SSII
PDF
不老におけるOptunaを利用した分散ハイパーパラメータ最適化 - 今村秀明(名古屋大学 Optuna講習会)
Preferred Networks
PDF
Word Tour: One-dimensional Word Embeddings via the Traveling Salesman Problem...
joisino
PPTX
StyleGAN解説 CVPR2019読み会@DeNA
Kento Doi
PPTX
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models
Deep Learning JP
PDF
トピックモデルの評価指標 Perplexity とは何なのか?
hoxo_m
PDF
モデルアーキテクチャ観点からのDeep Neural Network高速化
Yusuke Uchida
PDF
0から理解するニューラルネットアーキテクチャサーチ(NAS)
MasanoriSuganuma
PDF
[DL輪読会]Energy-based generative adversarial networks
Deep Learning JP
PPTX
変分ベイズ法の説明
Haruka Ozaki
[DL輪読会]GLIDE: Guided Language to Image Diffusion for Generation and Editing
Deep Learning JP
SSII2021 [SS1] Transformer x Computer Visionの 実活用可能性と展望 〜 TransformerのCompute...
SSII
動作認識の最前線:手法,タスク,データセット
Toru Tamaki
畳み込みニューラルネットワークの高精度化と高速化
Yusuke Uchida
画像処理AIを用いた異常検知
Hideo Terada
機械学習モデルの判断根拠の説明(Ver.2)
Satoshi Hara
【論文調査】XAI技術の効能を ユーザ実験で評価する研究
Satoshi Hara
“機械学習の説明”の信頼性
Satoshi Hara
Layer Normalization@NIPS+読み会・関西
Keigo Nishida
最適輸送の計算アルゴリズムの研究動向
ohken
SSII2022 [TS1] Transformerの最前線〜 畳込みニューラルネットワークの先へ 〜
SSII
不老におけるOptunaを利用した分散ハイパーパラメータ最適化 - 今村秀明(名古屋大学 Optuna講習会)
Preferred Networks
Word Tour: One-dimensional Word Embeddings via the Traveling Salesman Problem...
joisino
StyleGAN解説 CVPR2019読み会@DeNA
Kento Doi
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models
Deep Learning JP
トピックモデルの評価指標 Perplexity とは何なのか?
hoxo_m
モデルアーキテクチャ観点からのDeep Neural Network高速化
Yusuke Uchida
0から理解するニューラルネットアーキテクチャサーチ(NAS)
MasanoriSuganuma
[DL輪読会]Energy-based generative adversarial networks
Deep Learning JP
変分ベイズ法の説明
Haruka Ozaki
Similar to [DLHacks]Comet ML -機械学習のためのGitHub-
(20)
PPTX
ChatGPT(LLMによる生成系AI)の追加学習を No Code で行う ~ 概念モデリング教本を元に ~
Knowledge & Experience
PDF
20180729 Preferred Networksの機械学習クラスタを支える技術
Preferred Networks
PDF
KubeFlow MeetUp #1 Katibよもやま話
Yuji Oshima
PDF
WebRTC開発者向けプラットフォーム SkyWayの裏側
Yusuke Naka
PDF
Development and Experiment of Deep Learning with Caffe and maf
Kenta Oono
PPTX
Open capi meetup20180409 (revised)
Yutaka Kawai
PPTX
Slurmのジョブスケジューリングと実装
Ryuichi Sakamoto
PDF
今秋リリース予定のPostgreSQL11を徹底解説
Masahiko Sawada
PDF
Machine Learning Operations (MLOps): Overview, Definition, and Architecture
Takuya Minagawa
PDF
Jubatusでマルウェア分類
Shuzo Kashihara
PDF
OpenStack Summit Vancouver YVR Ops
NTT Communications Technology Development
PDF
20150513 legobease
Takeshi Yamamuro
PPTX
Upstream University
NTT Communications Technology Development
PDF
qmake入門
hermit4 Ishida
PPTX
DataEngConf NYC’18 セッションサマリー #2
gree_tech
PDF
SpringOne 2016 報告 Reactive APIの設計・実装・使用
Takuya Iwatsuka
PDF
Introduction to argo
Shunya Ueta
PDF
俺の Kubernetes Workflow with HashiStack
Toru Makabe
PPTX
巨大なサービスと膨大なデータを支えるプラットフォーム
Tetsutaro Watanabe
PPTX
EmbulkとDigdagとデータ分析基盤と
Toru Takahashi
ChatGPT(LLMによる生成系AI)の追加学習を No Code で行う ~ 概念モデリング教本を元に ~
Knowledge & Experience
20180729 Preferred Networksの機械学習クラスタを支える技術
Preferred Networks
KubeFlow MeetUp #1 Katibよもやま話
Yuji Oshima
WebRTC開発者向けプラットフォーム SkyWayの裏側
Yusuke Naka
Development and Experiment of Deep Learning with Caffe and maf
Kenta Oono
Open capi meetup20180409 (revised)
Yutaka Kawai
Slurmのジョブスケジューリングと実装
Ryuichi Sakamoto
今秋リリース予定のPostgreSQL11を徹底解説
Masahiko Sawada
Machine Learning Operations (MLOps): Overview, Definition, and Architecture
Takuya Minagawa
Jubatusでマルウェア分類
Shuzo Kashihara
OpenStack Summit Vancouver YVR Ops
NTT Communications Technology Development
20150513 legobease
Takeshi Yamamuro
Upstream University
NTT Communications Technology Development
qmake入門
hermit4 Ishida
DataEngConf NYC’18 セッションサマリー #2
gree_tech
SpringOne 2016 報告 Reactive APIの設計・実装・使用
Takuya Iwatsuka
Introduction to argo
Shunya Ueta
俺の Kubernetes Workflow with HashiStack
Toru Makabe
巨大なサービスと膨大なデータを支えるプラットフォーム
Tetsutaro Watanabe
EmbulkとDigdagとデータ分析基盤と
Toru Takahashi
More from Deep Learning JP
(20)
PPTX
【DL輪読会】AdaptDiffuser: Diffusion Models as Adaptive Self-evolving Planners
Deep Learning JP
PPTX
【DL輪読会】事前学習用データセットについて
Deep Learning JP
PPTX
【DL輪読会】 "Learning to render novel views from wide-baseline stereo pairs." CVP...
Deep Learning JP
PPTX
【DL輪読会】Zero-Shot Dual-Lens Super-Resolution
Deep Learning JP
PPTX
【DL輪読会】BloombergGPT: A Large Language Model for Finance arxiv
Deep Learning JP
PPTX
【DL輪読会】マルチモーダル LLM
Deep Learning JP
PDF
【 DL輪読会】ToolLLM: Facilitating Large Language Models to Master 16000+ Real-wo...
Deep Learning JP
PPTX
【DL輪読会】AnyLoc: Towards Universal Visual Place Recognition
Deep Learning JP
PDF
【DL輪読会】Can Neural Network Memorization Be Localized?
Deep Learning JP
PPTX
【DL輪読会】Hopfield network 関連研究について
Deep Learning JP
PPTX
【DL輪読会】SimPer: Simple self-supervised learning of periodic targets( ICLR 2023 )
Deep Learning JP
PDF
【DL輪読会】RLCD: Reinforcement Learning from Contrast Distillation for Language M...
Deep Learning JP
PDF
【DL輪読会】"Secrets of RLHF in Large Language Models Part I: PPO"
Deep Learning JP
PPTX
【DL輪読会】"Language Instructed Reinforcement Learning for Human-AI Coordination "
Deep Learning JP
PPTX
【DL輪読会】Llama 2: Open Foundation and Fine-Tuned Chat Models
Deep Learning JP
PDF
【DL輪読会】"Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware"
Deep Learning JP
PPTX
【DL輪読会】Parameter is Not All You Need:Starting from Non-Parametric Networks fo...
Deep Learning JP
PDF
【DL輪読会】Drag Your GAN: Interactive Point-based Manipulation on the Generative ...
Deep Learning JP
PDF
【DL輪読会】Self-Supervised Learning from Images with a Joint-Embedding Predictive...
Deep Learning JP
PPTX
【DL輪読会】Towards Understanding Ensemble, Knowledge Distillation and Self-Distil...
Deep Learning JP
【DL輪読会】AdaptDiffuser: Diffusion Models as Adaptive Self-evolving Planners
Deep Learning JP
【DL輪読会】事前学習用データセットについて
Deep Learning JP
【DL輪読会】 "Learning to render novel views from wide-baseline stereo pairs." CVP...
Deep Learning JP
【DL輪読会】Zero-Shot Dual-Lens Super-Resolution
Deep Learning JP
【DL輪読会】BloombergGPT: A Large Language Model for Finance arxiv
Deep Learning JP
【DL輪読会】マルチモーダル LLM
Deep Learning JP
【 DL輪読会】ToolLLM: Facilitating Large Language Models to Master 16000+ Real-wo...
Deep Learning JP
【DL輪読会】AnyLoc: Towards Universal Visual Place Recognition
Deep Learning JP
【DL輪読会】Can Neural Network Memorization Be Localized?
Deep Learning JP
【DL輪読会】Hopfield network 関連研究について
Deep Learning JP
【DL輪読会】SimPer: Simple self-supervised learning of periodic targets( ICLR 2023 )
Deep Learning JP
【DL輪読会】RLCD: Reinforcement Learning from Contrast Distillation for Language M...
Deep Learning JP
【DL輪読会】"Secrets of RLHF in Large Language Models Part I: PPO"
Deep Learning JP
【DL輪読会】"Language Instructed Reinforcement Learning for Human-AI Coordination "
Deep Learning JP
【DL輪読会】Llama 2: Open Foundation and Fine-Tuned Chat Models
Deep Learning JP
【DL輪読会】"Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware"
Deep Learning JP
【DL輪読会】Parameter is Not All You Need:Starting from Non-Parametric Networks fo...
Deep Learning JP
【DL輪読会】Drag Your GAN: Interactive Point-based Manipulation on the Generative ...
Deep Learning JP
【DL輪読会】Self-Supervised Learning from Images with a Joint-Embedding Predictive...
Deep Learning JP
【DL輪読会】Towards Understanding Ensemble, Knowledge Distillation and Self-Distil...
Deep Learning JP
[DLHacks]Comet ML -機械学習のためのGitHub-
1.
DEEPLEARNINGJP [DL HacksLT] Comet
ML – GitHub- Hiromi Nakagawa, Matsuo Lab http://deeplearning.jp/
2.
• 機械学習の実験支援ツール • できること –
実験結果の記録・比較 – ハイパーパラメータやネットワーク構造の保存 – 実行コードの保存 • 公式サポート:Keras, TensorFlow, PyTorch, scikit-learn, Theano – Chainerも使えるらしい What is CometML?
3.
• 無料プランでもPubic Projectは無制限、
Private Projectは1つ – 課金するとチーム機能やベイズ最適化によるハイパーパラメータ探索機能が使えたりする What is CometML?
4.
• 機械学習プロダクトの開発工程→「実験(Experiments)」が重要 • モデルの構造やハイパーパラメータなど、様々な条件のもと繰り返し行われる –
設定ごとの結果や、他の設定との比較を一覧したい – Gitでの管理とあまり相性が良くない • CometMLを使うことで「実験」単位の管理や比較が簡単に • チーム内での情報共有もしやすい Why CometML?
5.
• Tensorboardより詳細な記録が可能 • 複数実験の管理や比較が行いやすい –
Tensorboardは単一実験にフォーカス • リモート環境で確認できる – Tensorboardはローカル環境での起動が前提 Tensorboardとの違い
6.
How to use
7.
1. アカウントの登録
8.
• Projects >
New Projects – API Keyを取得 – 初回はQuick Start Guideに従えばOK 2. プロジェクトの作成
9.
3. comet_mlライブラリのインストール
10.
1. Experimentインスタンスを作成 – api_key:APIキー(複数プロジェクトで使い回せる) –
project_name:プロジェクト名 – team_name:チーム名 – log_code:実行コードを記録する(Default=True) – auto_param_logging:ハイパーパラメータを記録する(Default=True) – auto_metric_logging:Metricsを記録する(Default=True) 4. 訓練用スクリプトにトラッキング用コードを追加
11.
2. ハイパーパラメータを記録 4. 訓練用スクリプトにトラッキング用コードを追加 または
12.
3. metricを記録 – stepはイテレーション数やエポック数などを記録 –
可視化時のグラフのX軸に利用できる 4. 訓練用スクリプトにトラッキング用コードを追加 または
13.
4. with句の中で訓練・評価することでトラッキング 4. 訓練用スクリプトにトラッキング用コードを追加
14.
• Projectページに行くと実験ごとの結果が確認できる – カラムは編集可能でフィルタリングやソートなども可能 5.
可視化
15.
• Chart:スクリプト内で保存した変数の時系列グラフが確認できる 5. 可視化
16.
• Code:実行した際のコードが確認できる 5. 可視化
17.
• Metric:Chartに表示する項目の選択や最大値・最小値の確認が可能 5. 可視化
18.
• Output:実行時の標準出力を確認できる 5. 可視化
19.
• 複数実験を比較することも可能 5. 可視化
20.
• グラフはJPEG/PNG/SVG/PDFでダウンロード可能 • モデル構造のグラフや画像データも記録可能 •
Notesで実験ごとにコメントを残せる • Githubのレポジトリと連携させることでPull Requestも送れる その他
21.
• 便利そう まとめ
22.
• comet.ml – https://www.comet.ml •
機械学習のためのGithub、CometMLを使ってみた – https://medium.com/liaro-engineering- blog/%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92%E3%81%AE%E3%81%9F%E3%82%81%E3%81%AEgithu b-cometml%E3%82%92%E4%BD%BF%E3%81%A3%E3%81%A6%E3%81%BF%E3%81%9F-eed920be46c9 • Chainerでcomet.mlを使って学習を可視化してみた – https://qiita.com/29Takuya/items/00c1f4fef5983cdf1c54 参考文献
Download