SlideShare a Scribd company logo
DEEPLEARNINGJP
[DL HacksLT] Comet ML – GitHub-
Hiromi Nakagawa, Matsuo Lab
http://deeplearning.jp/
• 機械学習の実験支援ツール
• できること
– 実験結果の記録・比較
– ハイパーパラメータやネットワーク構造の保存
– 実行コードの保存
• 公式サポート:Keras, TensorFlow, PyTorch, scikit-learn, Theano
– Chainerも使えるらしい
What is CometML?
• 無料プランでもPubic Projectは無制限、 Private Projectは1つ
– 課金するとチーム機能やベイズ最適化によるハイパーパラメータ探索機能が使えたりする
What is CometML?
• 機械学習プロダクトの開発工程→「実験(Experiments)」が重要
• モデルの構造やハイパーパラメータなど、様々な条件のもと繰り返し行われる
– 設定ごとの結果や、他の設定との比較を一覧したい
– Gitでの管理とあまり相性が良くない
• CometMLを使うことで「実験」単位の管理や比較が簡単に
• チーム内での情報共有もしやすい
Why CometML?
• Tensorboardより詳細な記録が可能
• 複数実験の管理や比較が行いやすい
– Tensorboardは単一実験にフォーカス
• リモート環境で確認できる
– Tensorboardはローカル環境での起動が前提
Tensorboardとの違い
How to use
1. アカウントの登録
• Projects > New Projects
– API Keyを取得
– 初回はQuick Start Guideに従えばOK
2. プロジェクトの作成
3. comet_mlライブラリのインストール
1. Experimentインスタンスを作成
– api_key:APIキー(複数プロジェクトで使い回せる)
– project_name:プロジェクト名
– team_name:チーム名
– log_code:実行コードを記録する(Default=True)
– auto_param_logging:ハイパーパラメータを記録する(Default=True)
– auto_metric_logging:Metricsを記録する(Default=True)
4. 訓練用スクリプトにトラッキング用コードを追加
2. ハイパーパラメータを記録
4. 訓練用スクリプトにトラッキング用コードを追加
または
3. metricを記録
– stepはイテレーション数やエポック数などを記録
– 可視化時のグラフのX軸に利用できる
4. 訓練用スクリプトにトラッキング用コードを追加
または
4. with句の中で訓練・評価することでトラッキング
4. 訓練用スクリプトにトラッキング用コードを追加
• Projectページに行くと実験ごとの結果が確認できる
– カラムは編集可能でフィルタリングやソートなども可能
5. 可視化
• Chart:スクリプト内で保存した変数の時系列グラフが確認できる
5. 可視化
• Code:実行した際のコードが確認できる
5. 可視化
• Metric:Chartに表示する項目の選択や最大値・最小値の確認が可能
5. 可視化
• Output:実行時の標準出力を確認できる
5. 可視化
• 複数実験を比較することも可能
5. 可視化
• グラフはJPEG/PNG/SVG/PDFでダウンロード可能
• モデル構造のグラフや画像データも記録可能
• Notesで実験ごとにコメントを残せる
• Githubのレポジトリと連携させることでPull Requestも送れる
その他
• 便利そう
まとめ
• comet.ml
– https://www.comet.ml
• 機械学習のためのGithub、CometMLを使ってみた
– https://medium.com/liaro-engineering-
blog/%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92%E3%81%AE%E3%81%9F%E3%82%81%E3%81%AEgithu
b-cometml%E3%82%92%E4%BD%BF%E3%81%A3%E3%81%A6%E3%81%BF%E3%81%9F-eed920be46c9
• Chainerでcomet.mlを使って学習を可視化してみた
– https://qiita.com/29Takuya/items/00c1f4fef5983cdf1c54
参考文献

More Related Content

PDF
[DL輪読会]Learning Transferable Visual Models From Natural Language Supervision
PDF
BlackBox モデルの説明性・解釈性技術の実装
PPTX
近年のHierarchical Vision Transformer
PPTX
画像キャプションの自動生成
PPTX
【DL輪読会】Visual Classification via Description from Large Language Models (ICLR...
PDF
機械学習モデルのハイパパラメータ最適化
PPTX
[DL輪読会]Swin Transformer: Hierarchical Vision Transformer using Shifted Windows
PDF
時系列予測にTransformerを使うのは有効か?
[DL輪読会]Learning Transferable Visual Models From Natural Language Supervision
BlackBox モデルの説明性・解釈性技術の実装
近年のHierarchical Vision Transformer
画像キャプションの自動生成
【DL輪読会】Visual Classification via Description from Large Language Models (ICLR...
機械学習モデルのハイパパラメータ最適化
[DL輪読会]Swin Transformer: Hierarchical Vision Transformer using Shifted Windows
時系列予測にTransformerを使うのは有効か?

What's hot (20)

PPTX
[DL輪読会]GLIDE: Guided Language to Image Diffusion for Generation and Editing
PDF
SSII2021 [SS1] Transformer x Computer Visionの 実活用可能性と展望 〜 TransformerのCompute...
PDF
動作認識の最前線:手法,タスク,データセット
PPTX
畳み込みニューラルネットワークの高精度化と高速化
PPTX
画像処理AIを用いた異常検知
PDF
機械学習モデルの判断根拠の説明(Ver.2)
PDF
【論文調査】XAI技術の効能を ユーザ実験で評価する研究
PDF
“機械学習の説明”の信頼性
PDF
Layer Normalization@NIPS+読み会・関西
PDF
最適輸送の計算アルゴリズムの研究動向
PDF
SSII2022 [TS1] Transformerの最前線〜 畳込みニューラルネットワークの先へ 〜
PDF
不老におけるOptunaを利用した分散ハイパーパラメータ最適化 - 今村秀明(名古屋大学 Optuna講習会)
PDF
Word Tour: One-dimensional Word Embeddings via the Traveling Salesman Problem...
PPTX
StyleGAN解説 CVPR2019読み会@DeNA
PPTX
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models
PDF
トピックモデルの評価指標 Perplexity とは何なのか?
PDF
モデルアーキテクチャ観点からのDeep Neural Network高速化
PDF
0から理解するニューラルネットアーキテクチャサーチ(NAS)
PDF
[DL輪読会]Energy-based generative adversarial networks
PPTX
変分ベイズ法の説明
[DL輪読会]GLIDE: Guided Language to Image Diffusion for Generation and Editing
SSII2021 [SS1] Transformer x Computer Visionの 実活用可能性と展望 〜 TransformerのCompute...
動作認識の最前線:手法,タスク,データセット
畳み込みニューラルネットワークの高精度化と高速化
画像処理AIを用いた異常検知
機械学習モデルの判断根拠の説明(Ver.2)
【論文調査】XAI技術の効能を ユーザ実験で評価する研究
“機械学習の説明”の信頼性
Layer Normalization@NIPS+読み会・関西
最適輸送の計算アルゴリズムの研究動向
SSII2022 [TS1] Transformerの最前線〜 畳込みニューラルネットワークの先へ 〜
不老におけるOptunaを利用した分散ハイパーパラメータ最適化 - 今村秀明(名古屋大学 Optuna講習会)
Word Tour: One-dimensional Word Embeddings via the Traveling Salesman Problem...
StyleGAN解説 CVPR2019読み会@DeNA
【DL輪読会】High-Resolution Image Synthesis with Latent Diffusion Models
トピックモデルの評価指標 Perplexity とは何なのか?
モデルアーキテクチャ観点からのDeep Neural Network高速化
0から理解するニューラルネットアーキテクチャサーチ(NAS)
[DL輪読会]Energy-based generative adversarial networks
変分ベイズ法の説明

Similar to [DLHacks]Comet ML -機械学習のためのGitHub- (20)

PPTX
ChatGPT(LLMによる生成系AI)の追加学習を No Code で行う ~ 概念モデリング教本を元に ~
PDF
20180729 Preferred Networksの機械学習クラスタを支える技術
PDF
KubeFlow MeetUp #1 Katibよもやま話
PDF
WebRTC開発者向けプラットフォーム SkyWayの裏側
PDF
Development and Experiment of Deep Learning with Caffe and maf
PPTX
Open capi meetup20180409 (revised)
PPTX
Slurmのジョブスケジューリングと実装
PDF
今秋リリース予定のPostgreSQL11を徹底解説
PDF
Machine Learning Operations (MLOps): Overview, Definition, and Architecture
PDF
Jubatusでマルウェア分類
PDF
OpenStack Summit Vancouver YVR Ops
PDF
20150513 legobease
PDF
qmake入門
PPTX
DataEngConf NYC’18 セッションサマリー #2
PDF
SpringOne 2016 報告 Reactive APIの設計・実装・使用
PDF
Introduction to argo
PDF
俺の Kubernetes Workflow with HashiStack
PPTX
巨大なサービスと膨大なデータを支えるプラットフォーム

PPTX
EmbulkとDigdagとデータ分析基盤と
ChatGPT(LLMによる生成系AI)の追加学習を No Code で行う ~ 概念モデリング教本を元に ~
20180729 Preferred Networksの機械学習クラスタを支える技術
KubeFlow MeetUp #1 Katibよもやま話
WebRTC開発者向けプラットフォーム SkyWayの裏側
Development and Experiment of Deep Learning with Caffe and maf
Open capi meetup20180409 (revised)
Slurmのジョブスケジューリングと実装
今秋リリース予定のPostgreSQL11を徹底解説
Machine Learning Operations (MLOps): Overview, Definition, and Architecture
Jubatusでマルウェア分類
OpenStack Summit Vancouver YVR Ops
20150513 legobease
qmake入門
DataEngConf NYC’18 セッションサマリー #2
SpringOne 2016 報告 Reactive APIの設計・実装・使用
Introduction to argo
俺の Kubernetes Workflow with HashiStack
巨大なサービスと膨大なデータを支えるプラットフォーム

EmbulkとDigdagとデータ分析基盤と

More from Deep Learning JP (20)

PPTX
【DL輪読会】AdaptDiffuser: Diffusion Models as Adaptive Self-evolving Planners
PPTX
【DL輪読会】事前学習用データセットについて
PPTX
【DL輪読会】 "Learning to render novel views from wide-baseline stereo pairs." CVP...
PPTX
【DL輪読会】Zero-Shot Dual-Lens Super-Resolution
PPTX
【DL輪読会】BloombergGPT: A Large Language Model for Finance arxiv
PPTX
【DL輪読会】マルチモーダル LLM
PDF
【 DL輪読会】ToolLLM: Facilitating Large Language Models to Master 16000+ Real-wo...
PPTX
【DL輪読会】AnyLoc: Towards Universal Visual Place Recognition
PDF
【DL輪読会】Can Neural Network Memorization Be Localized?
PPTX
【DL輪読会】Hopfield network 関連研究について
PPTX
【DL輪読会】SimPer: Simple self-supervised learning of periodic targets( ICLR 2023 )
PDF
【DL輪読会】RLCD: Reinforcement Learning from Contrast Distillation for Language M...
PDF
【DL輪読会】"Secrets of RLHF in Large Language Models Part I: PPO"
PPTX
【DL輪読会】"Language Instructed Reinforcement Learning for Human-AI Coordination "
PPTX
【DL輪読会】Llama 2: Open Foundation and Fine-Tuned Chat Models
PDF
【DL輪読会】"Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware"
PPTX
【DL輪読会】Parameter is Not All You Need:Starting from Non-Parametric Networks fo...
PDF
【DL輪読会】Drag Your GAN: Interactive Point-based Manipulation on the Generative ...
PDF
【DL輪読会】Self-Supervised Learning from Images with a Joint-Embedding Predictive...
PPTX
【DL輪読会】Towards Understanding Ensemble, Knowledge Distillation and Self-Distil...
【DL輪読会】AdaptDiffuser: Diffusion Models as Adaptive Self-evolving Planners
【DL輪読会】事前学習用データセットについて
【DL輪読会】 "Learning to render novel views from wide-baseline stereo pairs." CVP...
【DL輪読会】Zero-Shot Dual-Lens Super-Resolution
【DL輪読会】BloombergGPT: A Large Language Model for Finance arxiv
【DL輪読会】マルチモーダル LLM
【 DL輪読会】ToolLLM: Facilitating Large Language Models to Master 16000+ Real-wo...
【DL輪読会】AnyLoc: Towards Universal Visual Place Recognition
【DL輪読会】Can Neural Network Memorization Be Localized?
【DL輪読会】Hopfield network 関連研究について
【DL輪読会】SimPer: Simple self-supervised learning of periodic targets( ICLR 2023 )
【DL輪読会】RLCD: Reinforcement Learning from Contrast Distillation for Language M...
【DL輪読会】"Secrets of RLHF in Large Language Models Part I: PPO"
【DL輪読会】"Language Instructed Reinforcement Learning for Human-AI Coordination "
【DL輪読会】Llama 2: Open Foundation and Fine-Tuned Chat Models
【DL輪読会】"Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware"
【DL輪読会】Parameter is Not All You Need:Starting from Non-Parametric Networks fo...
【DL輪読会】Drag Your GAN: Interactive Point-based Manipulation on the Generative ...
【DL輪読会】Self-Supervised Learning from Images with a Joint-Embedding Predictive...
【DL輪読会】Towards Understanding Ensemble, Knowledge Distillation and Self-Distil...

[DLHacks]Comet ML -機械学習のためのGitHub-