![Inspired by Google Vizier(A Service for Black-Box Optimization)
[D. Golovin, B. Solnik et al. 2017]
● Googleが社内のBorg(Kubernetesの前身)前提に作ったシステムを参考
● 様々なタスクのハイパーパラメータチューニングを共通化
Katib](https://image.slidesharecdn.com/katib-180716144308/85/Katib-4-320.jpg)
![サポートされているアルゴリズム
• Suggestion
• Random
• Grid
• HyperBand [L. Li, K. Jamieson et al.]
• Bayesian Optimization [E. Brochu, V. Cora et al.]
• EarlyStopping
• MedianStopping [D. Golovin, B. Solnik et al.]](https://image.slidesharecdn.com/katib-180716144308/85/Katib-12-320.jpg)
Katib
- 2. 自己紹介 大嶋 悠司 @overs_5121 NTT ソフトウェアイノベーションセンタ OSS活動が主な業務の１つ • GoBGP(ソフトウェアBGPルータ) • Docker • Docker/Infrakit (メンテナ） • KubeFlow/Katib (オーナー/Approver)
- 4. Inspired by Google Vizier(A Service for Black-Box Optimization) [D. Golovin, B. Solnik et al. 2017] ● Googleが社内のBorg(Kubernetesの前身)前提に作ったシステムを参考 ● 様々なタスクのハイパーパラメータチューニングを共通化 Katib
- 7. パラメータの範囲な どのコンフィグ Start Study Client がKatib API を使ってタスクをスタート ______ ______ ______ Early Stopping Early Stopping Workers
- 8. Early Stopping Early Stopping Workers Suggestion service 定義された空間からパラメータを生成 パラメータ生成 各パラメータを評価する Workerを起動 Suggestion Suggestion要求
- 9. Early Stopping Early Stopping Workers EarlyStopping Service が各ワーカを監視し，アルゴリズムに基づいて止 めるワーカを決定 ワーカを監視 見込みのないワーカを早期終了 EarlyStopping
- 10. How to use Katib ManagerClient Call GRPC APIs • Create Study • GetSuggestions • RunTrials • GetMetrics K8s API Server ハイパーパラメータを埋め込んだ学 習用のPodを生成 Get Logs
- 11. name: mnist-demo owner: oshima optimizationtype: 2 optimizationgoal: 0.99 parameterconfigs: configs: - name: --lr parametertype: 1 feasible: min: "0.01" max: "0.03" - name: --num-layers …
- 12. サポートされているアルゴリズム • Suggestion • Random • Grid • HyperBand [L. Li, K. Jamieson et al.] • Bayesian Optimization [E. Brochu, V. Cora et al.] • EarlyStopping • MedianStopping [D. Golovin, B. Solnik et al.]
- 15. Katibコンセプト • k8sと連携して大規模並列に評価 • パラメータチューニングのアルゴリズム自体のテストも容易に • スケーラブルに • 共通基盤として頑健に
- 16. Katib Manager Suggestion Service EarlyStopping Service Katib DB MySQL Create/Get Resources • Study • Trial • Worker • ServiceParameter K8S API Server GetSuggestions GetShouldStopWorkers Run/Stop Worker Get Metrics ModelDB Save/Get Model Get/Create/Run Resouces • Study • Trial • Worker • ServiceParameter APIs Katib API: Interface for clients Internal API: Interface for Internal service
- 17. 今後 KubeFlow は 9月にv0.3 12月にv1.0予定 Katibは • アーキテクチャサーチもサポートしたい！ • もっとハイレベルなAPIがほしい • パラメータとパフォーマンスに紐付いたモデル管理 • などなど．． コントリビューター大募集中！
- 18. まとめ • KatibはKubeFlowのハイパーパラメータチューニングフレームワー ク • Kubernetesと連携して大規模並列に実行 • スケーラブルかつ容易に拡張できるように設計されている