SlideShare a Scribd company logo
エッジデバイスの実利用環境を考慮した
機械学習システム構築のあれこれ
わさらぼ/イーツリーズ・ジャパン
みよし たけふみ ( @miyox )
今日はこういう話ですよね?
エッジデバイス
エッジデバイス
エッジデバイス
エッジで推論
エッジデバイスのあれこれ
エッジで推論 SoC(RISC-V+KPU + uPython)
エッジで推論 SeeDot(Microsoft) + Arduino IDE
学習データ
ProtoNN
/usps10
最大1048576バイトのフラッシュメモリのうち、スケッチが25924バイト
(2%)を使っています。
最大196608バイトのRAMのうち、グローバル変数が1236バイト
(0%)を使っていて、ローカル変数で195372バイト使うことができま
す。
2.8m秒SeeDot
エッジで推論 FPGA
こういう話ですよね?
エッジデバイス
エッジデバイス
エッジデバイス
システムに潜むあれこれ
エッジデバイス
エッジデバイス
エッジデバイス
電源管理
バッテリートラブル
通信トラブル
計算資源の不足
計算資源の不足
本物?
管理コスト
システムに潜むあれこれ
エッジデバイス
エッジデバイス
エッジデバイス
電源管理
バッテリートラブル
通信トラブル
計算資源の不足
計算資源の不足
本物?
管理コスト
キーワードはFPGA
いくつかの取り組みの紹介
● サーバー側の処理の一部をFPGAでアクセラレート
● バッテリに関する話 - 組み込み向け電源マネジメント
● 手軽にFPGA使えるようになるといいな
○ Intel PAC
○ Amazon F1
○ 高位合成
● システムにまとめるために
サーバー側のボトルネックとFPGAによる解決案
● エッジでの機械学習 “推論”だけやります(が多い)
● あらかじめ学習しておく必要がある
● 適宜データを収集して再学習できるとよい
● そもそも最初が収集から,ということもある
   (たくさんの)エッジとサーバーの通信が必須
IEICE RECONF研 2019年1月
三好健文: “非整列ストリームデータ処理向けマルチコアプロセッサシステムの検討と評価”
エッジとサーバーのギャップ
IEICE RECONF研 2019年1月
三好健文: “非整列ストリームデータ処理向けマルチコアプロセッサシステムの検討と評価”
CPUで実行時の負荷
IEICE RECONF研 2019年1月
三好健文: “非整列ストリームデータ処理向けマルチコアプロセッサシステムの検討と評価”
CPUで実行時の負荷
PEを20個くらい並べれば
40Gbpsくらい出せそうだ
バッテリに関する話 - 組み込み向け電源管理
● 要は,必要なときに必要な電力が供給できればいい
● OSやCPUでの電源制御はあるが...
● もっと粗粒度に必要な時だけ電源ONするでもいいのでは?
● 電源をONにするやつの電源をONに...するやつの電源をO...
● 待機電力が小さくてすむFPGAを使ってみるのはいかが?
● FPGAなら電源ONですぐ起動
電源
● 要は,必要なときに必要な電力が供給できればいい
● OSやCPUでの電源制御はあるが...
● もっと粗粒度に必要な時だけ電源ONするでもいいのでは?
● 電源をONにするやつの電源をONに...するやつの電源をO...
● 待機電力が小さくてすむFPGAを使ってみるのはいかが?
● FPGAなら電源ONですぐ起動
バッテリに関する話 - 組み込み向け電源管理
バッテリー/
電気二重層コンデンサ
エネルギー源
太陽光パネルとか
タスクリスト
動作条件
実装・実験中
とりあえずスポーツアクティビティ支援 から
電源
BAYSUN リチウムイオン電池の話
http://www.baysun.net/ionbattery_story/lithium10.html
手軽にFPGAはじめる話
FPGAって面倒ですよね
今なら,
Python や Scala や C++ や Java や Go や Rust
Matlab や Halide や
で,開発できます
サーバーとも割と簡単に連携できるようになってきてます
AWS F1 を 使ってみる なら
AWS F1 を 使ってみる なら - たとえばCAM(ハッシュ)
Intel PAC
高位合成
● Vivado HLS
● Intel High level Synthesis compiler
高位合成
システムにまとめるために
エッジデバイス
エッジデバイス
エッジデバイス
電源管理
バッテリートラブル
通信トラブル
計算資源の不足
計算資源の不足
本物?
管理コスト
システムにまとめるために
エッジデバイス
エッジデバイス
エッジデバイス
電源管理
バッテリートラブル
通信トラブル
計算資源の不足
計算資源の不足
本物?
管理コスト
 エッジデバイスってどこまで面倒みてあげないといけないの?
 こういうサービスは使えたりしないの?提案したら喜ばれる?
 FPGA使ってみたいけど,何からはじめてみたらいい?

More Related Content

PPTX
HPA交流会2019春
PDF
kagamicomput201805
ODP
Mbed gps logger_20101105
PDF
kagami_comput2015_5
PDF
Fully-Functional FPGA Prototype with Fine-Grain Programmable Body Biasing (FP...
PDF
kagamicomput201705
PPTX
タミヤのカムロボを改造中 micro:bit編
PDF
2015年度GPGPU実践基礎工学 第8回 並列計算の概念 (プロセスとスレッド)
HPA交流会2019春
kagamicomput201805
Mbed gps logger_20101105
kagami_comput2015_5
Fully-Functional FPGA Prototype with Fine-Grain Programmable Body Biasing (FP...
kagamicomput201705
タミヤのカムロボを改造中 micro:bit編
2015年度GPGPU実践基礎工学 第8回 並列計算の概念 (プロセスとスレッド)

What's hot (11)

PDF
141125CITBrains
PDF
130301ロボカップ各チームの技術
PPTX
ロボットシステム学2015第3回
PDF
CMSI計算科学技術特論A (2015) 第9回
PPTX
Summercamp2020 group2
PDF
2015年度GPGPU実践基礎工学 第7回 シングルコアとマルチコア
PDF
2015年度GPGPU実践基礎工学 第3回 GPUクラスタ上でのプログラミング(CUDA)
PDF
組込みシステムでIoTへの扉を開こう! mruby on LEGO Mindstorms EV3 (R)
PDF
Good Arm FPGA Board Ultra96 and Google AI YOLO
PDF
2015年度GPGPU実践基礎工学 第13回 GPUのメモリ階層
PDF
Ultra96ボードでYOLOを高速化
141125CITBrains
130301ロボカップ各チームの技術
ロボットシステム学2015第3回
CMSI計算科学技術特論A (2015) 第9回
Summercamp2020 group2
2015年度GPGPU実践基礎工学 第7回 シングルコアとマルチコア
2015年度GPGPU実践基礎工学 第3回 GPUクラスタ上でのプログラミング(CUDA)
組込みシステムでIoTへの扉を開こう! mruby on LEGO Mindstorms EV3 (R)
Good Arm FPGA Board Ultra96 and Google AI YOLO
2015年度GPGPU実践基礎工学 第13回 GPUのメモリ階層
Ultra96ボードでYOLOを高速化
Ad

Similar to Misc for edge_devices_with_fpga (20)

PPTX
機械学習 / Deep Learning 大全 (6) Library編
PDF
Android & Nui & Physical Computing
PDF
Arduinoが拓く「新しいものづくりの世界」120713(robotechセミナー)
PDF
第162回情報処理学会ハイパフォーマンスコンピューティング研究発表会
PDF
Getting Started with Jetson Nano
PDF
第1回 配信講義 計算科学技術特論A (2021)
PDF
Movidius Neral Compute Stickを使ってみた
PDF
データサイエンティスト協会 木曜勉強会 #02 講演2:『ビッグデータの0次分析手法と適用例のご紹介 ~俯瞰から始まる企業内ビッグデータの活用~』
PDF
ハードウェア進化についていけ 〜 実用化が進む GPU、そして注目が集まる Edge TPU の威力に迫る 〜
PDF
PCCC24(第24回PCクラスタシンポジウム):東京大学情報基盤センター テーマ3「次の一手:Miyabiと将来に向けた取り組み」
PDF
MeeGo Seminar Winter Porting 20101209
PPTX
2014 1018 OSC-Fall Tokyo NETMF
PDF
PCCC23:東京大学情報基盤センター 「Society5.0の実現を目指す『計算・データ・学習』の融合による革新的スーパーコンピューティング」
KEY
Androidロボットサミットin名古屋
PDF
マルチコアのプログラミング技法 -- OpenCLとWebCL
PDF
Intel OpenVINO、 NVIDIA Deepstream対応開発キットから、 エッジサーバー、Azure Data Box Edgeまで、 Az...
PDF
Iot algyan jhirono 20190111
PDF
seccamp2012 チューター発表
PDF
第 1 回 Jetson ユーザー勉強会
PPTX
つくってドヤると楽しい
機械学習 / Deep Learning 大全 (6) Library編
Android & Nui & Physical Computing
Arduinoが拓く「新しいものづくりの世界」120713(robotechセミナー)
第162回情報処理学会ハイパフォーマンスコンピューティング研究発表会
Getting Started with Jetson Nano
第1回 配信講義 計算科学技術特論A (2021)
Movidius Neral Compute Stickを使ってみた
データサイエンティスト協会 木曜勉強会 #02 講演2:『ビッグデータの0次分析手法と適用例のご紹介 ~俯瞰から始まる企業内ビッグデータの活用~』
ハードウェア進化についていけ 〜 実用化が進む GPU、そして注目が集まる Edge TPU の威力に迫る 〜
PCCC24(第24回PCクラスタシンポジウム):東京大学情報基盤センター テーマ3「次の一手:Miyabiと将来に向けた取り組み」
MeeGo Seminar Winter Porting 20101209
2014 1018 OSC-Fall Tokyo NETMF
PCCC23:東京大学情報基盤センター 「Society5.0の実現を目指す『計算・データ・学習』の融合による革新的スーパーコンピューティング」
Androidロボットサミットin名古屋
マルチコアのプログラミング技法 -- OpenCLとWebCL
Intel OpenVINO、 NVIDIA Deepstream対応開発キットから、 エッジサーバー、Azure Data Box Edgeまで、 Az...
Iot algyan jhirono 20190111
seccamp2012 チューター発表
第 1 回 Jetson ユーザー勉強会
つくってドヤると楽しい
Ad

More from Takefumi MIYOSHI (20)

PDF
ACRi_webinar_20220118_miyo
PDF
DAS_202109
PDF
ACRiルーム1年間の活動と 新たな取り組み
PDF
RISC-V introduction for SIG SDR in CQ 2019.07.29
PDF
Cq off 20190718
PDF
Synthesijer - HLS frineds 20190511
PDF
Reconf 201901
PDF
Hls friends 201803.key
PPTX
Abstracts of FPGA2017 papers (Temporary Version)
PDF
Hls friends 20161122.key
PDF
Synthesijer and Synthesijer.Scala in HLS-friends 201512
PDF
PDF
Microblaze loader
PDF
Reconf 201506
PDF
Synthesijer jjug 201504_01
PDF
Synthesijer zynq qs_20150316
PDF
Synthesijer fpgax 20150201
PDF
Synthesijer hls 20150116
PDF
Synthesijer.Scala (PROSYM 2015)
ACRi_webinar_20220118_miyo
DAS_202109
ACRiルーム1年間の活動と 新たな取り組み
RISC-V introduction for SIG SDR in CQ 2019.07.29
Cq off 20190718
Synthesijer - HLS frineds 20190511
Reconf 201901
Hls friends 201803.key
Abstracts of FPGA2017 papers (Temporary Version)
Hls friends 20161122.key
Synthesijer and Synthesijer.Scala in HLS-friends 201512
Microblaze loader
Reconf 201506
Synthesijer jjug 201504_01
Synthesijer zynq qs_20150316
Synthesijer fpgax 20150201
Synthesijer hls 20150116
Synthesijer.Scala (PROSYM 2015)

Misc for edge_devices_with_fpga