Submit Search
NN系学習済みモデルをFPGAに実装してみた
3 likes
1,881 views
Imaoka Micihihiro
An attempt to implement a learned model of a neural network in an FPGA
Devices & Hardware
Related topics:
Neural Networks
Read more
1 of 19
Download now
Download to read offline
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
More Related Content
PDF
Attempt of implementation of neural network model on FPGA
Imaoka Micihihiro
PDF
Lチカからはじめるfpga入門
Imaoka Micihihiro
PDF
第9回セキュリティみかんlt
Imaoka Micihihiro
PPT
BigうんちDATA インタラクティブトイレの考察と実践
Imaoka Micihihiro
PDF
Cybozu lt2017
Imaoka Micihihiro
PDF
Security camp cpu
Imaoka Micihihiro
PDF
デザイナーにもできる再構築の高速化/負荷分散
Hajime Fujimoto
PDF
Androidでへっぽこ思考戦車を作ってみた
Yusuke Ohmichi
Attempt of implementation of neural network model on FPGA
Imaoka Micihihiro
Lチカからはじめるfpga入門
Imaoka Micihihiro
第9回セキュリティみかんlt
Imaoka Micihihiro
BigうんちDATA インタラクティブトイレの考察と実践
Imaoka Micihihiro
Cybozu lt2017
Imaoka Micihihiro
Security camp cpu
Imaoka Micihihiro
デザイナーにもできる再構築の高速化/負荷分散
Hajime Fujimoto
Androidでへっぽこ思考戦車を作ってみた
Yusuke Ohmichi
What's hot
(18)
PDF
サーバサイドエンジニアから見た MT構築のレガシーなノウハウ (入門編)
Osamu Nagatani
PPTX
ヤマムギVol.1 Opening
Mitsuhiro Yamashita
PDF
Wio LTEと連携できるGroveを普段の実体験から
Seigo Tanaka
PDF
生粋のRubyistがJavaを好きになった理由
Akira Kitauchi
PDF
初心者がWio LTEで作った話~IN 名古屋ハッカソン 2017~
Shingo Makino
PDF
kintone devCamp 2016 Spring 『アプリ開発なんて怖くない!gusukuでお手軽kintoneアプリ管理+α♪』
R3 institute
PDF
JavaScript使いならきっととっつきやすいNode-REDについて
Seigo Tanaka
PDF
Offloading BPF Implementation to FPGA-NIC したいねって話
slankdev
PDF
Baa sでお気楽アプリ開発
Yusuke Ohmichi
PDF
ドメイン駆動設計入門
Takuya Kitamura
PDF
CONBU API の開発
TAKANO Mitsuhiro
PDF
この中に1人、素人がいる!
infinite_loop
PDF
フロントエンドエンジニアがフルスタックエンジニアもどきになる話
Takahiro Maki
PDF
業務系エンジニアがIoTに触れて感じた事
Toshiaki Aoike
PPTX
ドメイン駆動設計と サーバサイドと私
Noriaki Kadota
PDF
SI屋的CDP
Minoru Naito
PPTX
Wio LTEをJavaScriptで開発
Junichi Katsu
PDF
最近挑戦していること at MF Geeks Night 2015.03.19
Naoto Koshikawa
サーバサイドエンジニアから見た MT構築のレガシーなノウハウ (入門編)
Osamu Nagatani
ヤマムギVol.1 Opening
Mitsuhiro Yamashita
Wio LTEと連携できるGroveを普段の実体験から
Seigo Tanaka
生粋のRubyistがJavaを好きになった理由
Akira Kitauchi
初心者がWio LTEで作った話~IN 名古屋ハッカソン 2017~
Shingo Makino
kintone devCamp 2016 Spring 『アプリ開発なんて怖くない!gusukuでお手軽kintoneアプリ管理+α♪』
R3 institute
JavaScript使いならきっととっつきやすいNode-REDについて
Seigo Tanaka
Offloading BPF Implementation to FPGA-NIC したいねって話
slankdev
Baa sでお気楽アプリ開発
Yusuke Ohmichi
ドメイン駆動設計入門
Takuya Kitamura
CONBU API の開発
TAKANO Mitsuhiro
この中に1人、素人がいる!
infinite_loop
フロントエンドエンジニアがフルスタックエンジニアもどきになる話
Takahiro Maki
業務系エンジニアがIoTに触れて感じた事
Toshiaki Aoike
ドメイン駆動設計と サーバサイドと私
Noriaki Kadota
SI屋的CDP
Minoru Naito
Wio LTEをJavaScriptで開発
Junichi Katsu
最近挑戦していること at MF Geeks Night 2015.03.19
Naoto Koshikawa
Ad
Similar to NN系学習済みモデルをFPGAに実装してみた
(16)
PPTX
PYNQで○○してみた!
aster_ism
PDF
Raspberrypitraining20171027
Kiyoshi Ogawa
PPTX
ノンコーディングでやってみよう!音声テキスト変換 - LINE × Logic Apps × Speech to text -
典子 松本
PPTX
Fpgax20170924
Natsutani Minoru
PDF
FPGAの部屋、slide share、xilinxツールのご紹介
marsee101
PPTX
Fpga programming introduction
YukiFukuda3
PPTX
Kmc例会講座
のな なの
PDF
Developers Summit 2014 「Play2/Scalaでドメイン駆動設計を利用した大規模Webアプリケーションのスクラム開発の勘所」
Yoshimura Soichiro
PPTX
総合技術特別講義講演資料2017
Hironori Nakajo
PDF
Fuji sakuraでmbedを!
Tetsuya Noguchi
PDF
Riscv+fpga200606
たけおか しょうぞう
PPTX
Rakuten20181027
Natsutani Minoru
PDF
[クリエイティブハント2018]LT 道場破りしたらできちゃった/// #ゴーハント
Hiroyuki Ishikawa
PDF
2205ACRi_jinguji.pdf
直久 住川
PDF
PyKon JP 2014
ke-m kamekoopa
PPTX
はじめてのグラモニ
Takayuki Saito
PYNQで○○してみた!
aster_ism
Raspberrypitraining20171027
Kiyoshi Ogawa
ノンコーディングでやってみよう!音声テキスト変換 - LINE × Logic Apps × Speech to text -
典子 松本
Fpgax20170924
Natsutani Minoru
FPGAの部屋、slide share、xilinxツールのご紹介
marsee101
Fpga programming introduction
YukiFukuda3
Kmc例会講座
のな なの
Developers Summit 2014 「Play2/Scalaでドメイン駆動設計を利用した大規模Webアプリケーションのスクラム開発の勘所」
Yoshimura Soichiro
総合技術特別講義講演資料2017
Hironori Nakajo
Fuji sakuraでmbedを!
Tetsuya Noguchi
Riscv+fpga200606
たけおか しょうぞう
Rakuten20181027
Natsutani Minoru
[クリエイティブハント2018]LT 道場破りしたらできちゃった/// #ゴーハント
Hiroyuki Ishikawa
2205ACRi_jinguji.pdf
直久 住川
PyKon JP 2014
ke-m kamekoopa
はじめてのグラモニ
Takayuki Saito
Ad
More from Imaoka Micihihiro
(18)
PDF
Parallel Empire and The Serial Empire
Imaoka Micihihiro
PDF
パラレル帝国とシリアル皇国(the Parallel Empire and the Serial Empire.)
Imaoka Micihihiro
PDF
la notificacion de la temperature remote
Imaoka Micihihiro
PDF
遠隔地の温度をスマホで表示
Imaoka Micihihiro
PDF
Observation of the temperature of remote
Imaoka Micihihiro
PDF
Cómo controlar el LED remoto
Imaoka Micihihiro
PDF
超お手軽!スマホでLEDを遠隔操作
Imaoka Micihihiro
PDF
How to control remote LED at the easiest and cheapest with Azure
Imaoka Micihihiro
PDF
1st fpga startup seminar keynote
Imaoka Micihihiro
PPT
How to make a cutting wiring board by desktop CNC
Imaoka Micihihiro
PDF
Introduction of FPGA
Imaoka Micihihiro
PDF
Gatito
Imaoka Micihihiro
PDF
Sakura20141017a
Imaoka Micihihiro
PDF
Raspberry Pi Rover + Scratch = IMAOCACH
Imaoka Micihihiro
PDF
Physical computing Scratch 2.0 & Android
Imaoka Micihihiro
PDF
wireless japan 2014 (imaoca)
Imaoka Micihihiro
PDF
Fm130402a
Imaoka Micihihiro
PDF
Imaocande LT
Imaoka Micihihiro
Parallel Empire and The Serial Empire
Imaoka Micihihiro
パラレル帝国とシリアル皇国(the Parallel Empire and the Serial Empire.)
Imaoka Micihihiro
la notificacion de la temperature remote
Imaoka Micihihiro
遠隔地の温度をスマホで表示
Imaoka Micihihiro
Observation of the temperature of remote
Imaoka Micihihiro
Cómo controlar el LED remoto
Imaoka Micihihiro
超お手軽!スマホでLEDを遠隔操作
Imaoka Micihihiro
How to control remote LED at the easiest and cheapest with Azure
Imaoka Micihihiro
1st fpga startup seminar keynote
Imaoka Micihihiro
How to make a cutting wiring board by desktop CNC
Imaoka Micihihiro
Introduction of FPGA
Imaoka Micihihiro
Gatito
Imaoka Micihihiro
Sakura20141017a
Imaoka Micihihiro
Raspberry Pi Rover + Scratch = IMAOCACH
Imaoka Micihihiro
Physical computing Scratch 2.0 & Android
Imaoka Micihihiro
wireless japan 2014 (imaoca)
Imaoka Micihihiro
Fm130402a
Imaoka Micihihiro
Imaocande LT
Imaoka Micihihiro
NN系学習済みモデルをFPGAに実装してみた
1.
NN系の学習済みモデルを FPGAへ実装してみた 機械学習の勉強会(仮) 6th-Apr-2017 Michihiro Imaoka 今岡 通博 https://www.facebook.com/imaoka.micihihiro imaoca@gmail.com,@imaoca http://www.itmedia.co.jp/author/208685/
2.
今岡 通博 imaoka michihiro @imaoca 今岡⼯学事務所 個⼈事業主代表 ⼗数年前は現役のプログラマーでした。当時は呼吸をする ようにコードを書いていました。FPGAのコーディングも SMDの半⽥付けも得意でした。最近は⽼眼も進み原稿書き へ転進を図っている最中です。物書きで凌げるか暗中模索 の毎⽇です。 愛媛県松⼭市在住 ・最近は原稿を書いていることが多い ・セキュリティ・キャンプの講師とか ・ハードウエアスタートアップ⽀援
3.
背景 • AI FPGA神
Intel • 型 限界 • 推論 並列化 高速化 余地 • 低消費電力/高速化 • 学習済 化 • AI 化 組込 家電
4.
概要 5X5の⼿書き⽂字を認識する学習済みモデルの FPGA実装を試みました。もともとPythonで書 かれたサンプルを参考にしています。先ずは PythonからCに書き換えて、Cソースコード上 でFPGAに実装しやすいよう最適化します。 並列化箇所を⾒極め推論エンジンをハードウエ ア記述⾔語のひとつVerilog-HDLへ移植します。 学習はCのコードで⾏い、学習済みモデルを Verilog-HDLで吐き出しFPGAに実装します。
5.
環境 • ubutu Sserver(Azure
Iass ) • Python V2.7.1 with pandas • gcc • Quartus II 13.0sp1 Web Edition • Verilog-HDL • Intel(Altera) Cyclone IV
6.
手順 ■5X5の⼿書き⽂字を認識する学習済みモデルを⽤意。 もともとPythonで書かれたサンプルを参考にしました。 「Neural Networkを平易に解説してみる」 http://enakai00.hatenablog.com/entry/20150108/1420719651 ■Cソースコード上でFPGAに実装しやすいよう最適化します。 ・1,-1を1,0に変換 ・量⼦化調整(32/64bit整数は必要ない) ・乗算を省きます(乗算はハードウエアには負担) ■並列化箇所を⾒極め推論エンジンをVerilog-HDLへ移植 学習はCのコードで⾏い、学習済みモデルをVerilog-HDLで 吐き出します
7.
ホップフィールド・ネットワーク (英: Hopfield
network) は、 ニューラルネットワークの⼀モデルである。アメリカ合衆国の 物理学者であるジョン・ホップフィールド (J.J. Hopfield) が提 唱した[1]。ユニット(ニューロン)間に対称的な相互作⽤があ る⾮同期型ネットワークであり、⾃然な操作によってネット ワークのエネルギーが極⼩値をとる。元はスピンの安定条件を もとめるモデルとして発想されたものであったが、ネットワー クによる連想記憶のモデルとして歓迎され、ニューラルネット ブームの⽕付け役の⼀つとなり、また後のボルツマンマシンの 元ともなった。これは統計的な変動をもちいて、エネルギーが 極⼩値ではなく最⼩値をとることを⽬指すモデルである。 出典 https://ja.wikipedia.org/wiki/
8.
構成 学習 gcc 学習済 推論 Verilog-HDL Quotus II FPGA 教師
9.
imaoca@ubuntServer:~/neural$ ./a.out learing #### # # #
# # # ### ##### # # # # ### #### # # # #### # # ## ## # # # # # # # example ### # # # # ## ### recognition #### # # # # # # ### imaoca@ubuntServer:~/neural$
11.
Quartus II 64-Bit
Version 13.0.1 Build 232 06/12/2013 SP 1 SJ Web Edition Family Cyclone IV E Device EP4CE6E22C8
13.
### # # # # ## ### 0111000011100101001001110 #### #
# # # # # ### 0111010010100101001001111 0 1 2 34 5 6 7
14.
推論 実行時間
17.
• 5X5の⽂字認識をFPGAで実装 • 推論エンジンを実装 –現在はマニュアル) •
学習済みモデルのHDLは⾃動⽣成 –Neuro Chip Compiler • ロジックアナライザーで計算スピードを 実測 10nS • Cyclone IVの24%のリソースを消費 • 25クロックを要する実装では7% –これは6502と同じHW規模
18.
告知 • NN系機械学習 情報交換 •
FPGA 主宰 – https://fpgastartup.connpass.com/event/ • TensorFlow 学習済 実装(todo) • FPGA 実装 的 探 • 化 可能性 探 頂 • 4月18日 在京
19.
【ご清聴ありがとうございました】 NN系の学習済みモデルをFPGAへ実装してみた 1st-Apr-2017 Michihiro Imaoka 今岡 通博 https://www.facebook.com/imaoka.micihihiro imaoca@gmail.com,@imaoca http://www.itmedia.co.jp/author/208685/
Download