SlideShare a Scribd company logo
Apache	NiFi で
楽して、つながる、広がる
IoTプロジェクト
河村 康爾
Hortonworks	Japan	Co.,	Ltd.	ソフトウェアエンジニア
2016.07.19
©Hortonworks	Inc,	2011	– 2016.	All	Rights	Reserved
⾃⼰紹介
• 河村 康爾
- Hortonworks	DataFlow Team	– Software	Engineer
- @ijokarumawak
- HadoopやNoSQLなど分散アプリケーションを利⽤したシステム開発を経
験、Apache	NiFiがOSSとして公開されて間もない頃にコントリビュートし
たプルリクエストが契機となりHortonworksにエンジニア枠で⼊社、⽇本
勤務。
- 共著:	「RDB技術者のためのNoSQLガイド」秀和システム
©Hortonworks	Inc,	2011	– 2016.	All	Rights	Reserved
Apache	NiFiとは
” NiFi is	like	digging	irrigation	ditches	as	the	water	flows,	rather	than	
building	out	a	sprinkler	system	in	advance."	
“NiFiは事前にスプリンクラーを配備するというより、
⽔が流れるのに合わせて⽤⽔路を整備するようなもんさ”
https://mail-archives.apache.org/mod_mbox/nifi-users/201604.mbox/%3C2FCCBD60-0A79-42F1-9F9B-A121591C826E@apache.org%3E
©Hortonworks	Inc,	2011	– 2016.	All	Rights	Reserved
直感的なGUI、ブラウザApp
©Hortonworks	Inc,	2011	– 2016.	All	Rights	Reserved
1.⽬的に合ったプロ
セッサを追加して
2.データの流れを
つなげて
3.実⾏するだけ!
IoTに最も適した
データフローオーケストレーションツール
• 他のストリーミングソリューションと⽐較すると、Apache	NiFiは2015年7
⽉にASFのTLPになった⽐較的新しいプロジェクト
• Enterprise	Integration	Pattern	(EIP)やFlow	Based	Programingをベースにしてい
る
• データフローを設計するための⾮常に直感的なGUIを持つ
• 急成⻑中のインダストリアルIoT分野では、堅牢で信頼でき、セキュアな
データフローエンジンが求められる
• Apache	NiFiはIoTの実現において、最も適したセンサーデータ処理⽤オーケ
ストレーションツールになりうる
• Node-Redのような簡潔さと、Big	Dataのパワーを併せ持つ
• 原⽂ All	the	Apache	Streaming	Projects:	An	Exploratory	Guide	
http://thenewstack.io/apache-streaming-projects-exploratory-guide/
各種プロセッサ取り揃えてあります
ambari,	amqp,	avro,	aws,	azure,	cassandra,	couchbase,	elasticsearch,	
flume,	geo,	hadoop,	hbase,	hive,	hl7,	jms,	kafka,	kerberos,	kite,	ldap,	
mongodb,	mqtt,	riemann,	twitter,	solr,	splunk,	sql,	spark,	storm	…	etc
その数100以上!
©Hortonworks	Inc,	2011	– 2016.	All	Rights	Reserved
NiFi Data	Flow
データフロー例
MQTT	topic
MQTT	topic
©Hortonworks	Inc,	2011	– 2016.	All	Rights	Reserved
IoT
デバイス
Consume
MQTT
Publish
MQTT
Kafka	topic
Database
Hadoop
Put
HDFS
Publish
Kafka
Put
SQL
API
Invoke
HTTP
MiNiFiも併⽤すると、よりエッジ側での
データ収集、エージェント管理が可能に、
Java、C++
お知らせ
http://hadoopsummit.org/tokyo/
実演タイム
Live	Demo
©Hortonworks	Inc,	2011	– 2016.	All	Rights	Reserved
Fin.
ご清聴ありがとうございました。
©Hortonworks	Inc,	2011	– 2016.	All	Rights	Reserved

More Related Content

PDF
Kafka含むデータ処理フローを NiFiで構築するさまを実演する5分間
PPTX
Apache NiFi 流れるデータにもスキーマを
PDF
IoTアプリケーションで利用するApache NiFi
PDF
Apache NiFi の紹介 #streamctjp
PDF
Yifeng hadoop-present-public
PDF
Hadoop最新事情とHortonworks Data Platform
PDF
Hadoop/Spark セルフサービス系の事例まとめ
PDF
Yifeng spark-final-public
Kafka含むデータ処理フローを NiFiで構築するさまを実演する5分間
Apache NiFi 流れるデータにもスキーマを
IoTアプリケーションで利用するApache NiFi
Apache NiFi の紹介 #streamctjp
Yifeng hadoop-present-public
Hadoop最新事情とHortonworks Data Platform
Hadoop/Spark セルフサービス系の事例まとめ
Yifeng spark-final-public

What's hot (20)

PDF
Hive-sub-second-sql-on-hadoop-public
PPTX
Apache NiFiと 他プロダクトのつなぎ方
PDF
Apache ambari
PDF
Kafka Summit NYCに見るストリーミングデータETLの話 #streamdatajp
PDF
Spark at Scale
PDF
Deep Learning On Apache Spark
PDF
Apache Hiveの今とこれから - 2016
PDF
SQL on Hadoop 比較検証 【2014月11日における検証レポート】
PDF
Apache Ambari Overview -- Hadoop for Everyone
PDF
OLAP options on Hadoop
PDF
OSC2014 Tokyo/Spring Hadoop
PDF
最新版Hadoopクラスタを運用して得られたもの
PDF
NetflixにおけるPresto/Spark活用事例
PPTX
sparksql-hive-bench-by-nec-hwx-at-hcj16
PDF
内製パッケージによるHadoopデータ解析基盤の構築と運用
PDF
Awsでつくるapache kafkaといろんな悩み
PDF
Start of a New era: Apache YARN 3.1 and Apache HBase 2.0
PDF
Data Science on Hadoop
PDF
HDP Security Overview
PDF
Apache Big Data Miami 2017 - Hadoop Source Code Reading #23 #hadoopreading
Hive-sub-second-sql-on-hadoop-public
Apache NiFiと 他プロダクトのつなぎ方
Apache ambari
Kafka Summit NYCに見るストリーミングデータETLの話 #streamdatajp
Spark at Scale
Deep Learning On Apache Spark
Apache Hiveの今とこれから - 2016
SQL on Hadoop 比較検証 【2014月11日における検証レポート】
Apache Ambari Overview -- Hadoop for Everyone
OLAP options on Hadoop
OSC2014 Tokyo/Spring Hadoop
最新版Hadoopクラスタを運用して得られたもの
NetflixにおけるPresto/Spark活用事例
sparksql-hive-bench-by-nec-hwx-at-hcj16
内製パッケージによるHadoopデータ解析基盤の構築と運用
Awsでつくるapache kafkaといろんな悩み
Start of a New era: Apache YARN 3.1 and Apache HBase 2.0
Data Science on Hadoop
HDP Security Overview
Apache Big Data Miami 2017 - Hadoop Source Code Reading #23 #hadoopreading
Ad

Similar to Apache NiFiで、楽して、つながる、広がる IoTプロジェクト (20)

PDF
[db tech showcase Tokyo 2017] C25: 世界最速のAnalytic DBがHadoopとタッグを組んだ! ~スケールアウト検...
PDF
Hadoop Summit 2016 San Jose レポート
PDF
Apache Spark の紹介(前半:Sparkのキホン)
PDF
Apache drillを業務利用してみる(までの道のり)
PPTX
Capacitor
PPTX
Kafka vs Pulsar @KafkaMeetup_20180316
KEY
APACHE HTTP SERVER
PDF
Apache Sparkに手を出してヤケドしないための基本 ~「Apache Spark入門より」~ (デブサミ 2016 講演資料)
PDF
Oracle Cloudで始める、DBエンジニアのためのHadoop超入門(db tech showcase 2016 Oracle セッション資料)
PDF
Apache Hadoop 2.8.0 の新機能 (抜粋)
PPTX
Introduce couchbase server
PPTX
Hwx勉強会0730
PDF
分散処理基盤ApacheHadoop入門とHadoopエコシステムの最新技術動向(OSC2015 Kansai発表資料)
PDF
Hadoop~Yahoo! JAPANの活用について~
PDF
PaaS勉強会#25 Helion Development Platform Tech Overview
PDF
ヤフー発のメッセージキュー「Pulsar」のご紹介
PDF
ヤフー発のメッセージキュー 「Pulsar」のご紹介@jjug ccc 20171118
PPTX
smartFXにおけるApache Cordovaの活用について
PDF
PaaS / Cloud Foundry makes you happy
PPTX
オフラインファーストの思想と実践
[db tech showcase Tokyo 2017] C25: 世界最速のAnalytic DBがHadoopとタッグを組んだ! ~スケールアウト検...
Hadoop Summit 2016 San Jose レポート
Apache Spark の紹介(前半:Sparkのキホン)
Apache drillを業務利用してみる(までの道のり)
Capacitor
Kafka vs Pulsar @KafkaMeetup_20180316
APACHE HTTP SERVER
Apache Sparkに手を出してヤケドしないための基本 ~「Apache Spark入門より」~ (デブサミ 2016 講演資料)
Oracle Cloudで始める、DBエンジニアのためのHadoop超入門(db tech showcase 2016 Oracle セッション資料)
Apache Hadoop 2.8.0 の新機能 (抜粋)
Introduce couchbase server
Hwx勉強会0730
分散処理基盤ApacheHadoop入門とHadoopエコシステムの最新技術動向(OSC2015 Kansai発表資料)
Hadoop~Yahoo! JAPANの活用について~
PaaS勉強会#25 Helion Development Platform Tech Overview
ヤフー発のメッセージキュー「Pulsar」のご紹介
ヤフー発のメッセージキュー 「Pulsar」のご紹介@jjug ccc 20171118
smartFXにおけるApache Cordovaの活用について
PaaS / Cloud Foundry makes you happy
オフラインファーストの思想と実践
Ad

More from Koji Kawamura (13)

PDF
Broadcast チームの オブザーバビリティ向上活動.pdf
PDF
Elastic Stack を網羅する ハンズオンワークショップを 作ってみた.pdf
PDF
Drupal Elasticsearch Connector の日本語検索の質を高める
PDF
20200324 ms open-tech-elastic
PDF
祝Elasticsearch 7.6、date, number 型での ソートがさらに高速に!? Magic WANDってなんですか?
PPTX
What will be new in Apache NiFi 1.2.0
PDF
Apache NiFi 1.0 in Nutshell
PDF
そのデータフロー NiFiで楽にしてあげましょう
PDF
Couchbase 30-dbtechshowcase-tokyo2014
PPT
CouchDB JP Developers Dummit LT
PPT
Introduction of CouchDB JP
PPT
ApacheCon NA 2011 report
PPT
もうひとつのNo sql couchdbとは
Broadcast チームの オブザーバビリティ向上活動.pdf
Elastic Stack を網羅する ハンズオンワークショップを 作ってみた.pdf
Drupal Elasticsearch Connector の日本語検索の質を高める
20200324 ms open-tech-elastic
祝Elasticsearch 7.6、date, number 型での ソートがさらに高速に!? Magic WANDってなんですか?
What will be new in Apache NiFi 1.2.0
Apache NiFi 1.0 in Nutshell
そのデータフロー NiFiで楽にしてあげましょう
Couchbase 30-dbtechshowcase-tokyo2014
CouchDB JP Developers Dummit LT
Introduction of CouchDB JP
ApacheCon NA 2011 report
もうひとつのNo sql couchdbとは

Apache NiFiで、楽して、つながる、広がる IoTプロジェクト