Submit Search
Apache NiFiで、楽して、つながる、広がる IoTプロジェクト
1 like
1,911 views
Koji Kawamura
IoT縛りの勉強会! IoTLT vol.17 で発表した資料です。
Technology
Read more
1 of 10
Download now
Downloaded 21 times
1
2
3
4
5
6
7
8
9
10
More Related Content
PDF
Kafka含むデータ処理フローを NiFiで構築するさまを実演する5分間
Koji Kawamura
PPTX
Apache NiFi 流れるデータにもスキーマを
Koji Kawamura
PDF
IoTアプリケーションで利用するApache NiFi
Yuta Imai
PDF
Apache NiFi の紹介 #streamctjp
Yahoo!デベロッパーネットワーク
PDF
Yifeng hadoop-present-public
Yifeng Jiang
PDF
Hadoop最新事情とHortonworks Data Platform
Yuta Imai
PDF
Hadoop/Spark セルフサービス系の事例まとめ
Yuta Imai
PDF
Yifeng spark-final-public
Yifeng Jiang
Kafka含むデータ処理フローを NiFiで構築するさまを実演する5分間
Koji Kawamura
Apache NiFi 流れるデータにもスキーマを
Koji Kawamura
IoTアプリケーションで利用するApache NiFi
Yuta Imai
Apache NiFi の紹介 #streamctjp
Yahoo!デベロッパーネットワーク
Yifeng hadoop-present-public
Yifeng Jiang
Hadoop最新事情とHortonworks Data Platform
Yuta Imai
Hadoop/Spark セルフサービス系の事例まとめ
Yuta Imai
Yifeng spark-final-public
Yifeng Jiang
What's hot
(20)
PDF
Hive-sub-second-sql-on-hadoop-public
Yifeng Jiang
PPTX
Apache NiFiと他プロダクトのつなぎ方
Sotaro Kimura
PDF
Apache ambari
Yuta Imai
PDF
Kafka Summit NYCに見るストリーミングデータETLの話 #streamdatajp
Yahoo!デベロッパーネットワーク
PDF
Spark at Scale
Yuta Imai
PDF
Deep Learning On Apache Spark
Yuta Imai
PDF
Apache Hiveの今とこれから - 2016
Yuta Imai
PDF
SQL on Hadoop 比較検証 【2014月11日における検証レポート】
NTT DATA OSS Professional Services
PDF
Apache Ambari Overview -- Hadoop for Everyone
Yifeng Jiang
PDF
OLAP options on Hadoop
Yuta Imai
PDF
OSC2014 Tokyo/Spring Hadoop
Shinichi YAMASHITA
PDF
最新版Hadoopクラスタを運用して得られたもの
cyberagent
PDF
NetflixにおけるPresto/Spark活用事例
Amazon Web Services Japan
PPTX
sparksql-hive-bench-by-nec-hwx-at-hcj16
Yifeng Jiang
PDF
内製パッケージによるHadoopデータ解析基盤の構築と運用
cyberagent
PDF
Awsでつくるapache kafkaといろんな悩み
Keigo Suda
PDF
Start of a New era: Apache YARN 3.1 and Apache HBase 2.0
DataWorks Summit
PDF
Data Science on Hadoop
Yifeng Jiang
PDF
HDP Security Overview
Yifeng Jiang
PDF
Apache Big Data Miami 2017 - Hadoop Source Code Reading #23 #hadoopreading
Yahoo!デベロッパーネットワーク
Hive-sub-second-sql-on-hadoop-public
Yifeng Jiang
Apache NiFiと他プロダクトのつなぎ方
Sotaro Kimura
Apache ambari
Yuta Imai
Kafka Summit NYCに見るストリーミングデータETLの話 #streamdatajp
Yahoo!デベロッパーネットワーク
Spark at Scale
Yuta Imai
Deep Learning On Apache Spark
Yuta Imai
Apache Hiveの今とこれから - 2016
Yuta Imai
SQL on Hadoop 比較検証 【2014月11日における検証レポート】
NTT DATA OSS Professional Services
Apache Ambari Overview -- Hadoop for Everyone
Yifeng Jiang
OLAP options on Hadoop
Yuta Imai
OSC2014 Tokyo/Spring Hadoop
Shinichi YAMASHITA
最新版Hadoopクラスタを運用して得られたもの
cyberagent
NetflixにおけるPresto/Spark活用事例
Amazon Web Services Japan
sparksql-hive-bench-by-nec-hwx-at-hcj16
Yifeng Jiang
内製パッケージによるHadoopデータ解析基盤の構築と運用
cyberagent
Awsでつくるapache kafkaといろんな悩み
Keigo Suda
Start of a New era: Apache YARN 3.1 and Apache HBase 2.0
DataWorks Summit
Data Science on Hadoop
Yifeng Jiang
HDP Security Overview
Yifeng Jiang
Apache Big Data Miami 2017 - Hadoop Source Code Reading #23 #hadoopreading
Yahoo!デベロッパーネットワーク
Ad
Similar to Apache NiFiで、楽して、つながる、広がる IoTプロジェクト
(20)
PDF
[db tech showcase Tokyo 2017] C25: 世界最速のAnalytic DBがHadoopとタッグを組んだ! ~スケールアウト検...
Insight Technology, Inc.
PDF
Hadoop Summit 2016 San Jose レポート
Kimihiko Kitase
PDF
Apache Spark の紹介(前半:Sparkのキホン)
NTT DATA OSS Professional Services
PDF
Apache drillを業務利用してみる(までの道のり)
Keigo Suda
PPTX
Capacitor
Masayuki KaToH
PPTX
Kafka vs Pulsar @KafkaMeetup_20180316
Nozomi Kurihara
KEY
APACHE HTTP SERVER
寛之 横嶋
PDF
Apache Sparkに手を出してヤケドしないための基本 ~「Apache Spark入門より」~ (デブサミ 2016 講演資料)
NTT DATA OSS Professional Services
PDF
Oracle Cloudで始める、DBエンジニアのためのHadoop超入門(db tech showcase 2016 Oracle セッション資料)
オラクルエンジニア通信
PDF
Apache Hadoop 2.8.0 の新機能 (抜粋)
NTT DATA OSS Professional Services
PPTX
Introduce couchbase server
Koji Kawamura
PPTX
Hwx勉強会0730
Joutaro Ooura
PDF
分散処理基盤ApacheHadoop入門とHadoopエコシステムの最新技術動向(OSC2015 Kansai発表資料)
NTT DATA OSS Professional Services
PDF
Hadoop~Yahoo! JAPANの活用について~
Yahoo!デベロッパーネットワーク
PDF
PaaS勉強会#25 Helion Development Platform Tech Overview
Toru Makabe
PDF
ヤフー発のメッセージキュー「Pulsar」のご紹介
Yahoo!デベロッパーネットワーク
PDF
ヤフー発のメッセージキュー 「Pulsar」のご紹介@jjug ccc 20171118
Nozomi Kurihara
PPTX
smartFXにおけるApache Cordovaの活用について
剛志 森田
PDF
PaaS / Cloud Foundry makes you happy
Katsunori Kawaguchi
PPTX
オフラインファーストの思想と実践
Shumpei Shiraishi
[db tech showcase Tokyo 2017] C25: 世界最速のAnalytic DBがHadoopとタッグを組んだ! ~スケールアウト検...
Insight Technology, Inc.
Hadoop Summit 2016 San Jose レポート
Kimihiko Kitase
Apache Spark の紹介(前半:Sparkのキホン)
NTT DATA OSS Professional Services
Apache drillを業務利用してみる(までの道のり)
Keigo Suda
Capacitor
Masayuki KaToH
Kafka vs Pulsar @KafkaMeetup_20180316
Nozomi Kurihara
APACHE HTTP SERVER
寛之 横嶋
Apache Sparkに手を出してヤケドしないための基本 ~「Apache Spark入門より」~ (デブサミ 2016 講演資料)
NTT DATA OSS Professional Services
Oracle Cloudで始める、DBエンジニアのためのHadoop超入門(db tech showcase 2016 Oracle セッション資料)
オラクルエンジニア通信
Apache Hadoop 2.8.0 の新機能 (抜粋)
NTT DATA OSS Professional Services
Introduce couchbase server
Koji Kawamura
Hwx勉強会0730
Joutaro Ooura
分散処理基盤ApacheHadoop入門とHadoopエコシステムの最新技術動向(OSC2015 Kansai発表資料)
NTT DATA OSS Professional Services
Hadoop~Yahoo! JAPANの活用について~
Yahoo!デベロッパーネットワーク
PaaS勉強会#25 Helion Development Platform Tech Overview
Toru Makabe
ヤフー発のメッセージキュー「Pulsar」のご紹介
Yahoo!デベロッパーネットワーク
ヤフー発のメッセージキュー 「Pulsar」のご紹介@jjug ccc 20171118
Nozomi Kurihara
smartFXにおけるApache Cordovaの活用について
剛志 森田
PaaS / Cloud Foundry makes you happy
Katsunori Kawaguchi
オフラインファーストの思想と実践
Shumpei Shiraishi
Ad
More from Koji Kawamura
(13)
PDF
Broadcast チームの オブザーバビリティ向上活動.pdf
Koji Kawamura
PDF
Elastic Stack を網羅する ハンズオンワークショップを 作ってみた.pdf
Koji Kawamura
PDF
Drupal Elasticsearch Connector の日本語検索の質を高める
Koji Kawamura
PDF
20200324 ms open-tech-elastic
Koji Kawamura
PDF
祝Elasticsearch 7.6、date, number 型での ソートがさらに高速に!? Magic WANDってなんですか?
Koji Kawamura
PPTX
What will be new in Apache NiFi 1.2.0
Koji Kawamura
PDF
Apache NiFi 1.0 in Nutshell
Koji Kawamura
PDF
そのデータフロー NiFiで楽にしてあげましょう
Koji Kawamura
PDF
Couchbase 30-dbtechshowcase-tokyo2014
Koji Kawamura
PPT
CouchDB JP Developers Dummit LT
Koji Kawamura
PPT
Introduction of CouchDB JP
Koji Kawamura
PPT
ApacheCon NA 2011 report
Koji Kawamura
PPT
もうひとつのNo sql couchdbとは
Koji Kawamura
Broadcast チームの オブザーバビリティ向上活動.pdf
Koji Kawamura
Elastic Stack を網羅する ハンズオンワークショップを 作ってみた.pdf
Koji Kawamura
Drupal Elasticsearch Connector の日本語検索の質を高める
Koji Kawamura
20200324 ms open-tech-elastic
Koji Kawamura
祝Elasticsearch 7.6、date, number 型での ソートがさらに高速に!? Magic WANDってなんですか?
Koji Kawamura
What will be new in Apache NiFi 1.2.0
Koji Kawamura
Apache NiFi 1.0 in Nutshell
Koji Kawamura
そのデータフロー NiFiで楽にしてあげましょう
Koji Kawamura
Couchbase 30-dbtechshowcase-tokyo2014
Koji Kawamura
CouchDB JP Developers Dummit LT
Koji Kawamura
Introduction of CouchDB JP
Koji Kawamura
ApacheCon NA 2011 report
Koji Kawamura
もうひとつのNo sql couchdbとは
Koji Kawamura
Apache NiFiで、楽して、つながる、広がる IoTプロジェクト
1.
Apache NiFi で 楽して、つながる、広がる IoTプロジェクト 河村 康爾 Hortonworks Japan Co., Ltd. ソフトウェアエンジニア 2016.07.19 ©Hortonworks Inc, 2011 –
2016. All Rights Reserved
2.
⾃⼰紹介 • 河村 康爾 -
Hortonworks DataFlow Team – Software Engineer - @ijokarumawak - HadoopやNoSQLなど分散アプリケーションを利⽤したシステム開発を経 験、Apache NiFiがOSSとして公開されて間もない頃にコントリビュートし たプルリクエストが契機となりHortonworksにエンジニア枠で⼊社、⽇本 勤務。 - 共著: 「RDB技術者のためのNoSQLガイド」秀和システム ©Hortonworks Inc, 2011 – 2016. All Rights Reserved
3.
Apache NiFiとは ” NiFi is like digging irrigation ditches as the water flows, rather than building out a sprinkler system in advance." “NiFiは事前にスプリンクラーを配備するというより、 ⽔が流れるのに合わせて⽤⽔路を整備するようなもんさ” https://mail-archives.apache.org/mod_mbox/nifi-users/201604.mbox/%3C2FCCBD60-0A79-42F1-9F9B-A121591C826E@apache.org%3E ©Hortonworks Inc, 2011 –
2016. All Rights Reserved
4.
直感的なGUI、ブラウザApp ©Hortonworks Inc, 2011 – 2016. All Rights Reserved 1.⽬的に合ったプロ セッサを追加して 2.データの流れを つなげて 3.実⾏するだけ!
5.
IoTに最も適した データフローオーケストレーションツール • 他のストリーミングソリューションと⽐較すると、Apache NiFiは2015年7 ⽉にASFのTLPになった⽐較的新しいプロジェクト • Enterprise Integration Pattern (EIP)やFlow Based Programingをベースにしてい る •
データフローを設計するための⾮常に直感的なGUIを持つ • 急成⻑中のインダストリアルIoT分野では、堅牢で信頼でき、セキュアな データフローエンジンが求められる • Apache NiFiはIoTの実現において、最も適したセンサーデータ処理⽤オーケ ストレーションツールになりうる • Node-Redのような簡潔さと、Big Dataのパワーを併せ持つ • 原⽂ All the Apache Streaming Projects: An Exploratory Guide http://thenewstack.io/apache-streaming-projects-exploratory-guide/
6.
各種プロセッサ取り揃えてあります ambari, amqp, avro, aws, azure, cassandra, couchbase, elasticsearch, flume, geo, hadoop, hbase, hive, hl7, jms, kafka, kerberos, kite, ldap, mongodb, mqtt, riemann, twitter, solr, splunk, sql, spark, storm … etc その数100以上! ©Hortonworks Inc, 2011 – 2016. All Rights Reserved
7.
NiFi Data Flow データフロー例 MQTT topic MQTT topic ©Hortonworks Inc, 2011 – 2016. All Rights Reserved IoT デバイス Consume MQTT Publish MQTT Kafka topic Database Hadoop Put HDFS Publish Kafka Put SQL API Invoke HTTP MiNiFiも併⽤すると、よりエッジ側での データ収集、エージェント管理が可能に、 Java、C++
8.
お知らせ http://hadoopsummit.org/tokyo/
9.
実演タイム Live Demo ©Hortonworks Inc, 2011 – 2016. All Rights Reserved
10.
Fin. ご清聴ありがとうございました。 ©Hortonworks Inc, 2011 – 2016. All Rights Reserved
Download