SlideShare a Scribd company logo
1 of 25
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
BluemixとApache Sparkでできる
IoTデータの収集と分析
2016.6.30
クリエーションライン(株) 木内
6/30 IBM Cloud Community 勉強会 講演資料
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
自己紹介 木内 満歳(きうち みつとし)
クリエーションライン株式会社 シニアコンサルタント
Slideshare: http://www.slideshare.net/mkiuchi4
各種寄稿
a. gihyo.jp: “Mesosphere DCOSでつくるクラウドアプリケーション”
b. 日経クラウドファースト2016年6月 “Azure IoT Suiteの評価”
c. Codezine: “機械学習をクラウドで手軽に体験! BluemixのApache Spark
で異常なセンサーデータを洗い出す”
専門分野:Apache Mesos, Apache Spark, 分散コンピューティング, ク
ラウドコンピューティング, NoSQL DB, グラフDB
O’reilley Certified Developer on Apache Spark
Docker Certified Technical Trainer
2 2
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved 3
クリエーションライン株式会社
2006年1月設立
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
主な取扱い製品
4 4
IaaS基盤
構成管理・DevOpsMSP
PaaS・データ分析基盤
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
IBM Bluemix
5
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
BART
Bay Area Rapid Transit, California
Operation Monitoring, 15 days to install
6
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
Le Tour de France
Realtime Monitoring, Winner Prediction
7
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
Poseidon Project, IBM Research
Water Preservation, IoT
8
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
Bluemix
Internet of Things
9
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
Internet of Things
10
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
“データフロー・オーケストレーション(ツール)”
11
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved 12
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
{
“MyID”: “1234567890987654321”,
“time”: “2016/4/16 12:34:56 +0900”,
“data” :
[
“temp”: “26”
]
}
“JSONデータ”(JSONドキュメント)
13
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
“(ドキュメント型)NoSQLデータベース”
14
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
IoT Sensorエミュレータ(ブラウザで動作)
https://developer.ibm.com/recipes/tutorials/use-the-simulated-device-to-experience-the-iot-foundation/
15
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
Internet of Things
16
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
Internet of Things
MQTT
センサーがMQTTに対応していない場合
フィールド
ゲートウェイ
(Local -> MQTT)
バス接続(GPIOなど)
17
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
● 統計解析
● 機械学習
● ストリームデータ処
理
● SQL
18
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
Bluemix
Internet of Things
https://console.ng.bluemix.net/
もしくは
http://www.bluemix.net
19
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
デモの構成
x8 sensors
20
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
Apache Sparkにおけるプラグインのしくみ
Spark
SQL
HiveQL互換
JDBC/ODBC互換
Parquet
JSON
CSV
Hive DB
RDB
プラグイン MongoDBなど
21
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
Spark Packages
http://spark-packages.org/
22
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
SparkにおけるCloudant
add-onパッケージとして提供されている
https://github.com/cloudant-labs/spark-cloudant
23
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved
まとめ
• Bluemixを使うことで簡便にセンサーデータの蓄積、分
析を行うことができます
• センサーがなくてもエミュレータで手軽に練習するこ
とができます
24
Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved

More Related Content

What's hot

INTEROP Tokyo 2015 C2-6 クラウド時代の運用技術と運用ビジネス最新動向 / The Technology and Business ...
INTEROP Tokyo 2015 C2-6 クラウド時代の運用技術と運用ビジネス最新動向 / The Technology and Business ...INTEROP Tokyo 2015 C2-6 クラウド時代の運用技術と運用ビジネス最新動向 / The Technology and Business ...
INTEROP Tokyo 2015 C2-6 クラウド時代の運用技術と運用ビジネス最新動向 / The Technology and Business ...
Kazumi Hirose
 

What's hot (20)

Open stack活用に求められる人材と育成について2017 0314
Open stack活用に求められる人材と育成について2017 0314Open stack活用に求められる人材と育成について2017 0314
Open stack活用に求められる人材と育成について2017 0314
 
クラウドセキュリティ
クラウドセキュリティクラウドセキュリティ
クラウドセキュリティ
 
AWS re:Inforce2019 re:Cap LT
AWS re:Inforce2019 re:Cap LTAWS re:Inforce2019 re:Cap LT
AWS re:Inforce2019 re:Cap LT
 
もうすぐ春だしAWSでさくらをやってみた
もうすぐ春だしAWSでさくらをやってみたもうすぐ春だしAWSでさくらをやってみた
もうすぐ春だしAWSでさくらをやってみた
 
2016/4/16 Softlayer Bluemix Community Festa 2016講演資料
2016/4/16 Softlayer Bluemix Community Festa 2016講演資料2016/4/16 Softlayer Bluemix Community Festa 2016講演資料
2016/4/16 Softlayer Bluemix Community Festa 2016講演資料
 
[data analytics showcase] B11: ビッグデータを高速に検索・分析する「Elasticsearch」~新プラグイン「Graph」...
[data analytics showcase] B11: ビッグデータを高速に検索・分析する「Elasticsearch」~新プラグイン「Graph」...[data analytics showcase] B11: ビッグデータを高速に検索・分析する「Elasticsearch」~新プラグイン「Graph」...
[data analytics showcase] B11: ビッグデータを高速に検索・分析する「Elasticsearch」~新プラグイン「Graph」...
 
TREASUREDATAのエコシステムで作るロバストなETLデータ処理基盤の作り方
TREASUREDATAのエコシステムで作るロバストなETLデータ処理基盤の作り方TREASUREDATAのエコシステムで作るロバストなETLデータ処理基盤の作り方
TREASUREDATAのエコシステムで作るロバストなETLデータ処理基盤の作り方
 
OSSのクラウド基盤 OpenStack / CloudStack
OSSのクラウド基盤 OpenStack / CloudStackOSSのクラウド基盤 OpenStack / CloudStack
OSSのクラウド基盤 OpenStack / CloudStack
 
MongoDB Atlasアカウント取得
MongoDB Atlasアカウント取得MongoDB Atlasアカウント取得
MongoDB Atlasアカウント取得
 
MongoDB Atlasの構成について 2019
MongoDB Atlasの構成について 2019MongoDB Atlasの構成について 2019
MongoDB Atlasの構成について 2019
 
Azureのざっくり利用料金を毎日Slackに通知する
Azureのざっくり利用料金を毎日Slackに通知するAzureのざっくり利用料金を毎日Slackに通知する
Azureのざっくり利用料金を毎日Slackに通知する
 
Hccjp PoC Introduction
Hccjp PoC IntroductionHccjp PoC Introduction
Hccjp PoC Introduction
 
Azure Fundamental
Azure FundamentalAzure Fundamental
Azure Fundamental
 
INTEROP Tokyo 2015 C2-6 クラウド時代の運用技術と運用ビジネス最新動向 / The Technology and Business ...
INTEROP Tokyo 2015 C2-6 クラウド時代の運用技術と運用ビジネス最新動向 / The Technology and Business ...INTEROP Tokyo 2015 C2-6 クラウド時代の運用技術と運用ビジネス最新動向 / The Technology and Business ...
INTEROP Tokyo 2015 C2-6 クラウド時代の運用技術と運用ビジネス最新動向 / The Technology and Business ...
 
Windows 女子部主催 「デプロイ王子のクラウド寺子屋」(女性限定) 第0回資料
Windows 女子部主催 「デプロイ王子のクラウド寺子屋」(女性限定) 第0回資料Windows 女子部主催 「デプロイ王子のクラウド寺子屋」(女性限定) 第0回資料
Windows 女子部主催 「デプロイ王子のクラウド寺子屋」(女性限定) 第0回資料
 
Azure bastion ignite the tour @tokyo 2019
Azure bastion   ignite the tour @tokyo 2019Azure bastion   ignite the tour @tokyo 2019
Azure bastion ignite the tour @tokyo 2019
 
Azure Hybrid/Infra Updates! Azureからオンプレ仮想基盤の管理もできるようになってます!
Azure Hybrid/Infra Updates! Azureからオンプレ仮想基盤の管理もできるようになってます!Azure Hybrid/Infra Updates! Azureからオンプレ仮想基盤の管理もできるようになってます!
Azure Hybrid/Infra Updates! Azureからオンプレ仮想基盤の管理もできるようになってます!
 
SmartNewsを支えるデータパイプラインとその運用
SmartNewsを支えるデータパイプラインとその運用SmartNewsを支えるデータパイプラインとその運用
SmartNewsを支えるデータパイプラインとその運用
 
Game infrastructure design construction operation ver1.2
Game infrastructure design construction operation ver1.2Game infrastructure design construction operation ver1.2
Game infrastructure design construction operation ver1.2
 
Strem処理(Spark Streaming + Kinesis)とOffline処理(Hive)の統合
Strem処理(Spark Streaming + Kinesis)とOffline処理(Hive)の統合Strem処理(Spark Streaming + Kinesis)とOffline処理(Hive)の統合
Strem処理(Spark Streaming + Kinesis)とOffline処理(Hive)の統合
 

Viewers also liked

Viewers also liked (14)

Drupal on ibm_cloud_20160630
Drupal on ibm_cloud_20160630Drupal on ibm_cloud_20160630
Drupal on ibm_cloud_20160630
 
2015/12/9 Spark Meetup December講演資料
2015/12/9 Spark Meetup December講演資料2015/12/9 Spark Meetup December講演資料
2015/12/9 Spark Meetup December講演資料
 
Dockerエンタープライズ利用について
Dockerエンタープライズ利用についてDockerエンタープライズ利用について
Dockerエンタープライズ利用について
 
An introduction to application of zebra pattern for dissipation of heat in el...
An introduction to application of zebra pattern for dissipation of heat in el...An introduction to application of zebra pattern for dissipation of heat in el...
An introduction to application of zebra pattern for dissipation of heat in el...
 
9/16 Tokyo Apache Drill Meetup - drill vs sparksql
9/16 Tokyo Apache Drill Meetup - drill vs sparksql9/16 Tokyo Apache Drill Meetup - drill vs sparksql
9/16 Tokyo Apache Drill Meetup - drill vs sparksql
 
Docker活用ソリューション紹介
Docker活用ソリューション紹介Docker活用ソリューション紹介
Docker活用ソリューション紹介
 
Mesos consulで構築するマイクロサービスインフラ
Mesos consulで構築するマイクロサービスインフラMesos consulで構築するマイクロサービスインフラ
Mesos consulで構築するマイクロサービスインフラ
 
Apache Hadoop YARN: Past, Present and Future
Apache Hadoop YARN: Past, Present and FutureApache Hadoop YARN: Past, Present and Future
Apache Hadoop YARN: Past, Present and Future
 
BigDataUnivercity 2017年改めてApache Sparkとデータサイエンスの関係についてのまとめ
BigDataUnivercity 2017年改めてApache Sparkとデータサイエンスの関係についてのまとめBigDataUnivercity 2017年改めてApache Sparkとデータサイエンスの関係についてのまとめ
BigDataUnivercity 2017年改めてApache Sparkとデータサイエンスの関係についてのまとめ
 
Rancher で Docker 利用!
Rancher で Docker 利用!Rancher で Docker 利用!
Rancher で Docker 利用!
 
Watson活用事例~Watsonハッカソンの例を通じて~
Watson活用事例~Watsonハッカソンの例を通じて~Watson活用事例~Watsonハッカソンの例を通じて~
Watson活用事例~Watsonハッカソンの例を通じて~
 
40分でわかるHadoop徹底入門 (Cloudera World Tokyo 2014 講演資料)
40分でわかるHadoop徹底入門 (Cloudera World Tokyo 2014 講演資料) 40分でわかるHadoop徹底入門 (Cloudera World Tokyo 2014 講演資料)
40分でわかるHadoop徹底入門 (Cloudera World Tokyo 2014 講演資料)
 
ApacheSparkを中心としたOSSビッグデータ活用と導入時の検討ポイント
ApacheSparkを中心としたOSSビッグデータ活用と導入時の検討ポイントApacheSparkを中心としたOSSビッグデータ活用と導入時の検討ポイント
ApacheSparkを中心としたOSSビッグデータ活用と導入時の検討ポイント
 
SparkSQLの構文解析
SparkSQLの構文解析SparkSQLの構文解析
SparkSQLの構文解析
 

Similar to Bluemixとapache sparkでできる io tデータの収集と分析

(2017.8.27) Elasticsearchと科学技術ビッグデータが切り拓く日本の知の俯瞰と発見
(2017.8.27) Elasticsearchと科学技術ビッグデータが切り拓く日本の知の俯瞰と発見(2017.8.27) Elasticsearchと科学技術ビッグデータが切り拓く日本の知の俯瞰と発見
(2017.8.27) Elasticsearchと科学技術ビッグデータが切り拓く日本の知の俯瞰と発見
Mitsutoshi Kiuchi
 

Similar to Bluemixとapache sparkでできる io tデータの収集と分析 (20)

(2017.6.9) Neo4jの可視化ライブラリまとめ
(2017.6.9) Neo4jの可視化ライブラリまとめ(2017.6.9) Neo4jの可視化ライブラリまとめ
(2017.6.9) Neo4jの可視化ライブラリまとめ
 
Azure <3 Openness
Azure <3 OpennessAzure <3 Openness
Azure <3 Openness
 
.NET の過去、現在、そして未来
.NET の過去、現在、そして未来.NET の過去、現在、そして未来
.NET の過去、現在、そして未来
 
Azure Spatial Anchorsを活用したHoloLens & Androidシェアリングアプリ
Azure Spatial Anchorsを活用したHoloLens & AndroidシェアリングアプリAzure Spatial Anchorsを活用したHoloLens & Androidシェアリングアプリ
Azure Spatial Anchorsを活用したHoloLens & Androidシェアリングアプリ
 
2016-11-11 UMTP モデリングフォーラム2016 DDD実践のコツとazureによるモデル実装
2016-11-11 UMTP モデリングフォーラム2016 DDD実践のコツとazureによるモデル実装2016-11-11 UMTP モデリングフォーラム2016 DDD実践のコツとazureによるモデル実装
2016-11-11 UMTP モデリングフォーラム2016 DDD実践のコツとazureによるモデル実装
 
インフラ野郎 Azureチーム at クラウド boost
インフラ野郎 Azureチーム at クラウド boostインフラ野郎 Azureチーム at クラウド boost
インフラ野郎 Azureチーム at クラウド boost
 
Ns study Azure IoTHub紹介
Ns study Azure IoTHub紹介Ns study Azure IoTHub紹介
Ns study Azure IoTHub紹介
 
今改めて学ぶ Microsoft Azure 基礎知識
今改めて学ぶ Microsoft Azure 基礎知識今改めて学ぶ Microsoft Azure 基礎知識
今改めて学ぶ Microsoft Azure 基礎知識
 
decode2016振り返り Azure IaaSなどインフラ系8セッションのポイントについて語ります!
decode2016振り返り Azure IaaSなどインフラ系8セッションのポイントについて語ります!decode2016振り返り Azure IaaSなどインフラ系8セッションのポイントについて語ります!
decode2016振り返り Azure IaaSなどインフラ系8セッションのポイントについて語ります!
 
【kintone hive 上海】ウィングアーク上海講演資料_160918
【kintone hive 上海】ウィングアーク上海講演資料_160918【kintone hive 上海】ウィングアーク上海講演資料_160918
【kintone hive 上海】ウィングアーク上海講演資料_160918
 
C#ユーザー会 //build/ まとめ(サーバー編)
C#ユーザー会 //build/ まとめ(サーバー編)C#ユーザー会 //build/ まとめ(サーバー編)
C#ユーザー会 //build/ まとめ(サーバー編)
 
Azureお助けサービス概要
Azureお助けサービス概要Azureお助けサービス概要
Azureお助けサービス概要
 
MLOps NYC 2019 and Strata Data Conference NY 2019 report nttdata
MLOps NYC 2019 and Strata Data Conference NY 2019 report nttdataMLOps NYC 2019 and Strata Data Conference NY 2019 report nttdata
MLOps NYC 2019 and Strata Data Conference NY 2019 report nttdata
 
(2017.8.27) Elasticsearchと科学技術ビッグデータが切り拓く日本の知の俯瞰と発見
(2017.8.27) Elasticsearchと科学技術ビッグデータが切り拓く日本の知の俯瞰と発見(2017.8.27) Elasticsearchと科学技術ビッグデータが切り拓く日本の知の俯瞰と発見
(2017.8.27) Elasticsearchと科学技術ビッグデータが切り拓く日本の知の俯瞰と発見
 
さくらのIoT Platformを使ってみよう
さくらのIoT Platformを使ってみようさくらのIoT Platformを使ってみよう
さくらのIoT Platformを使ってみよう
 
Kubernetes on Azure ~Azureで便利にKubernetesを利用する~
Kubernetes on Azure ~Azureで便利にKubernetesを利用する~Kubernetes on Azure ~Azureで便利にKubernetesを利用する~
Kubernetes on Azure ~Azureで便利にKubernetesを利用する~
 
Bluemix_API_Possibility
Bluemix_API_PossibilityBluemix_API_Possibility
Bluemix_API_Possibility
 
Visual Studio と Microsoft Azure で変わる開発スタイル
Visual Studio と Microsoft Azure で変わる開発スタイルVisual Studio と Microsoft Azure で変わる開発スタイル
Visual Studio と Microsoft Azure で変わる開発スタイル
 
Azure Blockchain Service ハンズオン ~ Logic App 統合編 ~
Azure Blockchain Service ハンズオン ~ Logic App 統合編 ~Azure Blockchain Service ハンズオン ~ Logic App 統合編 ~
Azure Blockchain Service ハンズオン ~ Logic App 統合編 ~
 
AAD B2Cでゆるっと真面目に認証しよう【Interact2019】
AAD B2Cでゆるっと真面目に認証しよう【Interact2019】AAD B2Cでゆるっと真面目に認証しよう【Interact2019】
AAD B2Cでゆるっと真面目に認証しよう【Interact2019】
 

Bluemixとapache sparkでできる io tデータの収集と分析

  • 1. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved BluemixとApache Sparkでできる IoTデータの収集と分析 2016.6.30 クリエーションライン(株) 木内 6/30 IBM Cloud Community 勉強会 講演資料
  • 2. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved 自己紹介 木内 満歳(きうち みつとし) クリエーションライン株式会社 シニアコンサルタント Slideshare: http://www.slideshare.net/mkiuchi4 各種寄稿 a. gihyo.jp: “Mesosphere DCOSでつくるクラウドアプリケーション” b. 日経クラウドファースト2016年6月 “Azure IoT Suiteの評価” c. Codezine: “機械学習をクラウドで手軽に体験! BluemixのApache Spark で異常なセンサーデータを洗い出す” 専門分野:Apache Mesos, Apache Spark, 分散コンピューティング, ク ラウドコンピューティング, NoSQL DB, グラフDB O’reilley Certified Developer on Apache Spark Docker Certified Technical Trainer 2 2
  • 3. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved 3 クリエーションライン株式会社 2006年1月設立
  • 4. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved 主な取扱い製品 4 4 IaaS基盤 構成管理・DevOpsMSP PaaS・データ分析基盤
  • 5. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved IBM Bluemix 5
  • 6. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved BART Bay Area Rapid Transit, California Operation Monitoring, 15 days to install 6
  • 7. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved Le Tour de France Realtime Monitoring, Winner Prediction 7
  • 8. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved Poseidon Project, IBM Research Water Preservation, IoT 8
  • 9. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved Bluemix Internet of Things 9
  • 10. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved Internet of Things 10
  • 11. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved “データフロー・オーケストレーション(ツール)” 11
  • 12. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved 12
  • 13. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved { “MyID”: “1234567890987654321”, “time”: “2016/4/16 12:34:56 +0900”, “data” : [ “temp”: “26” ] } “JSONデータ”(JSONドキュメント) 13
  • 14. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved “(ドキュメント型)NoSQLデータベース” 14
  • 15. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved IoT Sensorエミュレータ(ブラウザで動作) https://developer.ibm.com/recipes/tutorials/use-the-simulated-device-to-experience-the-iot-foundation/ 15
  • 16. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved Internet of Things 16
  • 17. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved Internet of Things MQTT センサーがMQTTに対応していない場合 フィールド ゲートウェイ (Local -> MQTT) バス接続(GPIOなど) 17
  • 18. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved ● 統計解析 ● 機械学習 ● ストリームデータ処 理 ● SQL 18
  • 19. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved Bluemix Internet of Things https://console.ng.bluemix.net/ もしくは http://www.bluemix.net 19
  • 20. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved デモの構成 x8 sensors 20
  • 21. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved Apache Sparkにおけるプラグインのしくみ Spark SQL HiveQL互換 JDBC/ODBC互換 Parquet JSON CSV Hive DB RDB プラグイン MongoDBなど 21
  • 22. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved Spark Packages http://spark-packages.org/ 22
  • 23. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved SparkにおけるCloudant add-onパッケージとして提供されている https://github.com/cloudant-labs/spark-cloudant 23
  • 24. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved まとめ • Bluemixを使うことで簡便にセンサーデータの蓄積、分 析を行うことができます • センサーがなくてもエミュレータで手軽に練習するこ とができます 24
  • 25. Copyright ⓒ2016 CREATIONLINE, INC. All Rights Reserved