SlideShare a Scribd company logo
1 of 15
Download to read offline
開發與維護物聯網
感測資料的儲存
日期:2018/3/22
應用層
網路層
感知層
物聯網的資料流動
閘道器
閘道器
感測器
固網
無線網路
TCP/IP、
VPN 、
4G/5G
伺服器
資料的流動方向
2
物聯網環境下資料產生的情況
• 持續性的產生感測資料
• 產生大量感測資料
• 多種類型的感測資料
• 隨時增加不同感測器的偵測資
料
圖片來源: http://www.linkadvance.com.tw/cht/about.php
3
物聯網系統資料庫的需求
• 可能需要持續且不間斷的寫入
• 需要大量寫入的資料
• 資料欄位的不固定性
• 對於簡單的查詢需要快速的回應
• 龐大的處理能力
4
資料庫系統
關聯式資料庫特性示意圖 非關聯式資料庫特性示意圖 5
關聯式資料庫的特性
學號 學生姓名 系碼 系名 系主任
S001 逢甲 001 資工系 康熙
S002 明傳 001 資工系 康熙
S003 中山 002 資管系 雍正
S004 經國 002 資管系 雍正
S005 成功 002 資管系 雍正
學號 學生姓名 系碼
S001 逢甲 001
S002 明傳 001
S003 中山 002
S004 經國 002
S005 成功 002
學生資料表(未分割)
系碼 系名 系主任
001 資工系 康熙
002 資管系 雍正
學生資料表
科系代碼表
分割後
分割後
關聯
統一每個欄位的資料類型(例如:字串或整數等)
6
關聯式資料庫的優點
• 1.節省記憶體空間
• 因為:相同的資料記錄不須要再重複輸入。
• 2.提高行政效率
• 因為:資料不須再重複輸入,故可以節省行政人員的輸入時間。
• 3.達成資料的一致性
• 因為:資料不須再重複輸入,故可以減少多次輸入產生人為的錯誤。
7
關聯式資料庫在物聯網系統下的問題
ID Device Date Temperature Humid CO2
問題一:因為建立好的資料表欄位固定,很難增加新的感測器
ID Device Date Temperature ID Device Date Humid
問題二:如要增加感測器,必須新增表格,無法即時儲存新類型的感測資料
8
關聯式資料庫在物聯網系統下的問題
ID Device Date Sensor_Value
問題三:把感測器資料放在同一個欄位中,雖然可以輕易增加新的感測器,卻
得統一感測器資料的類型。
問題四:由於資料表之間有關聯存在,因此必須儲存在同一台伺服器上,不
易於分散資料與擴充儲存空間。
9
非關聯式資料庫(NoSQL)
• NoSQL - Not Only SQL
• NoSQL DB 的理論基礎 - CAP & BASE
• CAP:
• Consistency(一致性):在分散式環境中,一致性是說多個伺服器的同一筆資
料是否一致。
• Availability(可用性):可用性是說服務能一直保證是可用的狀態,當使用者
發出一個請求,服務能在有限時間內返回結果。
• Partition Tolerance(分區容錯性):在分散式系統中有某一個或者幾個機器當
掉了,其他剩下的機器還能夠正常運轉滿足系統需求。
• CAP理論的核心是:一個分散式系統不可能同時滿足一致性,可用性
和分區容錯性這三個需求,最多只能同時滿足兩個。
10
非關聯式資料庫(NoSQL)
• BASE:
• Basically Available:基本可用
• Soft-state:軟狀態/柔性交易,即狀態可以有一段時間的不同步
• Eventual consistency:最終一致性
• NoSQL資料庫強調的是效能與可用度,所以「CAP Theorem」會
比 RDBMS 的「ACID」更為重要。
11
非關聯式資料庫(NoSQL)的特性
• Schema-less
• 有著類似 Table 的資料結構,但不需預先定義 schema。
• 每一筆記錄的欄位數量與結構也可以不一樣。
• 紀錄的內容與限制條件主要由應用程式來控管。
在物聯網系統下的優點:容易擴充新類型的感測資料。
• Shared nothing architecture
• 通常採用本地儲存、而非共同儲存設備(如 SAN 或 NAS)。
• 使用一般規格的硬體即可,故成本也之下降。
在物聯網系統下的優點:分散式架構,提高資料處理效率,容易擴增伺服器。
12
非關聯式資料庫(NoSQL)的特性
• Elasticity
• 只需增加更多主機,便能立即擴充儲存容量與負載能力,所以不需要有
停機時間。
• 當新節點加入後,資料庫便會開始分配任務給它。
在物聯網系統下的優點:減少資料轉移到新伺服器的時間成本
• Sharding
• 不將儲存視為龐大的空間,取而代之的是以「分片」(shard)方式來分
割資料集。
• 分片過大時,可採用自動分割方式,或者以程式為每一筆記錄指派所屬
的分片ID。
在物聯網系統下的優點:平均將資料量分散到各伺服器,提高各伺服器的
資料存取負載平衡 13
儲存架構擴充方式
14
1TB 2TB
10TB
Scale-up
替換 替換
Scale-out 1TB 1TB 1TB
+ +
關聯式資料庫
非關聯式資料庫
關聯式與非關聯式資料庫特色表
關聯式資料庫 非關聯式資料庫
讀寫速度 讀寫慢 快速的讀寫
儲存容量 支援容量有限 支援巨量資料與流量
關聯性 一致 低
資料更新難易度 容易 難
擴充性 擴充困難 擴充容易
成本 高 低
15

More Related Content

Similar to 2018 Week 4 Data Storage

海量数据计算架构实现
海量数据计算架构实现海量数据计算架构实现
海量数据计算架构实现Shaoning Pan
 
分布式爬虫
分布式爬虫分布式爬虫
分布式爬虫mysqlops
 
鹰眼下的淘宝_EagleEye with Taobao
鹰眼下的淘宝_EagleEye with Taobao鹰眼下的淘宝_EagleEye with Taobao
鹰眼下的淘宝_EagleEye with Taobaoterryice
 
Novice's and Expert's Mental Model of Interacting with Router
Novice's and Expert's Mental Model of Interacting with RouterNovice's and Expert's Mental Model of Interacting with Router
Novice's and Expert's Mental Model of Interacting with RouterYian Lu
 
20150528联动技术大讲堂15(刘胜)业务系统上线标准指引
20150528联动技术大讲堂15(刘胜)业务系统上线标准指引20150528联动技术大讲堂15(刘胜)业务系统上线标准指引
20150528联动技术大讲堂15(刘胜)业务系统上线标准指引liu sheng
 
天涯论坛的技术进化史-Qcon2011
天涯论坛的技术进化史-Qcon2011天涯论坛的技术进化史-Qcon2011
天涯论坛的技术进化史-Qcon2011Yiwei Ma
 
Mysql HandleSocket技术在SNS Feed存储中的应用
Mysql HandleSocket技术在SNS Feed存储中的应用Mysql HandleSocket技术在SNS Feed存储中的应用
Mysql HandleSocket技术在SNS Feed存储中的应用iammutex
 
Selling sybase hds solution for banking
Selling sybase hds solution for bankingSelling sybase hds solution for banking
Selling sybase hds solution for bankingfocusbi
 
LibBest Library Information System
LibBest Library Information SystemLibBest Library Information System
LibBest Library Information SystemNeo Chen
 
10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙
10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙
10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙Zih-Ming Yang
 
10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙
10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙
10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙Zih-Ming Yang
 
圖書館資訊系統介紹
圖書館資訊系統介紹圖書館資訊系統介紹
圖書館資訊系統介紹Neo Chen
 
Raspberry Pi 數位商品貨架系統
Raspberry Pi 數位商品貨架系統Raspberry Pi 數位商品貨架系統
Raspberry Pi 數位商品貨架系統艾鍗科技
 
2014 Hpocon 黄慧攀 upyun - 平台架构的服务监控
2014 Hpocon 黄慧攀   upyun - 平台架构的服务监控2014 Hpocon 黄慧攀   upyun - 平台架构的服务监控
2014 Hpocon 黄慧攀 upyun - 平台架构的服务监控Michael Zhang
 
军工行业网络安全解决方案整体设计
军工行业网络安全解决方案整体设计军工行业网络安全解决方案整体设计
军工行业网络安全解决方案整体设计gb ku
 

Similar to 2018 Week 4 Data Storage (20)

海量数据计算架构实现
海量数据计算架构实现海量数据计算架构实现
海量数据计算架构实现
 
網路概論
網路概論網路概論
網路概論
 
分布式爬虫
分布式爬虫分布式爬虫
分布式爬虫
 
鹰眼下的淘宝_EagleEye with Taobao
鹰眼下的淘宝_EagleEye with Taobao鹰眼下的淘宝_EagleEye with Taobao
鹰眼下的淘宝_EagleEye with Taobao
 
2018 ipas review
2018 ipas review2018 ipas review
2018 ipas review
 
Novice's and Expert's Mental Model of Interacting with Router
Novice's and Expert's Mental Model of Interacting with RouterNovice's and Expert's Mental Model of Interacting with Router
Novice's and Expert's Mental Model of Interacting with Router
 
20150528联动技术大讲堂15(刘胜)业务系统上线标准指引
20150528联动技术大讲堂15(刘胜)业务系统上线标准指引20150528联动技术大讲堂15(刘胜)业务系统上线标准指引
20150528联动技术大讲堂15(刘胜)业务系统上线标准指引
 
Tair
TairTair
Tair
 
天涯论坛的技术进化史-Qcon2011
天涯论坛的技术进化史-Qcon2011天涯论坛的技术进化史-Qcon2011
天涯论坛的技术进化史-Qcon2011
 
Mysql HandleSocket技术在SNS Feed存储中的应用
Mysql HandleSocket技术在SNS Feed存储中的应用Mysql HandleSocket技术在SNS Feed存储中的应用
Mysql HandleSocket技术在SNS Feed存储中的应用
 
Selling sybase hds solution for banking
Selling sybase hds solution for bankingSelling sybase hds solution for banking
Selling sybase hds solution for banking
 
LibBest Library Information System
LibBest Library Information SystemLibBest Library Information System
LibBest Library Information System
 
10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙
10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙
10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙
 
10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙
10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙
10.以wsn模組設計節能應用模組與智慧功率回報開關之研製 郭政謙
 
圖書館資訊系統介紹
圖書館資訊系統介紹圖書館資訊系統介紹
圖書館資訊系統介紹
 
Raspberry Pi 數位商品貨架系統
Raspberry Pi 數位商品貨架系統Raspberry Pi 數位商品貨架系統
Raspberry Pi 數位商品貨架系統
 
2014 Hpocon 黄慧攀 upyun - 平台架构的服务监控
2014 Hpocon 黄慧攀   upyun - 平台架构的服务监控2014 Hpocon 黄慧攀   upyun - 平台架构的服务监控
2014 Hpocon 黄慧攀 upyun - 平台架构的服务监控
 
军工行业网络安全解决方案整体设计
军工行业网络安全解决方案整体设计军工行业网络安全解决方案整体设计
军工行业网络安全解决方案整体设计
 
MCCC Lab
MCCC LabMCCC Lab
MCCC Lab
 
Epp0716
Epp0716Epp0716
Epp0716
 

More from AkashaC1

How to Prevent DNS Attacks on MikroTik.pdf
How to Prevent DNS Attacks on MikroTik.pdfHow to Prevent DNS Attacks on MikroTik.pdf
How to Prevent DNS Attacks on MikroTik.pdfAkashaC1
 
Config RouterOS openVPN.pdf
Config RouterOS openVPN.pdfConfig RouterOS openVPN.pdf
Config RouterOS openVPN.pdfAkashaC1
 
AR Implementation 1 2016.10.20
AR Implementation 1 2016.10.20AR Implementation 1 2016.10.20
AR Implementation 1 2016.10.20AkashaC1
 
AR Implementation 2
AR Implementation 2AR Implementation 2
AR Implementation 2AkashaC1
 
Post article to KM with Python
Post article to KM with PythonPost article to KM with Python
Post article to KM with PythonAkashaC1
 
2018 Week 7 Data Analysis
2018 Week 7 Data Analysis2018 Week 7 Data Analysis
2018 Week 7 Data AnalysisAkashaC1
 
2018 Week 5 DHT11
2018 Week 5 DHT112018 Week 5 DHT11
2018 Week 5 DHT11AkashaC1
 
2018 Week 4 PIR
2018 Week 4 PIR2018 Week 4 PIR
2018 Week 4 PIRAkashaC1
 
2018 Week 15 Speech Recognition
2018 Week 15 Speech Recognition2018 Week 15 Speech Recognition
2018 Week 15 Speech RecognitionAkashaC1
 
2018 Week 15 Speaker
2018 Week 15 Speaker2018 Week 15 Speaker
2018 Week 15 SpeakerAkashaC1
 
2018 Week 14 HC-SR04
2018 Week 14 HC-SR042018 Week 14 HC-SR04
2018 Week 14 HC-SR04AkashaC1
 
2018 Week 13 Servo Motor
2018 Week 13 Servo Motor2018 Week 13 Servo Motor
2018 Week 13 Servo MotorAkashaC1
 
2018 Week 11 Bluetooth and Wi-Fi
2018 Week 11 Bluetooth and Wi-Fi2018 Week 11 Bluetooth and Wi-Fi
2018 Week 11 Bluetooth and Wi-FiAkashaC1
 
2018 Week 10 Read Time Data Sending
2018 Week 10 Read Time Data Sending2018 Week 10 Read Time Data Sending
2018 Week 10 Read Time Data SendingAkashaC1
 
2018 Week 10 IoT and Robot
2018 Week 10 IoT and Robot2018 Week 10 IoT and Robot
2018 Week 10 IoT and RobotAkashaC1
 
2018 Week 8 Relay
2018 Week 8 Relay2018 Week 8 Relay
2018 Week 8 RelayAkashaC1
 
2018 Week 8 IoT and Wearable Devices
2018 Week 8 IoT and Wearable Devices2018 Week 8 IoT and Wearable Devices
2018 Week 8 IoT and Wearable DevicesAkashaC1
 
2018 Week 7 Photoresistor
2018 Week 7 Photoresistor2018 Week 7 Photoresistor
2018 Week 7 PhotoresistorAkashaC1
 
2018 Week 16 Computer Vision
2018 Week 16 Computer Vision2018 Week 16 Computer Vision
2018 Week 16 Computer VisionAkashaC1
 
2018 Week 3 GPIO-LED
2018 Week 3 GPIO-LED2018 Week 3 GPIO-LED
2018 Week 3 GPIO-LEDAkashaC1
 

More from AkashaC1 (20)

How to Prevent DNS Attacks on MikroTik.pdf
How to Prevent DNS Attacks on MikroTik.pdfHow to Prevent DNS Attacks on MikroTik.pdf
How to Prevent DNS Attacks on MikroTik.pdf
 
Config RouterOS openVPN.pdf
Config RouterOS openVPN.pdfConfig RouterOS openVPN.pdf
Config RouterOS openVPN.pdf
 
AR Implementation 1 2016.10.20
AR Implementation 1 2016.10.20AR Implementation 1 2016.10.20
AR Implementation 1 2016.10.20
 
AR Implementation 2
AR Implementation 2AR Implementation 2
AR Implementation 2
 
Post article to KM with Python
Post article to KM with PythonPost article to KM with Python
Post article to KM with Python
 
2018 Week 7 Data Analysis
2018 Week 7 Data Analysis2018 Week 7 Data Analysis
2018 Week 7 Data Analysis
 
2018 Week 5 DHT11
2018 Week 5 DHT112018 Week 5 DHT11
2018 Week 5 DHT11
 
2018 Week 4 PIR
2018 Week 4 PIR2018 Week 4 PIR
2018 Week 4 PIR
 
2018 Week 15 Speech Recognition
2018 Week 15 Speech Recognition2018 Week 15 Speech Recognition
2018 Week 15 Speech Recognition
 
2018 Week 15 Speaker
2018 Week 15 Speaker2018 Week 15 Speaker
2018 Week 15 Speaker
 
2018 Week 14 HC-SR04
2018 Week 14 HC-SR042018 Week 14 HC-SR04
2018 Week 14 HC-SR04
 
2018 Week 13 Servo Motor
2018 Week 13 Servo Motor2018 Week 13 Servo Motor
2018 Week 13 Servo Motor
 
2018 Week 11 Bluetooth and Wi-Fi
2018 Week 11 Bluetooth and Wi-Fi2018 Week 11 Bluetooth and Wi-Fi
2018 Week 11 Bluetooth and Wi-Fi
 
2018 Week 10 Read Time Data Sending
2018 Week 10 Read Time Data Sending2018 Week 10 Read Time Data Sending
2018 Week 10 Read Time Data Sending
 
2018 Week 10 IoT and Robot
2018 Week 10 IoT and Robot2018 Week 10 IoT and Robot
2018 Week 10 IoT and Robot
 
2018 Week 8 Relay
2018 Week 8 Relay2018 Week 8 Relay
2018 Week 8 Relay
 
2018 Week 8 IoT and Wearable Devices
2018 Week 8 IoT and Wearable Devices2018 Week 8 IoT and Wearable Devices
2018 Week 8 IoT and Wearable Devices
 
2018 Week 7 Photoresistor
2018 Week 7 Photoresistor2018 Week 7 Photoresistor
2018 Week 7 Photoresistor
 
2018 Week 16 Computer Vision
2018 Week 16 Computer Vision2018 Week 16 Computer Vision
2018 Week 16 Computer Vision
 
2018 Week 3 GPIO-LED
2018 Week 3 GPIO-LED2018 Week 3 GPIO-LED
2018 Week 3 GPIO-LED
 

2018 Week 4 Data Storage