SlideShare a Scribd company logo
1 of 18
Download to read offline
HBase 简介HBase 简介
jacksujacksu
HBase使用场景
• 典型互联网搜索问题
• 捕获增量数据(facebook的Like)
• 内容服务(Tweeter、Facebook帖子
、Instagram 图片和微博等)
• 信息交换(Facebook短信)
• 不适合场景(Join、报表的事务)
HBase架构
HRegionServer
Hregion Server ClusterHregion Server ClusterHregion Server ClusterHregion Server Cluster
Hregion ServerHregion ServerHregion ServerHregion Server 1111 Hregion ServerNHregion ServerNHregion ServerNHregion ServerNHregion ServerHregion ServerHregion ServerHregion Server 2222 . . .. . .. . .. . .
H W A LH W A LH W A LH W A L
HRegionNHRegionNHRegionNHRegionN. . .. . .. . .. . .
MemStoreMemStoreMemStoreMemStore
Hregion ServerHregion ServerHregion ServerHregion Server
S t o r eS t o r eS t o r eS t o r e
HRegionHRegionHRegionHRegion
S t o r eS t o r eS t o r eS t o r e1111
S t o r eS t o r eS t o r eS t o r e3333 StoreNStoreNStoreNStoreN
S t o r eS t o r eS t o r eS t o r e2222
H F i l eH F i l eH F i l eH F i l e
StoreFileStoreFileStoreFileStoreFile 1111
H F i l eH F i l eH F i l eH F i l e
StoreFileStoreFileStoreFileStoreFile 2222
H F i l eH F i l eH F i l eH F i l e
StoreFileStoreFileStoreFileStoreFile 1111
. . .. . .. . .. . .
WAL(Write Ahead Log)
RegionARegionARegionARegionA RegionBRegionBRegionBRegionB RegionCRegionCRegionCRegionC
HLogKeyHLogKeyHLogKeyHLogKey HLogKeyHLogKeyHLogKeyHLogKey
WALEditWALEditWALEditWALEdit
HLogKeyHLogKeyHLogKeyHLogKey
WALEditWALEditWALEditWALEditWALEditWALEditWALEditWALEdit
• Key包含数据所属的表名及RegionName,timeStamp,sequenceNumber等信息。
• Value保存了WALEdit实例,WALEdit包含客户端每一次发来的变更信息。
Region
Store&MemStore
• 不同的ColumnFamily存储在不同的Store中
• 在将数据写入StoreFile之前,会先写入
MemStore
StoreFile/HFile(一)
D a taD a taD a taD a ta D a taD a taD a taD a taD a taD a taD a taD a ta
M e taM e taM e taM e ta
((((OptionalOptionalOptionalOptional))))
M e taM e taM e taM e ta
((((OptionalOptionalOptionalOptional))))
File InfoFile InfoFile InfoFile Info
DataDataDataData
In d e xIn d e xIn d e xIn d e x
MetaMetaMetaMeta
In d e xIn d e xIn d e xIn d e x
TrailerTrailerTrailerTrailer
K e yK e yK e yK e y
V a lu eV a lu eV a lu eV a lu e
K e yK e yK e yK e y
V a lu eV a lu eV a lu eV a lu e
K e yK e yK e yK e y
V a lu eV a lu eV a lu eV a lu e
K e yK e yK e yK e y
V a lu eV a lu eV a lu eV a lu e
K e yK e yK e yK e y
V a lu eV a lu eV a lu eV a lu e
K e yK e yK e yK e y
V a lu eV a lu eV a lu eV a lu e
M agicM agicM agicM agic
StoreFile/HFile(二)
K e yK e yK e yK e y
LengthLengthLengthLength
V a l u eV a l u eV a l u eV a l u e
LengthLengthLengthLength
R o wR o wR o wR o w
LengthLengthLengthLength
R o wR o wR o wR o w
ColumnColumnColumnColumn
FamilyFamilyFamilyFamily
LengthLengthLengthLength
ColumnColumnColumnColumn
FamilyFamilyFamilyFamily
ColumnColumnColumnColumn
QualifieQualifieQualifieQualifie
rrrr
T i m eT i m eT i m eT i m e
S t a m pS t a m pS t a m pS t a m p
K e yK e yK e yK e y
T y p eT y p eT y p eT y p e
V a l u eV a l u eV a l u eV a l u e
K e yK e yK e yK e y
HBase的内部存储流程
split
Compaction
Client访问用户数据过程
Put请求
总结
• 面向列族的key-value
• 依赖HDFS持久化
• 采用zookeeper管理和状态监控
• 提供单行锁,不支持多行锁和事务
• 自动分拆Split、自动压缩
(compaction,LSM的伴生技术)、自动
负载均衡、自动region迁移,自动
replication。
参考文档
• HBase运维碎碎念http://www.slideshare.net/NinGoo/HBase-
8433555
ThanksThanks

More Related Content

Viewers also liked

《莲花海》(49) 修行重点金句-修行重点与偏差(四.十六)-「修法第六要」:汝应具离沉掉之定之要点,如黎明-「习定」方法的「因」与「果」-「出世间定」的...
《莲花海》(49) 修行重点金句-修行重点与偏差(四.十六)-「修法第六要」:汝应具离沉掉之定之要点,如黎明-「习定」方法的「因」与「果」-「出世间定」的...《莲花海》(49) 修行重点金句-修行重点与偏差(四.十六)-「修法第六要」:汝应具离沉掉之定之要点,如黎明-「习定」方法的「因」与「果」-「出世间定」的...
《莲花海》(49) 修行重点金句-修行重点与偏差(四.十六)-「修法第六要」:汝应具离沉掉之定之要点,如黎明-「习定」方法的「因」与「果」-「出世间定」的...
DudjomBuddhistAssociation
 
Excursión P.N. El Leoncito & Valle de Calingasta CON USTEDES! WITH YOU!
Excursión P.N. El Leoncito & Valle de Calingasta CON USTEDES! WITH YOU!Excursión P.N. El Leoncito & Valle de Calingasta CON USTEDES! WITH YOU!
Excursión P.N. El Leoncito & Valle de Calingasta CON USTEDES! WITH YOU!
damian4x4
 
Presentacion lorena amarante redes sociales, colaboración y participación
Presentacion lorena amarante redes sociales, colaboración y participaciónPresentacion lorena amarante redes sociales, colaboración y participación
Presentacion lorena amarante redes sociales, colaboración y participación
Lorena Amarante
 
Rio San Juan
Rio San JuanRio San Juan
Rio San Juan
guillegu
 

Viewers also liked (20)

Høydekonferansen 2014 - Praktisk erfaring med risikovurderinger – v/Bjørn Mau...
Høydekonferansen 2014 - Praktisk erfaring med risikovurderinger – v/Bjørn Mau...Høydekonferansen 2014 - Praktisk erfaring med risikovurderinger – v/Bjørn Mau...
Høydekonferansen 2014 - Praktisk erfaring med risikovurderinger – v/Bjørn Mau...
 
профессия телеведущий
профессия телеведущийпрофессия телеведущий
профессия телеведущий
 
Libros
LibrosLibros
Libros
 
《莲花海》(49) 修行重点金句-修行重点与偏差(四.十六)-「修法第六要」:汝应具离沉掉之定之要点,如黎明-「习定」方法的「因」与「果」-「出世间定」的...
《莲花海》(49) 修行重点金句-修行重点与偏差(四.十六)-「修法第六要」:汝应具离沉掉之定之要点,如黎明-「习定」方法的「因」与「果」-「出世间定」的...《莲花海》(49) 修行重点金句-修行重点与偏差(四.十六)-「修法第六要」:汝应具离沉掉之定之要点,如黎明-「习定」方法的「因」与「果」-「出世间定」的...
《莲花海》(49) 修行重点金句-修行重点与偏差(四.十六)-「修法第六要」:汝应具离沉掉之定之要点,如黎明-「习定」方法的「因」与「果」-「出世间定」的...
 
Diferencias
DiferenciasDiferencias
Diferencias
 
Amigo
AmigoAmigo
Amigo
 
Excursión P.N. El Leoncito & Valle de Calingasta CON USTEDES! WITH YOU!
Excursión P.N. El Leoncito & Valle de Calingasta CON USTEDES! WITH YOU!Excursión P.N. El Leoncito & Valle de Calingasta CON USTEDES! WITH YOU!
Excursión P.N. El Leoncito & Valle de Calingasta CON USTEDES! WITH YOU!
 
Presentacion lorena amarante redes sociales, colaboración y participación
Presentacion lorena amarante redes sociales, colaboración y participaciónPresentacion lorena amarante redes sociales, colaboración y participación
Presentacion lorena amarante redes sociales, colaboración y participación
 
Intunity Coaches Training Program (BG)
Intunity Coaches Training Program (BG)Intunity Coaches Training Program (BG)
Intunity Coaches Training Program (BG)
 
Presupuesto publico 2015 ley 30281
Presupuesto publico 2015 ley 30281Presupuesto publico 2015 ley 30281
Presupuesto publico 2015 ley 30281
 
Ямнич М.А.
Ямнич М.А.Ямнич М.А.
Ямнич М.А.
 
Harvard Letter
Harvard LetterHarvard Letter
Harvard Letter
 
Rio San Juan
Rio San JuanRio San Juan
Rio San Juan
 
Музыка
МузыкаМузыка
Музыка
 
Org tomate
Org tomateOrg tomate
Org tomate
 
Borang pentaksiran (seni)
Borang pentaksiran (seni)Borang pentaksiran (seni)
Borang pentaksiran (seni)
 
NN.TV
NN.TVNN.TV
NN.TV
 
Høydekonferansen 2014 - Kvalitetssikring av kurs og kurstilbyder inn mot fall...
Høydekonferansen 2014 - Kvalitetssikring av kurs og kurstilbyder inn mot fall...Høydekonferansen 2014 - Kvalitetssikring av kurs og kurstilbyder inn mot fall...
Høydekonferansen 2014 - Kvalitetssikring av kurs og kurstilbyder inn mot fall...
 
Salud ocup.
Salud ocup.Salud ocup.
Salud ocup.
 
Hist mat ernesto pedagogia
Hist mat ernesto pedagogiaHist mat ernesto pedagogia
Hist mat ernesto pedagogia
 

Similar to Hbase简介

淘宝对象存储与Cdn系统到服务
淘宝对象存储与Cdn系统到服务淘宝对象存储与Cdn系统到服务
淘宝对象存储与Cdn系统到服务
drewz lin
 
Ajax Transportation Methods
Ajax Transportation MethodsAjax Transportation Methods
Ajax Transportation Methods
yiditushe
 
开源+自主开发 - 淘宝软件基础设施构建实践
开源+自主开发  - 淘宝软件基础设施构建实践开源+自主开发  - 淘宝软件基础设施构建实践
开源+自主开发 - 淘宝软件基础设施构建实践
Wensong Zhang
 
Taobao海量图片存储与cdn系统
Taobao海量图片存储与cdn系统Taobao海量图片存储与cdn系统
Taobao海量图片存储与cdn系统
智杰 付
 
淘宝图片存储与Cdn系统
淘宝图片存储与Cdn系统淘宝图片存储与Cdn系统
淘宝图片存储与Cdn系统
Dai Jun
 
Taobao 海量图片存储与CDN系统02
Taobao 海量图片存储与CDN系统02Taobao 海量图片存储与CDN系统02
Taobao 海量图片存储与CDN系统02
lovingprince58
 
Taobao海量图片存储与cdn系统
Taobao海量图片存储与cdn系统Taobao海量图片存储与cdn系统
Taobao海量图片存储与cdn系统
Michael Zhang
 
淘宝软件基础设施构建实践
淘宝软件基础设施构建实践淘宝软件基础设施构建实践
淘宝软件基础设施构建实践
Wensong Zhang
 
淘宝软件基础设施构建实践
淘宝软件基础设施构建实践淘宝软件基础设施构建实践
淘宝软件基础设施构建实践
lovingprince58
 
淘宝软件基础设施构建实践
淘宝软件基础设施构建实践淘宝软件基础设施构建实践
淘宝软件基础设施构建实践
drewz lin
 
章文嵩:Taobao海量图片存储与cdn系统 v2-系统架构师
章文嵩:Taobao海量图片存储与cdn系统 v2-系统架构师章文嵩:Taobao海量图片存储与cdn系统 v2-系统架构师
章文嵩:Taobao海量图片存储与cdn系统 v2-系统架构师
Enlight Chen
 

Similar to Hbase简介 (20)

互联网创业服务器运维工具集
互联网创业服务器运维工具集互联网创业服务器运维工具集
互联网创业服务器运维工具集
 
Hbase架构简介、实践
Hbase架构简介、实践Hbase架构简介、实践
Hbase架构简介、实践
 
Hadoop ecosystem
Hadoop ecosystemHadoop ecosystem
Hadoop ecosystem
 
稳定、高效、低碳 -淘宝软件基础设施构建实践
稳定、高效、低碳  -淘宝软件基础设施构建实践稳定、高效、低碳  -淘宝软件基础设施构建实践
稳定、高效、低碳 -淘宝软件基础设施构建实践
 
淘宝对象存储与Cdn系统到服务
淘宝对象存储与Cdn系统到服务淘宝对象存储与Cdn系统到服务
淘宝对象存储与Cdn系统到服务
 
Taobao图片存储与cdn系统到服务
Taobao图片存储与cdn系统到服务Taobao图片存储与cdn系统到服务
Taobao图片存储与cdn系统到服务
 
移动端Web开发性能优化实践
移动端Web开发性能优化实践移动端Web开发性能优化实践
移动端Web开发性能优化实践
 
Ajax Transportation Methods
Ajax Transportation MethodsAjax Transportation Methods
Ajax Transportation Methods
 
开源+自主开发 - 淘宝软件基础设施构建实践
开源+自主开发  - 淘宝软件基础设施构建实践开源+自主开发  - 淘宝软件基础设施构建实践
开源+自主开发 - 淘宝软件基础设施构建实践
 
Taobao海量图片存储与cdn系统
Taobao海量图片存储与cdn系统Taobao海量图片存储与cdn系统
Taobao海量图片存储与cdn系统
 
淘宝图片存储与Cdn系统
淘宝图片存储与Cdn系统淘宝图片存储与Cdn系统
淘宝图片存储与Cdn系统
 
Taobao海量图片存储与cdn系统
Taobao海量图片存储与cdn系统Taobao海量图片存储与cdn系统
Taobao海量图片存储与cdn系统
 
Taobao 海量图片存储与CDN系统02
Taobao 海量图片存储与CDN系统02Taobao 海量图片存储与CDN系统02
Taobao 海量图片存储与CDN系统02
 
Taobao海量图片存储与cdn系统
Taobao海量图片存储与cdn系统Taobao海量图片存储与cdn系统
Taobao海量图片存储与cdn系统
 
淘宝软件基础设施构建实践
淘宝软件基础设施构建实践淘宝软件基础设施构建实践
淘宝软件基础设施构建实践
 
Taobao base
Taobao baseTaobao base
Taobao base
 
淘宝软件基础设施构建实践
淘宝软件基础设施构建实践淘宝软件基础设施构建实践
淘宝软件基础设施构建实践
 
淘宝软件基础设施构建实践
淘宝软件基础设施构建实践淘宝软件基础设施构建实践
淘宝软件基础设施构建实践
 
章文嵩:Taobao海量图片存储与cdn系统 v2-系统架构师
章文嵩:Taobao海量图片存储与cdn系统 v2-系统架构师章文嵩:Taobao海量图片存储与cdn系统 v2-系统架构师
章文嵩:Taobao海量图片存储与cdn系统 v2-系统架构师
 
Taobao海量图片存储与cdn系统 v2-系统架构师
Taobao海量图片存储与cdn系统 v2-系统架构师Taobao海量图片存储与cdn系统 v2-系统架构师
Taobao海量图片存储与cdn系统 v2-系统架构师
 

Hbase简介

  • 2.
  • 3. HBase使用场景 • 典型互联网搜索问题 • 捕获增量数据(facebook的Like) • 内容服务(Tweeter、Facebook帖子 、Instagram 图片和微博等) • 信息交换(Facebook短信) • 不适合场景(Join、报表的事务)
  • 5. HRegionServer Hregion Server ClusterHregion Server ClusterHregion Server ClusterHregion Server Cluster Hregion ServerHregion ServerHregion ServerHregion Server 1111 Hregion ServerNHregion ServerNHregion ServerNHregion ServerNHregion ServerHregion ServerHregion ServerHregion Server 2222 . . .. . .. . .. . . H W A LH W A LH W A LH W A L HRegionNHRegionNHRegionNHRegionN. . .. . .. . .. . . MemStoreMemStoreMemStoreMemStore Hregion ServerHregion ServerHregion ServerHregion Server S t o r eS t o r eS t o r eS t o r e HRegionHRegionHRegionHRegion S t o r eS t o r eS t o r eS t o r e1111 S t o r eS t o r eS t o r eS t o r e3333 StoreNStoreNStoreNStoreN S t o r eS t o r eS t o r eS t o r e2222 H F i l eH F i l eH F i l eH F i l e StoreFileStoreFileStoreFileStoreFile 1111 H F i l eH F i l eH F i l eH F i l e StoreFileStoreFileStoreFileStoreFile 2222 H F i l eH F i l eH F i l eH F i l e StoreFileStoreFileStoreFileStoreFile 1111 . . .. . .. . .. . .
  • 6. WAL(Write Ahead Log) RegionARegionARegionARegionA RegionBRegionBRegionBRegionB RegionCRegionCRegionCRegionC HLogKeyHLogKeyHLogKeyHLogKey HLogKeyHLogKeyHLogKeyHLogKey WALEditWALEditWALEditWALEdit HLogKeyHLogKeyHLogKeyHLogKey WALEditWALEditWALEditWALEditWALEditWALEditWALEditWALEdit • Key包含数据所属的表名及RegionName,timeStamp,sequenceNumber等信息。 • Value保存了WALEdit实例,WALEdit包含客户端每一次发来的变更信息。
  • 10. D a taD a taD a taD a ta D a taD a taD a taD a taD a taD a taD a taD a ta M e taM e taM e taM e ta ((((OptionalOptionalOptionalOptional)))) M e taM e taM e taM e ta ((((OptionalOptionalOptionalOptional)))) File InfoFile InfoFile InfoFile Info DataDataDataData In d e xIn d e xIn d e xIn d e x MetaMetaMetaMeta In d e xIn d e xIn d e xIn d e x TrailerTrailerTrailerTrailer K e yK e yK e yK e y V a lu eV a lu eV a lu eV a lu e K e yK e yK e yK e y V a lu eV a lu eV a lu eV a lu e K e yK e yK e yK e y V a lu eV a lu eV a lu eV a lu e K e yK e yK e yK e y V a lu eV a lu eV a lu eV a lu e K e yK e yK e yK e y V a lu eV a lu eV a lu eV a lu e K e yK e yK e yK e y V a lu eV a lu eV a lu eV a lu e M agicM agicM agicM agic StoreFile/HFile(二) K e yK e yK e yK e y LengthLengthLengthLength V a l u eV a l u eV a l u eV a l u e LengthLengthLengthLength R o wR o wR o wR o w LengthLengthLengthLength R o wR o wR o wR o w ColumnColumnColumnColumn FamilyFamilyFamilyFamily LengthLengthLengthLength ColumnColumnColumnColumn FamilyFamilyFamilyFamily ColumnColumnColumnColumn QualifieQualifieQualifieQualifie rrrr T i m eT i m eT i m eT i m e S t a m pS t a m pS t a m pS t a m p K e yK e yK e yK e y T y p eT y p eT y p eT y p e V a l u eV a l u eV a l u eV a l u e K e yK e yK e yK e y
  • 12. split
  • 16. 总结 • 面向列族的key-value • 依赖HDFS持久化 • 采用zookeeper管理和状态监控 • 提供单行锁,不支持多行锁和事务 • 自动分拆Split、自动压缩 (compaction,LSM的伴生技术)、自动 负载均衡、自动region迁移,自动 replication。