Rethink db&tokudb调研测试报告
Upcoming SlideShare
Loading in...5
×
 

Rethink db&tokudb调研测试报告

on

  • 3,755 views

Rethink db&tokudb调研测试报告

Rethink db&tokudb调研测试报告

Statistics

Views

Total Views
3,755
Views on SlideShare
2,349
Embed Views
1,406

Actions

Likes
12
Downloads
78
Comments
0

12 Embeds 1,406

http://blog.nosqlfan.com 1256
http://www.kuqin.com 50
http://feed.feedsky.com 50
http://www.zhuaxia.com 15
http://reader.youdao.com 7
http://xianguo.com 7
http://translate.googleusercontent.com 7
http://xue.uplook.cn 7
http://zhuaxia.com 2
http://cache.baidu.com 2
http://news.uplook.cn 2
http://cache.baiducontent.com 1
More...

Accessibility

Categories

Upload Details

Uploaded via as Microsoft PowerPoint

Usage Rights

© All Rights Reserved

Report content

Flagged as inappropriate Flag as inappropriate
Flag as inappropriate

Select your reason for flagging this presentation as inappropriate.

Cancel
  • Full Name Full Name Comment goes here.
    Are you sure you want to
    Your message goes here
    Processing…
Post Comment
Edit your comment

Rethink db&tokudb调研测试报告 Rethink db&tokudb调研测试报告 Presentation Transcript

  • RethinkDB & TokuDB调研测试报告
    梁智超
    liangzhichao.pt@taobao.com
  • 大纲
    闪存和磁盘
    压力测试方法
    RethinkDB简介及测试
    TokuDB简介及测试
    总结
  • 大纲
    闪存和磁盘
    压力测试方法
    RethinkDB简介及测试
    TokuDB简介及测试
    总结
    View slide
  • 闪存和磁盘
    View slide
  • 闪存和磁盘的差异
    闪存:
    1)读/写/擦除三种操作
    2)操作速度不一致(读为10微秒级,写为100微秒级,擦除为毫秒级)
    3)覆盖写之前需要擦除
    4)擦除次数有限
    5)操作粒度不一致,读和写以页为单位,擦除以块为单位
    优势:
    1)更快的读写速度
    2)尺寸小重量轻
    3)抗震省电
    磁盘:
    1)读/写两种操作
    2)读写速度基本一致
    3)可原位覆盖写
    4)写次数不限
    5)读写粒度一致
  • 闪存的其他特性
    • 闪存芯片主要分为三种:SLC、MLC和TLC,不同种类的芯片也会展现出不同的特性。
  • 闪存的劣势
    • 因为特殊的硬件架构,闪存上的随机写和小的写操作不仅会降低性能而且会缩短闪存的使用寿命。
    磁盘
    SSD
    RAM
    free
    free
    data 1
    new data 1
    data 1
    erased
    new data 1
    block
    free
    free
    data 2
    data 2
    erased
    data 2
    free
    data 2
    free
    free
    data 3
    new data 3
    data 3
    erased
    data 3
    free
    data 3
    free
    free
    data 4
    block
    free
    free
    free
    free
    free
  • 闪存的使用寿命
    闪存的写寿命:闪存上能够写的最大数据量
  • 闪存的使用寿命
    闪存的写寿命:闪存上能够写的最大数据量
    60GB X 5000 =300TB
    40TB
    (60GB drive)
  • 闪存的使用寿命
    闪存的写寿命:闪存上能够写的最大数据量
    60GB X 5000 =300TB
    避免小的写以及随机写既能提高系统性能又能延长闪存的使用寿命!
    闪存上的数据天然就具有多个版本!
    40TB
    (60GB drive)
    37TB
    (80GB drive)
  • 大纲
    闪存和磁盘
    压力测试方法
    RethinkDB简介及测试
    TokuDB简介及测试
    总结
  • 压力测试工具
    Memaslap是Memcached服务器的压力测试工具。
    - 产生可配置压力,线程、并发、连接、运行时间、覆盖、命中率、key的长度、value的长度等
    - 支持数据确认、失效时间确认、UDP、二进制协议等操作
    Mysqlslap是MySQL服务器的压力测试工具,测试过程包括三个部分。
    - 创建Schema、Table以及其他存储程序或者数据(单客户端连接)
    - 运行加载测试(多客户端连接)
    - 结束测试如关闭连接、删除Table(单客户端连接)
  • 系统监测工具
    Socktop是由Systemtap提供的一个工具,位于/usr
    /share/doc/systemtap/examples/network目录下。
    Tcprstat是Percona提供的一个免费开源的TCP分析工具,可以观测网络流量并计算网络请求和响应之间的延迟。
    Nmon工具是IBM提供的免费监控AIX系统和Linux系统资源的工具,它可将系统资源的耗用情况收集起来并输出到一个特定的文件。
  • 测试方法
    测试工具+监测工具
    对于key-value数据库,使用libmemcached进行测试,生成数据为字符串key和value;
    对于MySQL数据库,使用libmysql进行测试,首先生成字符串key和value,然后将key和value并入到SQL语句中。
    获取测试配置参数,设定测试线程数,每个线程执行的操作数,key的最小长度和最大长度,value的最大长度和最小长度
    获取配置参数
    生成加载数据
    对于key-value数据库,调用接口memcached_set或者memcached_get;
    对于MySQL数据库,调用接口mysql_real_query。
    Tcprstat
    Socktop
    Nmon
    创建测试线程开始测试
    释放加载数据空间结束测试
  • 测试程序中的问题
    测试程序成了计算密集型而非IO密集型。
    测试程序并发压力不够。
    - 单独为线程生成测试数据
    - 每启动一个测试线程之前先为其生成数据
    - 解决方案:一次性生成所有测试数据,测试线程启动之后直接获取数据
    文件句柄打开数受限。
    -在shell下用ulimit -n 32768操作不允许
    -修改/etc/security/limits.conf文件
    测试程序运行前的CPU利用率
    测试程序运行时的CPU利用率
  • 大纲
    闪存和磁盘
    压力测试方法
    RethinkDB简介及测试
    TokuDB简介及测试
    总结
  • RethinkDB是什么
    • RethinkDB是一个完全支持Memcached协议、数据可持久化的工业级key-value存储系统。
    • RethinkDB的特点:
    -随CPU个数线程扩展
    -SSD上速度快十倍
    - 节省内存空间
    - 断电后及时恢复
    - 细化的持久性控制
    - 支持上万的并发连接数
    - 支持裸盘设备,多磁盘上自动数据分区
  • RethinkDB的安装和使用
    • RHEL 5下直接安装RethinkDB包
    - sudo rpm -i rethinkdb-1.0-1.0.0_1-1.x86_64.rpm
    - rpm -qa |greprethinkdb rethinkdb-1.0-1.0.0_1-1
    • 运行RethinkDB
    - 默认安装在/usr/bin/rethinkdb-1.0
    - ./rethinkdb-1.0 -f /u01/rethinkdb_data
    - ./rethinkdb-1.0 -f /u01/rethinkdb_data -c 4 -p 11500
    - ./rethinkdb-1.0 -f /u01/rethinkdb_data
    -f /u03/rethinkdb_data -c 4 -p 11500
  • RethinkDB的设计思想
    • B树会产生大量的随机写操作,对闪存寿命的负面影响很大。
    • 闪存具有良好的随机读性能,所以B树和cluster index变得不再重要。
    • 基于以上判断,RethinkDB采用append-only的方式来管理数据和索引,消除闪存上的随机写操作。
    append-only究竟带来了什么?
  • Append-Only的影响
    • 数据一致性(Data Consistency)。
    - 所有更新追加到文件尾部,其他部分没有任何修改
    - 文件的其余部分提供了一个完全一致的数据库
    • 热备份(Hot Backups)。
    - 在数据库文件被修改的同时可以拷贝一致数据
    - 可简单地实现增量备份
    • 及时恢复(Instantaneous Recovery)
    - 数据库本身就类似于一个事务日志
    - 恢复时直接截断数据库文件到一个已知一致的事务
  • Append-Only的影响(cont.)
    • 简单的主从复制(Easy Replication)。
    - 机制与热备份相同
    • 无锁并发(Lock-Free Concurrency)
    - 只需一个锁来保护最后一个事务完成后文件的offset
    - 读操作可以并发执行,写操作通过队列来管理
    • 在线模式修改(Live Schema Changes)
    - 修改模式时可以无障碍进行读操作
    - 在模式修改完成前每个写操作需要单独处理
    append-only带来的限制:
    1) 在一个insert或者update很频繁的workload下,大量数据很快就会过期;
    2) append-only消除了数据组织的数据局部性,虽然在SSD上随机读代价很小,但是仍旧是一个问题;
    3) 对于索引结构来说,每50MB的数据会生成2GB的数据存储,需要有效地进行垃圾回收。
  • RethinkDB的随机插入性能
  • RethinkDB的随机插入性能
  • RethinkDB的随机插入性能
  • RethinkDB的随机插入性能
  • RethinkDB的随机插入性能
  • RethinkDB的随机查询性能
  • 大纲
    闪存和磁盘
    压力测试方法
    RethinkDB简介及测试
    TokuDB简介及测试
    总结
  • TokuDB是什么
    • TokuDB是一个应用在MySQL和MariaDB中的存储引擎,它使用索引来加快查询速度,具有高扩展性并支持Hot Schema Modification。
    • TokuDB的特点:
    - 插入性能加快20到80倍
    - 压缩数据减少存储空间
    - 数据量可扩展到几个TB
    - 不会产生索引碎片
    - 支持Hot Column Addition, Hot Indexing和MVCC
  • TokuDB的安装和使用
    • TokuDB安装有两种方式。
    - 下载TokuDB的patch和MySQL源码,给MySQL打上patch之后安装MySQL
    - 下载已经打上patch的MySQL源码,直接安装MySQL
    • 使用MySQL sandboxes安装
    - tar xzf tokufractaltreeindex-5.0.4-30712-linux-x86_64.tar.gz
    - export LD_LIBRARY_PATH=$PWD/tokufractaltreeindex-5.0.4-30712-linux-x86_64/lib
    - make_sandbox mysql-5.1.52-tokudb-5.0.4-30712-linux-x86_64-glibc23.tar.gz
  • Fractal Tree
    • Fractal Tree是TokuDB中使用的索引结构,是TokuDB安身立命的根本,插入性能可以匹配B树最好的情况,高于B树最差情况两个数量级。
    • Fractal Tree结构特点:
    - 由多个有序的数组构成,大小呈指数级增长
    - 数组要么全空,要么全满
    - 数据插入到最小的数组,如果空间不够就将数据进行Merge
  • Fractal Tree的建立
    创建临时存储
    插入15
  • Fractal Tree的建立 (cont.)
    插入7
    Merge
  • Fractal Tree的建立 (cont.)
    Merge
  • Fractal Tree上的查询
    数组有序!
    二分查找?
    1)数组之间添加冗余元素
    2)数组中的元素不必全满
    3)横向和纵向指向冗余元素
    4) Fractional Cascading
  • TokuDB提供的特殊支持
    • Hot Index Creation,TokuDB允许在已有table上创建索引,同时在索引创建的过程中可以进行insert和query操作。
    - 需要设定服务器变量set tokudb_create_index_online=on
    - 只能使用create index命令
    • Hot Column Addition and Deletion(HCAD),TokuDB允许在已有table上添加或者删除属性列,同时只在很短的时间内阻塞update和query操作。
    - HCAD会获取一个表锁,用于将脏页刷到外存,所以会暂时阻塞其他操作
  • TokuDB的随机插入性能
  • TokuDB的随机查询性能
  • TokuDB占用的存储空间
  • Fractal Tree
    • TokuDB是
  • 如何使用TokuDB
    • 如果你要存储blob,不要使用TokuDB,因为它限制记录不能太大;
    • 如果你的记录数量过亿,使用TokuDB;
    • 如果你注重update的性能,不要使用TokuDB,它没有Innodb快;
    • 如果你要存储旧的记录,使用TokuDB;
    • 如果你想要缩小数据占用的存储空间,使用TokuDB;
  • 大纲
    闪存和磁盘
    压力测试方法
    RethinkDB简介及测试
    TokuDB简介及测试
    总结
  • 总结
    • 了解了Memcached/RethinkDB/Membase/TokuDB以及Innodb的相关文档。
    • 学习了tcprstat/socktop/nmon/MySQL Sandbox
    /mysqlslap/memaslap等工具的使用。
    • 学习了libmemcached和libmysql相关文档以及API的使用方法。
    • 学会了Linux下很多常用的命令。
    • 搞死my031089.sqa.cm4两次!
  • 参考文献
    [1] GokulSoundararajan, VijayanPrabhakaran, Mahesh Balakrishnan and Ted Wobber. Extending SSD Lifetimes with Disk-Based Write Caches. 8th USENIX Conference on File and Storage Technologies (FAST '10), 2010.
    [2] Laura M. Grupp Adrian M. Caulfield Joel Coburn Steven
    Swanson. Characterizing Flash Memory: Anomalies,
    Observations, and Applications. 42nd International
      Symposium on Microarchitecture, 2009.
    [3] The tcprstat User’s Manual. http://www.percona.com/docs
    /wiki/tcprstat:start
    [4] TokuDB v5.0.4 with Fractal Tree Indexing for MySQL v5.1.52
    User’s Guide for linux. May 9, 2011.
  • 参考文献
    [5] TokuDB v5.0.4 with Fractal Tree Indexing for MySQL v5.1.52
    Quick Start Guide for linux. May 9, 2011.
    [6] Leif Walsh, VyacheslavAkhmechet, and Mike Glukhovsky.
    RethinkDB—Rethinking Database Storage. July 21, 2009.
    [7] Libmemcached v0.50 documentation. http://docs.
    libmemcached.org/
    [8] MySQL 5.1 Reference Manual. http://dev.mysql.com/doc
    /refman/5.1/en/
    [9] VadimTkachenko. Detailed review of Tokutek storage engine.
    April 28, 2009.
    [10] MySQL sandboxes. http://forge.mysql.com/wiki/
    MySQL_Sandbox#The_MySQL_Sandbox
  • 参考文献
    [11] TokuView. http://www.tokutek.com/tokuview/.
    [12] RethinkDB Blog. http://blog.rethinkdb.com/.
    [13] RethinkDB Documentation Release 1.0. July 18, 2011.
    [14] Linux下方便的socket读写查看器socktop. http://blog.
    yufeng.info/archives/1280.
    [15] 调查服务器响应时间的利器 tcprstat. http://blog.yufeng.
    info/archives/963.
    [16] 老生常谈: ulimit问题及其影响. http://blog.yufeng.info
    /archives/1380.
    [17] 说说TokuDB与Fractal Tree Index. http://www.fcicq.net/
    wp/?p=892
    [18]
  • Q & A
    Thanks!