利用新硬件提升数据库性能 淘宝核心系统数据库组 余锋   http://yufeng.info   新浪微博:@淘宝褚霸       2012-07-07
Agenda•   数据库软硬件发展趋势•   CPU•   内存•   磁盘•   网络                          2
数据库百万TPS不再稀罕!                3
MemSQLMemSQL 1.2 millioninserts/second on a64-core, 1/2 TB of RAMmachine                     4
MySQL ClusterMySQL Cluster 7.2 achieves4.3BN reads per minute with30 data nodes2-socket servers usingX5670 with Infiniband...
硬件发展迅猛•   8 Xeon 7540 CPU,96逻辑CPU•   512 GB DDR3•   600G SSD *12        文艺青年的装备•   万兆网卡•   2 E5-2420 CPU,24逻辑CPU•   96GB D...
平衡系统计算    数据流            7
存储成本/性能         CPU             内存                  Flash 卡                       SSD成本/性能                              硬盘...
性能必知数字L1 cache reference                           0.5   nsBranch mispredict                              5   nsL2 cache r...
Agenda•   数据库软硬件发展趋势•   CPU•   内存•   磁盘•   网络                          10
CPU Scalability1   4   8     16    32    64                               11
CPU Scalability1   4   8     16    32    64                               12
CPU Scalability1   4   8    16    32     64                               13
Cache和主存吞吐量12000010000080000                                                   read60000                                  ...
Cache和主存延时                           latency454035302520                                                latency151050     ...
多核性能恶化原因           16
Sandy Bridge-E                 17
SB-E对数据库更友好•   6个CORE,计算力强•   4个DDR内存通道,2个QPI互联,内存带宽足•   内置PCI-E 通道,IO能力强•   更大的L3,Cache更高效                              18
Agenda•   数据库软硬件发展趋势•   CPU•   内存•   磁盘•   网络                          19
内存和外存的差距     毫秒纳秒          20
内存和数据集1   2   3   4   5   6    7   8   9   10   11   12   13                                                         21
内存选择• 来者不拒,越多越好• 成本考虑,装下最热数据集• 百G以上不奇怪                   22
Agenda•   数据库软硬件发展趋势•   CPU•   内存•   磁盘•   网络                          23
数据库IO模式• 日志文件顺序IO,落地为要• 引擎尽最大努力把脏数据转变成顺序IO – 引擎不同,数据结构不同, 差距很大• 历史原因,传统数据库基于IO设计,最大内存也  避免不了IO                           24
混合存储模型非易失内存Flash硬盘          25
Raid卡•PCIe 2.0x8•Support Up to 128 SATA   Devices•Dual Core ROC•1GB cache                               26
SSD      27
Flash卡                      PCIe 2.0x4                      ioDrive IOPS: with Flash 140,000                      Read IOP...
非易失内存PCIe 1.1x44K Block Writes: 165,000 IOPS4K Block Reads: 185,000 IOPS                                 DDR3 Non-Volatile...
Agenda•   数据库软硬件发展趋势•   CPU•   内存•   磁盘•   网络                          30
千兆网卡性能表现           bw           lat                 31
网卡选择• 网卡Bonding  – 更大吞吐量• 万兆网卡  – 百万以上PPS  – CPU负担更小  – 更小延时                     32
提问时间  谢谢大家!部分图片粘贴自Google搜索,谢谢Google!部分数据参考自Percona,谢谢那些可爱的人!                            33
Upcoming SlideShare
Loading in …5
×

利用新硬件提升数据库性能

3,009
-1

Published on

利用新硬件提升数据库性能

Published in: Technology
0 Comments
20 Likes
Statistics
Notes
  • Be the first to comment

No Downloads
Views
Total Views
3,009
On Slideshare
0
From Embeds
0
Number of Embeds
1
Actions
Shares
0
Downloads
131
Comments
0
Likes
20
Embeds 0
No embeds

No notes for slide

利用新硬件提升数据库性能

  1. 1. 利用新硬件提升数据库性能 淘宝核心系统数据库组 余锋 http://yufeng.info 新浪微博:@淘宝褚霸 2012-07-07
  2. 2. Agenda• 数据库软硬件发展趋势• CPU• 内存• 磁盘• 网络 2
  3. 3. 数据库百万TPS不再稀罕! 3
  4. 4. MemSQLMemSQL 1.2 millioninserts/second on a64-core, 1/2 TB of RAMmachine 4
  5. 5. MySQL ClusterMySQL Cluster 7.2 achieves4.3BN reads per minute with30 data nodes2-socket servers usingX5670 with Infinibandinterconnect and 48GB ofmemory per machine 5
  6. 6. 硬件发展迅猛• 8 Xeon 7540 CPU,96逻辑CPU• 512 GB DDR3• 600G SSD *12 文艺青年的装备• 万兆网卡• 2 E5-2420 CPU,24逻辑CPU• 96GB DDR3 普通青年的装备• 600G SSD *8• 千兆网卡 6
  7. 7. 平衡系统计算 数据流 7
  8. 8. 存储成本/性能 CPU 内存 Flash 卡 SSD成本/性能 硬盘 容量 8
  9. 9. 性能必知数字L1 cache reference 0.5 nsBranch mispredict 5 nsL2 cache reference 7 nsMutex lock/unlock 25 nsMain memory reference 100 nsCompress 1K bytes with Zippy 3,000 nsSend 2K bytes over 1 Gbps network 20,000 nsRead 1 MB sequentially from memory 250,000 nsRound trip within same datacenter 500,000 nsDisk seek 10,000,000 nsRead 1 MB sequentially from disk 20,000,000 nsSend packet CA->Netherlands->CA 150,000,000 ns 9
  10. 10. Agenda• 数据库软硬件发展趋势• CPU• 内存• 磁盘• 网络 10
  11. 11. CPU Scalability1 4 8 16 32 64 11
  12. 12. CPU Scalability1 4 8 16 32 64 12
  13. 13. CPU Scalability1 4 8 16 32 64 13
  14. 14. Cache和主存吞吐量12000010000080000 read60000 write40000 copy20000 0 L1 Cache L2 Cache L3 Cache Memory 14
  15. 15. Cache和主存延时 latency454035302520 latency151050 L1 Cache L2 Cache L3 Cache Memory 15
  16. 16. 多核性能恶化原因 16
  17. 17. Sandy Bridge-E 17
  18. 18. SB-E对数据库更友好• 6个CORE,计算力强• 4个DDR内存通道,2个QPI互联,内存带宽足• 内置PCI-E 通道,IO能力强• 更大的L3,Cache更高效 18
  19. 19. Agenda• 数据库软硬件发展趋势• CPU• 内存• 磁盘• 网络 19
  20. 20. 内存和外存的差距 毫秒纳秒 20
  21. 21. 内存和数据集1 2 3 4 5 6 7 8 9 10 11 12 13 21
  22. 22. 内存选择• 来者不拒,越多越好• 成本考虑,装下最热数据集• 百G以上不奇怪 22
  23. 23. Agenda• 数据库软硬件发展趋势• CPU• 内存• 磁盘• 网络 23
  24. 24. 数据库IO模式• 日志文件顺序IO,落地为要• 引擎尽最大努力把脏数据转变成顺序IO – 引擎不同,数据结构不同, 差距很大• 历史原因,传统数据库基于IO设计,最大内存也 避免不了IO 24
  25. 25. 混合存储模型非易失内存Flash硬盘 25
  26. 26. Raid卡•PCIe 2.0x8•Support Up to 128 SATA Devices•Dual Core ROC•1GB cache 26
  27. 27. SSD 27
  28. 28. Flash卡 PCIe 2.0x4 ioDrive IOPS: with Flash 140,000 Read IOPS, 135,000 Write IOPSPCIe 2.0x8850 MB/s (4KB)220,000 IOPS (4KB) 28
  29. 29. 非易失内存PCIe 1.1x44K Block Writes: 165,000 IOPS4K Block Reads: 185,000 IOPS DDR3 Non-Volatile DIMM 8G 29
  30. 30. Agenda• 数据库软硬件发展趋势• CPU• 内存• 磁盘• 网络 30
  31. 31. 千兆网卡性能表现 bw lat 31
  32. 32. 网卡选择• 网卡Bonding – 更大吞吐量• 万兆网卡 – 百万以上PPS – CPU负担更小 – 更小延时 32
  33. 33. 提问时间 谢谢大家!部分图片粘贴自Google搜索,谢谢Google!部分数据参考自Percona,谢谢那些可爱的人! 33

×