MySQL 基础技能与原理 ——高级应用 MySQL DBA Team 彭立勋( http://www.penglixun.com )
内容概要 <ul><li>6. MySQL 数据库同步方案 </li></ul><ul><li>7. MySQL 与应用程序的优化 </li></ul><ul><li>8. MySQL 管理基础 </li></ul><ul><li>9.  网站...
MySQL 数据库同步方案 <ul><li>Trigger 同步方案 (Otter) </li></ul><ul><li>Log 同步方案( Erosa ) </li></ul><ul><li>自带 Replication 同步方案 </li>...
Trigger 同步方案 <ul><li>Otter 采用 Trigger 方式进行同步。基本原理是为每张要同步的表加上一个触发器,表上增删改都会触发 Trigger 把主键记录到一张同步表,同步程序读取同步表的主键和修改类型,到目标表去执行相...
Log 同步方案 <ul><li>Erosa 采用解析日志的方式进行同步。通过解析 Oracle 的 RedoLog 或 MySQL 的 BinLog ,获取在数据库上执行的 SQL 及其顺序,分发到目标数据库去执行一遍,以获得最终一致。 </...
Replication 同步方案 <ul><li>MySQL 自带 Replication 复制方案, Oracle 也有基于块复制的 Stanf by 方案。 MySQL 通过将执行的增删改 SQL 记录到日志,传输到备机再执行一遍保证最终一...
MySQL 与应用程序的优化 <ul><li>预处理与绑定变量 </li></ul><ul><li>连接池设置及影响 </li></ul><ul><li>应用程序实现 JOIN </li></ul>
预处理与绑定变量 <ul><li>PREPARE 语句 : SET@sql1=‘xxx’; PREPARE stmt1 FROM @sql1; </li></ul><ul><li>变量用问号代替(绑定变量)。 </li></ul><ul><li...
连接池设置及影响 <ul><li>MySQL 如何处理连接 ? </li></ul><ul><li>每次客户端向数据库服务器请求一个连接,服务器根据用户名密码在已有连接内查找一个相同配置的连接,分配给请求。如果找不到,则数据库分配一个新连接给当...
应用程序实现 JOIN <ul><li>如果需要跨主机进行 JOIN ,跨应用进行 JOIN ,或者数据库不能获得较好的执行计划,都可以自己通过程序来实现 JOIN 。 </li></ul><ul><li>例如: SELECT a.*,b.* ...
MySQL 管理基础 <ul><li>HA 与海量数据方案 </li></ul><ul><li>复制搭建方法 </li></ul><ul><li>简单备份方案 </li></ul><ul><li>简易故障处理 </li></ul><ul><li...
HA 与海量数据方案 <ul><li>Heartbeat 方案 :利用 Heartbeat 管理 VIP ,利用 crm 管理 MySQL , MySQL 进行双 M 复制。( Linux 系统下没有分库的标准方案) </li></ul><ul...
复制搭建方法 <ul><li>搭建复制的必备条件:复制的机器之间网络通畅, Master 打开了 binlog 。 </li></ul><ul><li>搭建复制步骤 : </li></ul><ul><li>1.  创建复制账户: GRANT R...
简单备份方案 <ul><li>冷备份: </li></ul><ul><li>MyISAM :拷贝数据目录下数据库名的目录即可,恢复只要拷贝回来即可。 </li></ul><ul><li>InnoDB :拷贝全部数据目录。 </li></ul><...
简易故障处理 <ul><li>启动不成功怎么办? </li></ul><ul><li>查看 error.log ,如果报出 can’t create/write dictory ,那就是权限设置错误。 MySQL 的数据目录要求 MySQL 可...
运维风险点 <ul><li>主库的任何操作都会复制到备库。 </li></ul><ul><li>如果需要备库具备容灾能力,那么不要实时开着 slave 复制,每隔一段时间 slave start 一次,复制追上后 slave stop 停止,直...
网站常见故障分析 <ul><li>SQL 执行计划改变导致 SQL 占用大量 CPU 。 </li></ul><ul><li>统计 SQL 在数据量增大后占用大量磁盘 IO 和 CPU 。 </li></ul><ul><li>SQL 中存在 N...
MySQL 故障案例 <ul><li>BRMMS 故障 </li></ul>
Upcoming SlideShare
Loading in …5
×

MySQL基础技能与原理——高级应用

1,983 views

Published on

Published in: Technology
0 Comments
5 Likes
Statistics
Notes
  • Be the first to comment

No Downloads
Views
Total views
1,983
On SlideShare
0
From Embeds
0
Number of Embeds
4
Actions
Shares
0
Downloads
0
Comments
0
Likes
5
Embeds 0
No embeds

No notes for slide

MySQL基础技能与原理——高级应用

  1. 1. MySQL 基础技能与原理 ——高级应用 MySQL DBA Team 彭立勋( http://www.penglixun.com )
  2. 2. 内容概要 <ul><li>6. MySQL 数据库同步方案 </li></ul><ul><li>7. MySQL 与应用程序的优化 </li></ul><ul><li>8. MySQL 管理基础 </li></ul><ul><li>9. 网站常见错误分析 </li></ul><ul><li>10. MySQL 故障案例 </li></ul>
  3. 3. MySQL 数据库同步方案 <ul><li>Trigger 同步方案 (Otter) </li></ul><ul><li>Log 同步方案( Erosa ) </li></ul><ul><li>自带 Replication 同步方案 </li></ul>
  4. 4. Trigger 同步方案 <ul><li>Otter 采用 Trigger 方式进行同步。基本原理是为每张要同步的表加上一个触发器,表上增删改都会触发 Trigger 把主键记录到一张同步表,同步程序读取同步表的主键和修改类型,到目标表去执行相同的操作,保证最终一致。 </li></ul><ul><li>优点:安全可靠,不会因为日志格式变化或数据库本身的机制变动带来同步程序的大改动。 </li></ul><ul><li>缺点:对数据库入侵大,需要为每张表建立 Trigger ,并且在数据库建立存储过程,执行存储过程和触发器会带来一定的数据库压力。 </li></ul>
  5. 5. Log 同步方案 <ul><li>Erosa 采用解析日志的方式进行同步。通过解析 Oracle 的 RedoLog 或 MySQL 的 BinLog ,获取在数据库上执行的 SQL 及其顺序,分发到目标数据库去执行一遍,以获得最终一致。 </li></ul><ul><li>优点:对数据库入侵小,可以将日志拷贝到异地分析,对数据库本身不会增加压力。 </li></ul><ul><li>缺点:对日志格式依赖大,日志格式发生变动则同步程序需要进行较大改动。 </li></ul>
  6. 6. Replication 同步方案 <ul><li>MySQL 自带 Replication 复制方案, Oracle 也有基于块复制的 Stanf by 方案。 MySQL 通过将执行的增删改 SQL 记录到日志,传输到备机再执行一遍保证最终一致性。可以设置日志格式为 ROW (按行记录), Statement (按 SQL 记录), MIXED (混合式,让 MySQL 决定每次记录用哪个格式), DDL 全部通过 Statement 方式记录。 </li></ul><ul><li>优点: MySQL 自带,无需第三方工具,部署方便, MySQL 自带丰富的参数可以实现各种复制方案,包括双 Master ,级联 Slave 等。 </li></ul><ul><li>缺点:无法实现多源复制,复制位置丢失很难恢复复制。 </li></ul>
  7. 7. MySQL 与应用程序的优化 <ul><li>预处理与绑定变量 </li></ul><ul><li>连接池设置及影响 </li></ul><ul><li>应用程序实现 JOIN </li></ul>
  8. 8. 预处理与绑定变量 <ul><li>PREPARE 语句 : SET@sql1=‘xxx’; PREPARE stmt1 FROM @sql1; </li></ul><ul><li>变量用问号代替(绑定变量)。 </li></ul><ul><li>作用:将 SQL 预先解析,在一个 Session 内再次使用此语句时不再重新解析。 </li></ul><ul><li>EXECUTE 语句 : EXECUTE stmt1 USING @val1,@val2; </li></ul><ul><li>作用:将绑定变量赋予具体的值并且执行。 </li></ul><ul><li>DEALLOCATE 语句 : DEALLOCATE PREPARE stmt1; </li></ul><ul><li>作用:销毁一个预解析 SQL ,释放资源。 </li></ul><ul><li>为何使用绑定绑定变量? </li></ul><ul><li>因为绑定变量比直接传值更安全,尤其是拼接 SQL 非常容易被注入攻击。同时绑定变量也可以提高一点效率。 </li></ul><ul><li>为何使用预处理,尤其在存储过程? </li></ul><ul><li>因为预处理可以避免 SQL 的反复解析,尤其是执行速度快的小 SQL ,解析时间甚至可能超过执行时间,采用预处理可以显著提高性能。 </li></ul>
  9. 9. 连接池设置及影响 <ul><li>MySQL 如何处理连接 ? </li></ul><ul><li>每次客户端向数据库服务器请求一个连接,服务器根据用户名密码在已有连接内查找一个相同配置的连接,分配给请求。如果找不到,则数据库分配一个新连接给当前请求。 </li></ul><ul><li>分配新连接做哪些工作 ? </li></ul><ul><li>MySQL 新开一个连接,就会创建一个新的 mysql 结构体,其中包括 Join_buffer 、 Sort_buffer 和一个 Session 变量存储数组。 </li></ul><ul><li>如果连接数过多会怎么样 ? </li></ul><ul><li>如果连接 MySQL 的线程太多,那么每个线程分配到的 join_buffer+sort_buffer 总量就会很大,占用大量内存。 </li></ul><ul><li>如何设置连接池 ? </li></ul><ul><li>建议最小值和最大值差距不要太大,避免连接反复的创建和释放,带来 CPU 开销。如果连接数一直比较平稳的应用,则最小值和最大值在平均线附近设置即可。如果连接数长期较高,则最小值也设置大一些。如果连接数长期较低,则最大值偏小设置。 </li></ul>
  10. 10. 应用程序实现 JOIN <ul><li>如果需要跨主机进行 JOIN ,跨应用进行 JOIN ,或者数据库不能获得较好的执行计划,都可以自己通过程序来实现 JOIN 。 </li></ul><ul><li>例如: SELECT a.*,b.* FROM a,b </li></ul><ul><li>WHERE a.col1=b.col1 AND a.col2> 10 ORDER BY a.col2; </li></ul><ul><li>可以利用程序实现,先 SELECT * FROM a WHERE a.col2>10 ORDER BY a.col2;--(1) </li></ul><ul><li>利用 (1) 的结果集,做循环, SELECT * FROM b WHERE b.col1=a.col1; </li></ul><ul><li>这样可以避免排序,可以在程序里控制执行的速度,有效降低数据库压力,也可以实现跨主机的 JOIN 。 </li></ul><ul><li>《 内连接实现例子 》 </li></ul><ul><li>《 外连接实现例子 》 </li></ul>
  11. 11. MySQL 管理基础 <ul><li>HA 与海量数据方案 </li></ul><ul><li>复制搭建方法 </li></ul><ul><li>简单备份方案 </li></ul><ul><li>简易故障处理 </li></ul><ul><li>运维风险点 </li></ul>
  12. 12. HA 与海量数据方案 <ul><li>Heartbeat 方案 :利用 Heartbeat 管理 VIP ,利用 crm 管理 MySQL , MySQL 进行双 M 复制。( Linux 系统下没有分库的标准方案) </li></ul><ul><li>LVS+Keepalived 方案 :利用 Keepalived 管理 LVS 和 VIP , LVS 分发请求到 MySQL , MySQL 进行双 M 复制。( Linux 系统下无分库无事务的方案) </li></ul><ul><li>Cobar 方案 :利用 Cobar 进行 HA 和分库,应用程序请求 Cobar , Cobar 转发请求道数据库。(有分库的标准方案, Unix 下唯一方案) </li></ul>
  13. 13. 复制搭建方法 <ul><li>搭建复制的必备条件:复制的机器之间网络通畅, Master 打开了 binlog 。 </li></ul><ul><li>搭建复制步骤 : </li></ul><ul><li>1. 创建复制账户: GRANT REPLICATION SLAVE ON *.* TO 'repl'@'%' IDENTIFIED BY‘xxx'; </li></ul><ul><li>2. SHOW MASTER STATUS; 记录下 File 和 Postion 。 </li></ul><ul><li>3. 在 Slave 上 CHANGE MASTER TO master_host=‘IP‘, master_user='repl', master_password=‘xxx’, master_log_file='mysql-bin.00000x', master_log_pos=pos; </li></ul><ul><li>4. Slave 上执行 Slave start 开始复制。 </li></ul>
  14. 14. 简单备份方案 <ul><li>冷备份: </li></ul><ul><li>MyISAM :拷贝数据目录下数据库名的目录即可,恢复只要拷贝回来即可。 </li></ul><ul><li>InnoDB :拷贝全部数据目录。 </li></ul><ul><li>热备份: </li></ul><ul><li>MyISAM : Flush Tables With Read Lock; 后可以直接拷贝。 </li></ul><ul><li>InnoDB : xtrackaup 来实现。 </li></ul><ul><li>逻辑备份: </li></ul><ul><li>mysqldump –u 用户 – p 密码 数据库 [ 表 1 表 2…] > db.sql </li></ul><ul><li>全库完整备份(带复制 Postion ): </li></ul><ul><li>mysqldump -uroot -p --all-databases --opt --add-drop-database --add-drop-table --events --triggers --routines --default-character-set=utf8 --master-data=2 --single-transaction --complete-insert --quote-names --log-error=/tmp/mysqldump20100803.log >backup_20100803.sql </li></ul>
  15. 15. 简易故障处理 <ul><li>启动不成功怎么办? </li></ul><ul><li>查看 error.log ,如果报出 can’t create/write dictory ,那就是权限设置错误。 MySQL 的数据目录要求 MySQL 可以读它的上级目录,可以写数据目录。 </li></ul><ul><li>复制主键冲突怎么办? </li></ul><ul><li>STOP SLAVE; SET GLOBAL SQL_SLAVE_skip_counter = 1; START SLAVE; SHOW SLAVE STATUS G ,原理是跳过出错的行。也可以设置 my.cnf 中的 skip_slave_errors=1062 来批量的跳过复制错误(需要重启)。 </li></ul><ul><li>死锁怎么办? </li></ul><ul><li>show innodb status; 查看死锁的事务, kill 掉其中一个即可。 </li></ul><ul><li>大量 SQL 在 freeing items 怎么办? </li></ul><ul><li>数据库所在磁盘已满,请检查磁盘空间。 </li></ul>
  16. 16. 运维风险点 <ul><li>主库的任何操作都会复制到备库。 </li></ul><ul><li>如果需要备库具备容灾能力,那么不要实时开着 slave 复制,每隔一段时间 slave start 一次,复制追上后 slave stop 停止,直到下一次复制开始。 </li></ul><ul><li>同时 DROP/ADD 字段或索引可能导致数据库 Crash 。 </li></ul><ul><li>已经在 MySQL Bug 库中确认此 Bug ,如果表很大,即使花再多的时间,也不要冒险尝试同时 DROP/ADD 字段或索引,分两次,一次 ADD 一次 DROP 。 </li></ul><ul><li>HA 切换如果主备主键序列一致可能导致冲突。 </li></ul><ul><li>如果主键是自增并且主备序列一致,那么切换时可能主库存在记录没有来得及复制到备机,导致备机的序列增长盖过主机,导致复制冲突。解决方案是主备生成不一致的主键序列,例如一个奇数,一个偶数,或者利用第三方主键生成器。 </li></ul>
  17. 17. 网站常见故障分析 <ul><li>SQL 执行计划改变导致 SQL 占用大量 CPU 。 </li></ul><ul><li>统计 SQL 在数据量增大后占用大量磁盘 IO 和 CPU 。 </li></ul><ul><li>SQL 中存在 NULL 条件,导致执行计划走错。 </li></ul><ul><li>存储过程没有使用预处理和绑定变量,导致解析 SQL 占用大量 SQL 。 </li></ul><ul><li>大批量修改操作没有 SET AUTOCOMMIT=0 ,导致每条 SQL 均提交,效率低。 </li></ul><ul><li>SQL 未经审核上线,导致没有建立索引,执行计划为全表扫描。 </li></ul>
  18. 18. MySQL 故障案例 <ul><li>BRMMS 故障 </li></ul>

×