第九章· MySQL的备份和恢复
一.备份的原因
运维工作的核心简单概括就两件事:
- 1)第一个是保护公司的数据.
- 2)第二个是让网站能7*24小时提供服务(用户体验)。

备份的原因 - 1)备份就是为了恢复。
- 2)尽量减少数据的丢失(公司的损失)
二.备份的类型
1.冷备份:
这些备份在用户不能访问数据时进行,因此无法读取或修改数据。这些脱机备份会阻止执行任何使用数据的活动。这些类型的备份不会干扰正常运行的系统的性能。但是,对于某些应用程序,会无法接受必须在一段较长的时间里锁定或完全阻止用户访问数据。
2.温备份:
这些备份在读取数据时进行,但在多数情况下,在进行备份时不能修改数据本身。这种中途备份类型的优点是不必完全锁定最终用户。但是,其不足之处在于无法在进行备份时修改数据集,这可能使这种类型的备份不适用于某些应用程序。在备份过程中无法修改数据可能产生性能问题。
3.热备份:
这些动态备份在读取或修改数据的过程中进行,很少中断或者不中断传输或处理数据的功能。使用热备份时,系统仍可供读取和修改数据的操作访问。
三.备份的方式
1.逻辑备份:
基于SQL语句的备份
- 1)binlog
- 2)into outfile
mysql> select * from world.city into outfile '/tmp/world_city.data';
- 3)mysqldump
- 4)replication
2.物理备份:
基于数据文件的备份
- 1)Xtrabackup(percona公司)
四.备份策略
- 1)全量备份 full
- 2)增量备份 increamental
五.备份工具
1.备份工具
1)mysqldump(逻辑)
mysql原生自带很好用的逻辑备份工具
2)mysqlbinlog(逻辑)
实现binlog备份的原生态命令
3)xtrabackup(物理)
precona公司开发的性能很高的物理备份工具
2.备份工具使用
2.1 mysqldump的备份
mysqldump常用参数
1)连接服务端参数(基本参数):-u -p -h -P -S
2)-A, --all-databases:全库备份
[root@db01 ~]# mysqldump -uroot -poldboy123 -A > /backup/full.sql
3)不加参数:单库、单表多表备份
[root@db01 ~]# mysqldump -uroot -poldboy123 db1 > /backup/db1.sql
[root@mysql-db01 backup]# mysqldump -uroot -poldboy123 world city > /backup/city.sql
4)-B:指定库备份
[root@db01 ~]# mysqldump -uroot -p123 -B db1 > /backup/db1.sql
[root@db01 ~]# mysqldump -uroot -p123 -B db1 db2 > /backup/db1_db2.sql
5)-F:flush logs在备份时自动刷新binlog(不怎么常用)
[root@db01 backup]# mysqldump -uroot -p123 -A -R –triggers -F > /backup/full_2.sql
6)--master-data=2:备份时加入change master语句0没有1不注释2注释
[root@db01 backup]# mysqldump -uroot -p123 --master-data=2 >/backup/full.sql
7)-d:仅表结构
8)-t:仅数据
备份额外扩展项
- 1)-R, --routines:备份存储过程和函数数据
- 2)--triggers:备份触发器数据
[root@db01 backup]# mysqldump -uroot -p123 -A -R --triggers > /backup/full_2.sql
mysqldump特殊参数
1)-x:锁表备份(myisam温备份)
2)--single-transaction:快照备份
[root@db01 backup]# mysqldump -uroot -p123 -A -R --triggers --master-data=2 –single-transaction>/backup/full.sql
3) gzip:压缩备份
[root@db01 ~]# mysqldump -uroot -p123 -A -R --triggers --master-data=2 –single-transaction|gzip>/backup/full.sql.gz
mysqldump的恢复
#先不记录二进制日志
mysql> set sql_log_bin=0;
#库内恢复操作
mysql> source /backup/full.sql
#库外恢复操作
[root@db01 ~]# mysql -uroot -p123 < /backup/full.sql
注意:
- 1)mysqldump在备份和恢复时都需要MySQL实例启动为前提
- 2)一般数据量级100G以内,大约15-30分钟可以恢复(PB、EB就需要考虑别的方式)
- 3)mysqldump是以覆盖的形式恢复数据的
2.2 企业故障恢复案例
背景:
正在运行的网站系统,MySQL数据库,数据量25G,日业务增量10-15M。
备份策略:
每天23:00,计划任务调用mysqldump执行全备脚本
故障时间点:
上午10点开发人员误删除一个核心业务表,如何恢复?
思路:
1)停业务避免数据的二次伤害
2)找一个临时的库,恢复前一天的全备
3)截取前一天23:00到第二天10点误删除之间的binlog,恢复到临时库
4)测试可用性和完整性
5)开启业务前的两种方式
a.直接使用临时库顶替原生产库,前端应用割接到新库
b.将误删除的表单独导出,然后导入到原生产环境
6)开启业务
故障模拟演练:
准备数据:
#刷新binlog使内容更清晰
mysql> flush logs;
#查看当前使用的binlog
mysql> show master status;
#创建backup库
mysql> create database backup;
#进入backup库
mysql> use backup
#创建full表
mysql> create table full select * from world.city;
#创建full_1表
mysql> create table full_1 select * from world.city;
#查看表
mysql> show tables;
全备:
[root@db01 ~]# mysqldump -uroot -p123 -A -R --triggers --master-data=2 --single-transaction|gzip > /backup/full_$(date +%F).sql.gz
模拟数据变化:
#进入backup库
mysql> use backup
#创建new表
mysql> create table new select * from mysql.user;
#创建new_1表
mysql> create table new_1 select * from world.country;
#查看表
mysql> show tables;
#查看full表中所有数据
mysql> select * from full;
#把full表中所有的countrycode都改成CHN
mysql> update full set countrycode='CHN' where 1=1;
#提交
mysql> commit;
#删除id大于200的数据
mysql> delete from full where id>200;
#提交
mysql> commit;
模拟故障:
#删除new表
mysql> drop table new;
#查看表
mysql> show tables;
恢复过程:
1)准备临时数据库
[root@db02 ~]# mysqld_safe --defaults-file=/data/3307/my.cnf &
2)拷贝数据到新库上
[root@db02 ~]# scp /backup/full_2018-08-16.sql.gz root@10.0.0.52:/tmp
3)解压全备数据文件
#进入tmp目录
[root@db02 ~]# cd /tmp/
#解压全备数据文件
[root@db02 tmp]# gzip -d full_2018-08-16.sql.gz
截取二进制
#查看全备的位置点(起始位置点)
[root@db02 tmp]# head -50 full_2018-08-16.sql |grep -i 'change master to'
#找到drop语句执行的位置点(结束位置点)
mysql> show binlog events in 'mysql-bin.000017';
#截取二进制
[root@db01 tmp]#mysqlbinlog -uroot -p123 --start-position=268002 --stop-position=671148 /application/mysql/data/mysql-bin.000017 > /tmp/inc.sql
#发送增量数据到新库
[root@db01 tmp]# scp /tmp/inc.sql root@10.0.0.52:/tmp
在新库内恢复数据
#不记录二进制日志
mysql> set sql_log_bin=0;
#恢复全备数据
mysql> source /tmp/full_2018-08-16.sql
#进入backup库
mysql> use backup
# 查看表
mysql> show tables;
#恢复增量数据
mysql> source /tmp/inc.sql
#查看表
mysql> show tables;
4)将故障表导出并恢复到生产
#导出new表
[root@db02 ~]# mysqldump -uroot -p123 -S /data/3307/mysql.sock backup new > /tmp/new.sql
#发送到生产库
[root@db02 ~]# scp /tmp/new.sql root@10.0.0.51:/tmp/
#进入backup库
mysql> use backup
#在生产库恢复数据
mysql> source /tmp/new.sql
#查看表
mysql> show tables;
2.3 物理备份(Xtrabackup)
Xtrabackup安装
#下载epel源
wget -O /etc/yum.repos.d/epel.repo https://mirrors.aliyun.com/repo/epel-6.repo
#安装依赖
yum -y install perl perl-devel libaio libaio-devel perl-Time-HiRes perl-DBD-MySQL
#下载Xtrabackup
wget httpss://www.percona.com/downloads/XtraBackup/Percona-XtraBackup-2.4.4/binary/redhat/6/x86_64/percona-xtrabackup-24-2.4.4-1.el6.x86_64.rpm
备份方式(物理备份)
- 1)对于非innodb表(比如myisam)是直接锁表cp数据文件,属于一种温备。
- 2)对于innodb的表(支持事务),不锁表,cp数据页最终以数据文件方式保存下来,并且把redo和undo一并备走,属于热备方式。
- 3)备份时读取配置文件/etc/my.cnf
2.3.1 全量备份
#全备
[root@db01 data]# innobackupex --user=root --password=123 /backup
#避免时间戳,自定义路径名
[root@db01 ~]# innobackupex --user=root --password=123 --no-timestamp /backup/full
#查看备份路径中的内容
[root@db01 backup]# ll /backup/full
#记录binlog文件名和binlog的位置点
-rw-r----- 1 root root 21 Aug 16 06:23 xtrabackup_binlog_info
#备份时刻,立即将已经commit过的内存中的数据页刷新到磁盘
#备份时刻有可能会有其他数据写入,已备走的数据文件就不会再发生变化了
#在备份过程中,备份软件会一直监控着redo和undo,一旦有变化会将日志一并备走
-rw-r----- 1 root root 117 Aug 16 06:23 xtrabackup_checkpoints
#备份汇总信息
-rw-r----- 1 root root 485 Aug 16 06:23 xtrabackup_info
#备份的redo文件
-rw-r----- 1 root root 2560 Aug 16 06:23 xtrabackup_logfile
全备的恢复
准备备份
将redo进行重做,已提交的写到数据文件,未提交的使用undo回滚,模拟CSR的过程
[root@db01 full]# innobackupex --user=root --password=123 --apply-log /backup/full
恢复备份
前提1:被恢复的目录是空的
前提2:被恢复的数据库的实例是关闭的
#停库
[root@db01 full]# /etc/init.d/mysqld stop
#进入mysql目录
[root@db01 full]# cd /application/mysql
#删除data目录(在生产中可以备份一下)
[root@db01 mysql]# rm -fr data/
#拷贝数据
[root@db01 mysql]# innobackupex --copy-back /backup/ful
#授权
[root@db01 mysql]# chown -R mysql.mysql /application/mysql/data/
#启动MySQL
[root@db01 mysql]# /etc/init.d/mysqld start
2.3.2 增量备份及恢复
备份方式
- 1)基于上一次备份进行增量
- 2)增量备份无法单独恢复,必须基于全备进行恢复
- 3)所有增量必须要按顺序合并到全备当中
#不使用之前的全备,执行一次全备
[root@mysql-db01 ~]# innobackupex --user=root --password=123 --no-timestamp /backup/full
模拟数据变化
mysql> create database inc1;
mysql> use inc1
mysql> create table inc1_tab(id int);
mysql> insert into inc1_tab values(1),(2),(3);
mysql> commit;
mysql> select * from inc1_tab;
第一次增量备份
[root@db01 ~]# innobackupex --user=root --password=123 --no-timestamp --incremental --incremental-basedir=/backup/full/ /backup/inc1
参数说明:
--incremental:开启增量备份功能
--incremental-basedir:上一次备份的路径
再次模拟数据变化
mysql> create database inc2;
mysql> use inc2
mysql> create table inc2_tab(id int);
mysql> insert into inc2_tab values(1),(2),(3);
mysql> commit;
第二次增量备份
[root@db01 ~]# innobackupex --user=root --password=123 --no-timestamp --incremental --incremental-basedir=/backup/inc1/ /backup/inc2
增量恢复
#破坏数据
[root@db01 ~]# rm -fr /application/mysql/data/
准备备份
- 1)full+inc1+inc2
- 2)需要将inc1和inc2按顺序合并到full中
- 3)分步骤进行--apply-log
第一步:在全备中apply-log时,只应用redo,不应用undo
[root@db01 ~]# innobackupex --apply-log --redo-only /backup/full/
第二步:合并inc1合并到full中,并且apply-log,只应用redo,不应用undo
[root@db01 ~]# innobackupex --apply-log --redo-only --incremental-dir=/backup/inc1/ /backup/full/
第三步:合并inc2合并到full中,redo和undo都应用
[root@db01 ~]# innobackupex --apply-log --incremental-dir=/backup/inc2/ /backup/full/
第四步:整体full执行apply-log,redo和undo都应用
[root@db01 mysql]# innobackupex --apply-log /backup/full/
copy-back
[root@db01 ~]# innobackupex --copy-back /backup/full/
[root@db01 ~]# chown -R mysql.mysql /application/mysql/data/
[root@db01 ~]# /etc/init.d/mysqld start
2.3.3 差异备份:
1)先做全备
[root@db01 ~]# innobackupex --user=root --password=123 --no-timestamp /backup/full
from_lsn = 0
to_lsn = 2539999813
2)模拟数据变化
mysql> create database chayi1;
Query OK, 1 row affected (0.00 sec)
mysql> use chayi1;
Database changed
mysql> create table chayi1(id int);
Query OK, 0 rows affected (0.03 sec)
mysql> insert into chayi1 values(1),(2);
Query OK, 2 rows affected (0.01 sec)
Records: 2 Duplicates: 0 Warnings: 0
mysql> commit;
Query OK, 0 rows affected (0.00 sec)
3)做差异备份
[root@db01 ~]# innobackupex --user=root --password=123 --no-timestamp --incremental --incremental-basedir=/backup/full /backup/chayi1
from_lsn = 2539999813
to_lsn = 2540006274
4)模拟第二次数据变化
mysql> create database chayi2;
Query OK, 1 row affected (0.00 sec)
mysql> use chayi2
Database changed
mysql> create table chayi2(id int);
Query OK, 0 rows affected (0.02 sec)
mysql> insert into chayi2 values(1),(2),(3);
Query OK, 3 rows affected (0.00 sec)
Records: 3 Duplicates: 0 Warnings: 0
mysql> commit;
Query OK, 0 rows affected (0.01 sec)
5)第二次差异备份
[root@db01 ~]# innobackupex --user=root --password=123 --no-timestamp --incremental --incremental-basedir=/backup/full /backup/chayi2
from_lsn = 2539999813
to_lsn = 2540011876
6)模拟数据损坏
[root@db01 ~]# /etc/init.d/mysql stop
Shutting down MySQL.. SUCCESS!
[root@db01 ~]# rm -fr /application/mysql/data/
7)恢复数据
a)全备只做redo
[root@db01 ~]# innobackupex --apply-log --redo-only /backup/full/
b)合并最后一次差异备份,redo undo 都做
[root@db01 ~]# innobackupex --apply-log --incremental-dir=/backup/chayi2/ /backup/full/
c)全备做redo undo模拟CSR
[root@db01 ~]# innobackupex --apply-log /backup/full/
d)执行copy-back恢复数据
[root@db01 ~]# innobackupex --copy-back /backup/full/
8)修改权限
[root@db01 ~]# chown -R mysql.mysql /application/mysql/data/
9)启动数据库
[root@db01 ~]# /etc/init.d/mysql start
思考:
企业级增量恢复实战
背景:
某大型网站,mysql数据库,数据量500G,每日更新量100M-200M
备份策略:
xtrabackup,每周六0:00进行全备,周一到周五及周日00:00进行增量备份。
故障场景:
周三下午2点出现数据库意外删除表操作。
如何恢复???
第九章· MySQL的备份和恢复的更多相关文章
- mysql 数据库备份,恢复。。。。
mysql 数据备份,恢复,恢复没写,这里只写了备份... 先暂作记录吧! 备份:表结构和数据完全分开,默认有一个文件会记录所有表的结构,然后表中数据的备份 如果超过分卷的大小则会分成多个文件,不然则 ...
- MySQL的备份和恢复
MySQL的备份和恢复 备份数据:mysqldump –uroot –p123456 dbname table [option] > dbname.sql mysqldump常用参数option ...
- 第九章 MySQL中LIMIT和NOT IN案例
第九章 MySQL中LIMIT和NOT IN案例 一.案例的项目 1.创建数据库语句: #创建数据库 CREATE DATABASE `schoolDB`; USE `schoolDB`; #创建学生 ...
- MySQL的备份和恢复-基于LVM快照的备份(lvm-snapshot)
MySQL的备份和恢复-基于LVM快照的备份(lvm-snapshot) 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.什么是快照卷 如上图所示,原卷和快照卷可以不一样大,因为 ...
- MySQL的备份和恢复-mysqldump
MySQL的备份和恢复-mysqldump 作者:尹正杰 版权声明:原创作品,谢绝转载!否则将追究法律责任. 一.为什么需要备份 1>.做灾难恢复 天有不测风云嘛,如果你的服务器被黑客攻击了(比 ...
- mysql 完整备份和恢复
mysql 完整备份和恢复 一.MySQL完整备份操作 1.直接打包数据库文件夹 创建数据库auth: MariaDB [(none)]> create database auth;Quer ...
- JSP 实现 之 调用java方法实现MySQL数据库备份和恢复
package cn.qm.db; import java.io.BufferedReader; import java.io.DataInputStream; import java.io.IOEx ...
- MySQL没有备份怎么恢复被drop的表(利用undrop-for-innodb)
介绍: 也许大家都难以理解,这么重要的数据为啥不备份(或者备份不可用)?而且还任性的drop table了.显然有备份是最好的,但是它们并不总是可用的.这种情况令人恐惧,但并非毫无希望.在许多 ...
- innobackupex做MySQL增量备份及恢复【转】
创建备份用户 mysql> grant process,reload,lock tables,replication client on *.* to 'backup'@'localhost' ...
随机推荐
- 一次神奇的JVM调优
老张接个新项目,项目可是不小,好多模块.使用Intellij import new project, 结果卡在writing class中,而且mac的风扇一直转,像是要变成直升机起飞. 等啊等,in ...
- android stdio 首次安装配置
http://www.cnblogs.com/smyhvae/p/4390905.html 不启用 加快模拟器调试 这个玩意儿打开老是报什么 android 1.0的问题 导致编译不起来 直接关了 S ...
- Java泛型(10):泛型与异常
由于擦除的原因,将泛型运用于异常是非常受限的.catch语句不能捕获泛型类型的异常,因为在编译期和运行期都必须知道异常的确切类型.但是,类型参数可能会在一个方法的throw子句中用到.这使得你可以编写 ...
- centos 自动挂载ISO
创建挂载点并挂载光盘mkdir -p /media/cdrommount -t iso9660 -o loop /usr/ison/centos.iso /media/cdrom 设置开机自动挂载:方 ...
- docker清理
# 删除退出的容器docker rm $(docker ps -qa --no-trunc --filter "status=exited") # 删除悬挂镜像docker rmi ...
- RestTemplate连接池(转载)
出处:http://zhangzhi19861216.cnblogs.com/ spring-boot RestTemplate 连接池 以前我们项目都是基于Apache HttpClient 连接池 ...
- git 命令 查看历史提交 git log
怎么理解git commit 命令 git commit 相当于 我们虚拟机快照操作,每次执行commit命令 相当于对本地仓库做一次快照,保存了当时仓库的状态, git commit -m 加上的& ...
- gitlab 安装升级
GitLab,是一个使用 Ruby on Rails 开发的开源应用程序,与Github类似,能够浏览源代码,管理缺陷和注释,非常适合在团队内部使用. 安装方式: Bitnami一键安装:https: ...
- 网站循环加载监控-C#
背景: 公司有一个报表的网站,服务器或系统不太稳定,导致客户有时候查看报表网址的时候网站打不开或者打开时间过长,影响用户体验 需求: 通过程序循环打开网址了解加载情况,使用谷歌浏览器内核.,程序开发不 ...
- 小记--------spark的宽依赖与窄依赖分析
窄依赖: Narrow Dependency : 一个RDD对它的父RDD,只有简单的一对一的依赖关系.RDD的每个partition仅仅依赖于父RDD中的一个partition,父RDD和子RDD的 ...