物理备份(Xtrabackup)

Xtrabackup安装

#下载epel源
wget -O /etc/yum.repos.d/epel.repo https://mirrors.aliyun.com/repo/epel-6.repo
#安装依赖
yum -y install perl perl-devel libaio libaio-devel perl-Time-HiRes perl-DBD-MySQL
#下载Xtrabackup
wget httpss://www.percona.com/downloads/XtraBackup/Percona-XtraBackup-2.4.4/binary/redhat/6/x86_64/percona-xtrabackup-24-2.4.4-1.el6.x86_64.rpm

备份方式(物理备份)

1)对于非innodb表(比如myisam)是直接锁表cp数据文件,属于一种温备。

2)对于innodb的表(支持事务),不锁表,cp数据页最终以数据文件方式保存下来,并且把redo和undo一并备走,属于热备方式。

3)备份时读取配置文件/etc/my.cnf

1.全量备份

#全备
[root@db01 data]# innobackupex --user=root --password=1 /backup #避免时间戳,自定义路径名
[root@db01 ~]# innobackupex --user=root --password=123 --no-timestamp /backup/full #查看备份路径中的内容
[root@db01 backup]# ll /backup/full
#记录binlog文件名和binlog的位置点
-rw-r----- 1 root root 21 Aug 16 06:23 xtrabackup_binlog_info
#备份时刻,立即将已经commit过的内存中的数据页刷新到磁盘
#备份时刻有可能会有其他数据写入,已备走的数据文件就不会再发生变化了
#在备份过程中,备份软件会一直监控着redo和undo,一旦有变化会将日志一并备走
-rw-r----- 1 root root 117 Aug 16 06:23 xtrabackup_checkpoints
#备份类型(全备)
backup_type = full-backuped
#从哪个日志版本号开始
from_lsn = 0
#备份到哪个日志版本号
to_lsn = 1025046494
#最新的日志版本号
last_lsn = 1025046494
compact = 0
recover_binlog_info = 0 #备份汇总信息
-rw-r----- 1 root root 485 Aug 16 06:23 xtrabackup_info
#备份的redo文件
-rw-r----- 1 root root 2560 Aug 16 06:23 xtrabackup_logfile

全备的恢复

准备备份

将redo进行重做,已提交的写到数据文件,未提交的使用undo回滚,模拟CSR的过程

[root@db01 full]# innobackupex --user=root --password=1 --apply-log /backup/full

恢复备份步骤

前提1:被恢复的目录是空的

前提2:被恢复的数据库的实例是关闭的

#1. 停库
[root@db01 full]# /etc/init.d/mysqld stop
#2. 进入mysql目录
[root@db01 full]# cd /application/mysql
#删除data目录(在生产中可以备份一下)
[root@db01 mysql]# rm -fr data/ #3.先做redo和undo 模拟CSR
[root@db01 mysql]# innobackupex --user=root --password=1 --apply-log /backup/2019-11-15_00-35-57 #4.恢复data 在my.cnf里面必须有datadir
[root@db01 mysql]# innobackupex --copy-back /backup/2019-11-15_00-35-57 #授权
[root@db01 mysql]# chown -R mysql.mysql /application/mysql/data/
#启动MySQL
[root@db01 mysql]# /etc/init.d/mysqld start

注意:不要时间戳就加上--no-timestamp

2.增量备份及恢复

备份方式

1)基于上一次备份进行增量

2)增量备份无法单独恢复,必须基于全备进行恢复

3)所有增量必须要按顺序合并到全备当中

#1.不使用之前的全备,执行一次全备
[root@mysql-db01 ~]# innobackupex --user=root --password=1 --no-timestamp /backup/full

先模拟数据变化

mysql> create database inc1;
mysql> use inc1
mysql> create table inc1_tab(id int);
mysql> insert into inc1_tab values(1),(2),(3);
mysql> commit;
mysql> select * from inc1_tab;

第一次增量备份

[root@db01 ~]# innobackupex --user=root --password=1 --no-timestamp --incremental --incremental-basedir=/backup/full/ /backup/inc1
参数说明:
--incremental:开启增量备份功能
--incremental-basedir:上一次备份的路径

再次模拟数据变化

mysql> create database inc2;
mysql> use inc2
mysql> create table inc2_tab(id int);
mysql> insert into inc2_tab values(1),(2),(3);
mysql> commit;

inn第二次增量备份

[root@db01 ~]# innobackupex --user=root --password=1 --no-timestamp --incremental --incremental-basedir=/backup/inc1/ /backup/inc2

增量恢复

#破坏数据
mysql> drop database world;
Query OK, 3 rows affected (0.04 sec) mysql> drop database world1;
Query OK, 1 row affected (0.03 sec) mysql> drop database test;
Query OK, 5 rows affected (0.03 sec)
mysql> show databases;
+--------------------+
| Database |
+--------------------+
| information_schema |
| backup |
| binlog |
| db01 |
| db02 |
| db1 |
| linux50 |
| mysql |
| performance_schema |
| shell |
| testa |
+--------------------+
11 rows in set (0.00 sec) [root@db01 full]# /etc/init.d/mysqld stop
Shutting down MySQL.... SUCCESS!
[root@db01 full]# rm -fr /application/mysql/data/*

准备备份

**1.增量备份无法单独恢复,必须基于全备进行恢复 **

**2.所有增量必须要按顺序合并到全备当中 **

**3.分步骤进行--apply-log **

第一步:在全备中apply-log时,只应用redo,不应用undo

[root@db01 ~]# innobackupex --apply-log --redo-only /backup/full/
backup_type = log-applied
from_lsn = 0
to_lsn = 1025119769

第二步:合并inc1合并到full中,并且apply-log,只应用redo,不应用undo

[root@db01 ~]# innobackupex --apply-log --redo-only --incremental-dir=/backup/inc1/ /backup/full/
from_lsn = 0
to_lsn = 1025140919

第三步:合并inc2合并到full中,redo和undo都应用

[root@db01 ~]# innobackupex --apply-log --incremental-dir=/backup/inc2/ /backup/full/
from_lsn = 0
to_lsn = 1025168949

第四步:整体full执行apply-log,redo和undo都应用,模拟一次CSR

[root@db01 mysql]# innobackupex --apply-log /backup/full/

第五步: copy back

[root@db01 ~]# innobackupex --copy-back /backup/full/
[root@db01 ~]# chown -R mysql.mysql /application/mysql/data/
[root@db01 ~]# /etc/init.d/mysqld start

第六步:测试查看

[root@db01 backup]# mysql -uroot -p1
mysql> show databases;
+--------------------+
| Database |
+--------------------+
| information_schema |
| backup |
| binlog |
| db01 |
| db02 |
| db1 |
| linux50 |
| mysql |
| performance_schema |
| shell |
| test |
| testa |
| world |
| world1 |
+--------------------+
14 rows in set (0.00 sec)

3.差异备份及恢复

优点:

**1.备份的时候,方便 **

2.恢复的时候,也方便

缺点:

**重复数据多,占用磁盘空间大 **

[root@db01 backup]# innobackupex --user=root --password=1 --no-timestamp /backup/full_1
backup_type = full-backuped
from_lsn = 0
to_lsn = 1025176220

1).第一次差异备份

[root@db01 backup]# innobackupex --user=root --password=1 --no-timestamp --incremental --incremental-basedir=/backup/full_1 /backup/chayi1
[root@db01 backup]# cat chayi1/xtrabackup_checkpoints
backup_type = incremental
from_lsn = 1025176220
to_lsn = 1025202474

2) .第二次差异备份

[root@db01 backup]# innobackupex --user=root --password=1 --no-timestamp --incremental --incremental-basedir=/backup/full_1 /backup/chayi2
backup_type = incremental
from_lsn = 1025176220
to_lsn = 1025208985

3) .第三次差异备份

[root@db01 backup]# innobackupex --user=root --password=1 --no-timestamp --incremental --incremental-basedir=/backup/full_1 /backup/chayi3

4) .第四次差异备份

[root@db01 backup]# innobackupex --user=root --password=1 --no-timestamp --incremental --incremental-basedir=/backup/full_1 /backup/chayi4
backup_type = incremental
from_lsn = 1025176220
to_lsn = 1025234244

恢复数据

#1.停数据库
[root@db01 backup]# /etc/init.d/mysqld stop
#2.删除data目录或者备份
[root@db01 backup]# rm -fr /application/mysql/data/* #3.模拟CSR合并数据
full_1 + chayi1 + chayi2 + chayi3 + chayi4 1)full_1只做redo 不做undo
[root@db01 backup]# innobackupex --apply-log --redo-only /backup/full_1/
2)将chayi4合并到full_1 redo undo 都做
[root@db01 backup]# innobackupex --apply-log --incremental-dir=/backup/chayi4 /backup/full_1/
3)将full_1 redo undo 都做
[root@db01 backup]# innobackupex --apply-log /backup/full_1/ #4.copy back
[root@db01 backup]# innobackupex --copy-back /backup/full_1/ [root@db01 backup]# chown -R mysql.mysql /application/mysql/data/

4.实战:企业级增量恢复实战

背景:

某大型网站,mysql数据库,数据量500G,每日更新量100M-200M

备份策略:

xtrabackup,每周六0:00进行全备,周一到周五及周日00:00进行增量备份。

故障场景:

周三下午2点出现数据库意外删除表操作。

如何恢复?

思路:

步骤:

1.创建数据

mysql> create database mysqldump;
mysql> use mysqldump
mysql> create table mysqldump(id int);
[root@db01 ~]# sh insert.sh
mysql> select count(*) from mysqldump.mysqldump;
+----------+
| count(*) |
+----------+
| 105 |
+----------+

2.全备

[root@db01 ~]# innobackupex --user=root --password=1 --no-timestamp /backup/full_`date +%F`
[root@db01 ~]# ll /backup/
total 4
drwxr-x--- 18 root root 4096 Nov 14 19:49 full_2019-11-14

3.模拟增量数据

模拟写数据脚本
[root@db01 ~]# vim insert.sh
#!/bin/bash
while true;do
mysql -uroot -p1 -e 'insert into mysqldump.mysqldump values(1);commit;'
sleep 2
done
[root@db01 ~]# sh insert.sh

4.增备

[root@db01 ~]# date +%F -s '+1day'
2019-11-15
[root@db01 ~]# innobackupex --user=root --password=1 --no-timestamp --incremental --incremental-basedir=/backup/full_`date +%F -d "1 day ago"` /backup/inc_`date +%F`
[root@db01 ~]# ll /backup/
total 8
drwxr-x--- 18 root root 4096 Nov 14 19:49 full_2019-11-14
drwxr-x--- 18 root root 4096 Nov 15 19:51 inc_2019-11-15

5.模拟增量数据

[root@db01 ~]# sh insert.sh
mysql> select count(*) from mysqldump.mysqldump;
+----------+
| count(*) |
+----------+
| 127 |
+----------+

6.增备

[root@db01 ~]# date +%F -s '+1day'
2019-11-16
[root@db01 ~]# innobackupex --user=root --password=1 --no-timestamp --incremental --incremental-basedir=/backup/inc_`date +%F -d "1 day ago"` /backup/inc_`date +%F`
[root@db01 ~]# ll /backup/
total 12
drwxr-x--- 18 root root 4096 Nov 14 19:49 full_2019-11-14
drwxr-x--- 18 root root 4096 Nov 15 19:51 inc_2019-11-15
drwxr-x--- 18 root root 4096 Nov 16 19:52 inc_2019-11-16

7.模拟增量数据

[root@db01 ~]# sh insert.sh
mysql> select count(*) from mysqldump.mysqldump;
+----------+
| count(*) |
+----------+
| 134 |
+----------+

8.到时候 周三下午14点:模拟故障删库,删表

mysql> drop database linux50;
Query OK, 6 rows affected (0.05 sec) mysql> drop database backup;
Query OK, 2 rows affected (0.03 sec) mysql> show databases;
+--------------------+
| Database |
+--------------------+
| information_schema |
| binlog |
| db1 |
| mysql |
| performance_schema |
| shell |
| test |
| world |
+--------------------+
8 rows in set (0.00 sec)

9.恢复步骤

1)找到drop语句执行的位置点 , 23:00之后到删库的用bin_log恢复

#取最后一个增备的终点,也就是要恢复的起点
[root@db01 ~]# cat /backup/inc_2019-11-16/xtrabackup_binlog_info
mysql-bin.000001 2238 #结束位置点
[root@db01 ~]# mysql -uroot -p1 -e "show binlog events in 'mysql-bin.000001'"|grep -i 'drop database'
mysql-bin.000001 3356 Query 1 6695 drop database mysqldump #截取二进制
[root@db01 tmp]#mysqlbinlog -uroot -p123 --start-position=2238 --stop-position=3356 /application/mysql/data/mysql-bin.000017 > /tmp/inc.sql [root@db01 ~]# ll /tmp/
-rw-r--r-- 1 root root 5876 Nov 16 19:55 inc.sql

2)停库

#停库
[root@db01 ~]# /etc/init.d/mysqld stop
#进入mysql目录
[root@db01 ~]# cd /application/mysql
#清空data目录(在生产中可以备份一下)
[root@db01 mysql]# rm -rf data/*
[root@db01 mysql]# mv /application/mysql/data/ /tmp/

3)在全备full中 apply-log时,只应用redo,不应用undo

[root@db01 ~]# innobackupex --apply-log --redo-only /backup/full_2019-11-14

4)合并inc_2019-11-15合并到full中,并且--apply-log,只应用redo,不应用undo

[root@db01 ~]# innobackupex --apply-log --redo-only --incremental-dir=/backup/inc_2019-11-15 /backup/full_2019-11-14

5)合并inc_2019-11-16合并到full中,redo和undo都应用

[root@db01 ~]# innobackupex --apply-log --incremental-dir=/backup/inc_2019-11-16 /backup/full_2019-11-14

6)整体full执行apply-log,redo和undo都应用

[root@db01 mysql]# innobackupex --apply-log /backup/full_2019-11-14

7)copy-back

[root@db01 ~]# innobackupex --copy-back /backup/full_2019-11-14
[root@db01 ~]# chown -R mysql.mysql /application/mysql/data/
[root@db01 ~]# /etc/init.d/mysqld start
mysql> select count(*) from mysqldump.mysqldump;
+----------+
| count(*) |
+----------+
| 127 |
+----------+

8)恢复binlog数据

#不记录二进制日志
mysql> set sql_log_bin=0; #恢复增量数据
#方法一:
mysql> source /tmp/inc.sql
#方法二:
[root@db02 mysql]# mysql -uroot -p1 < /tmp/inc.sql #查看表
mysql> select count(*) from mysqldump.mysqldump;
+----------+
| count(*) |
+----------+
| 134 |
+----------+

示例:

备份策略是每天一次全备,每小时一次增备

crontab

00 00 * * * 全备的脚本

00 */1 * * * 增备的脚本

合并数据的脚本

#全备增备的脚本
[root@db01 ~]# vim beifen.sh
#!/bin/bash
date=`date +%F-%H`
date1=`date +%F-%H |awk -F '-' '{print $NF}'`
date2=`date +%F-%H -d '-1hour'`
dir=backup
if [ ! -d /$dir ];then
mkdir /$dir
fi if [ $date1 -eq 0 ];then
innobackupex --user=root --password=1 --no-timestamp /$dir/full_${date} &>/dev/null elif [ $date1 -eq 1 ];then
innobackupex --user=root --password=1 --no-timestamp --incremental --incremental-basedir=/$dir/full_${date2} /$dir/inc1_${date} &>/dev/null else
innobackupex --user=root --password=1 --no-timestamp --incremental --incremental-basedir=/$dir/inc1_${date2} /$dir/inc1_${date} &>/dev/null
fi [root@db01 ~]# crontab -l
#每天凌晨全备,隔一个小时增备数据库
0 0 * * * /usr/bin/sh /root/zengbei.sh &> /dev/null [root@db01 ~]# ll /backup/
total 4
drwxr-x--- 11 root root 297 Nov 17 00:00 full_2019-11-17-00
drwxr-x--- 11 root root 4096 Nov 17 01:04 inc1_2019-11-17-01
[root@db01 ~]# cat /backup/full_2019-11-17-00/xtrabackup_checkpoints
backup_type = full-backuped
from_lsn = 0
to_lsn = 15630976
last_lsn = 15630976
compact = 0
recover_binlog_info = 0
[root@db01 ~]# cat /backup/inc1_2019-11-17-01/xtrabackup_checkpoints
backup_type = incremental
from_lsn = 15630976
to_lsn = 15630976
last_lsn = 15630976
compact = 0
recover_binlog_info = 0

MySQL --12 备份的分类的更多相关文章

  1. (4.12)mysql备份还原——mysql逻辑备份之mysqldump

    关键词:mysql逻辑备份介绍,mysqldump,mysqldump最佳实践 我的相关文章:https://www.cnblogs.com/gered/p/9721696.html 正文 1.mys ...

  2. windows mysql 自动备份的几种方法

    转自:http://www.cnblogs.com/liongis/archive/2013/03/12/2956573.html 1.复制date文件夹备份===================== ...

  3. linux下mysql定时备份数据库

    linux下mysql定时备份数据库 (2010-10-21 12:40:17) 转载▼ 标签: 杂谈   一.用命令实现备份 首页进入mysql的bin目录 1.备份数据#mysqldump -uu ...

  4. MySQL数据库备份还原(基于binlog的增量备份)

    MySQL数据库备份还原(基于binlog的增量备份) 一.简介 1.增量备份      增量备份 是指在一次全备份或上一次增量备份后,以后每次的备份只需备份与前一次相比增加或者被修改的文件.这就意味 ...

  5. MySQL定时备份之使用Linux下的crontab定时备份实例

    这篇文章主要介绍了使用Linux下的crontab进行MySQL定时备份的例子,需要的朋友可以参考下   复制代码代码如下: ##################################### ...

  6. centos下yum安装crontab+mysql自动备份

    参考博文: centos下yum安装crontab yum install vixie-cron crontabs      //安装 chkconfig crond on               ...

  7. mysql 数据库备份ubuntu

    安装 1 sudo apt-get update 2. sudo apt-get install mysql-server 3 sudo  apt-get install mysql-client 4 ...

  8. Windows下MYSQL自动备份批处理

    windows下MYSQL自动备份批处理 2011-05-04 09:16:45|  分类: mysql|举报|字号 订阅     按系统时间进行备份 注意mysql安装路径中如果有空格.就要把,.b ...

  9. MySQL定时备份数据库

    一.MySQL数据备份 1.1. mysqldump命令备份数据 在MySQL中提供了命令行导出数据库数据以及文件的一种方便的工具mysqldump,我们可以通过命令行直接实现数据库内容的导出dump ...

随机推荐

  1. python数据库操作-mysql数据库

    一:连接 1:本地连接 mysql -u用户名 -p密码 2:连接远程服务器 mysql -u用户名 -p密码 -hip地址 -P端口号     线下修改远程服务端上部署的mysql服务器 二:创建数 ...

  2. Linux系统下安装jenkins使用

    jenkins 2.190.1 yum 安装 devops一梦千年 发布时间:10-0916:28 jenkins 2.190.1 yum 安装记录 安装环境: 所需安装包: https://pkg. ...

  3. netty模型简介

    Netty工作原理图 netty抽象出了两组线程池,BossGroup专门负责客户端 的连接,WorkerGroup专门负责网络读写. BossGroup和WorkerGroup 类型都是NioEve ...

  4. CSS3中哪些新属性—阴影、文本省略(1)

    CSS3中的阴影,我知道的就是盒阴影和文字阴影.两者使用大同小异. 1.文字阴影 不知道为啥阴影会被开发出来,觉得这没啥好用啊.用了之后发现好像还行,使页面更有立体感了那么一点点.看起来趣味性强一点. ...

  5. selenium来识别数字验证码

    用python写一爬虫,需要模拟登陆,并且有数字验证码.通过selenium+pytesseract+PIL可以实现验证码识别并登陆.三大步: 用selenium截屏,此时截取的是整个页面的 用PIL ...

  6. 127、TensorFlow 计算图执行(二)

    import tensorflow as tf # Define a placeholder that expects a vector of three floating-point values ...

  7. curl 中关于 CURLINFO_HEADER_SIZE 的 BUG 定位及修复

    curl 官方下载页面 CentOS7 默认安装的 curl 版本太低了,需要升级为最新版. 1. 问题描述 对接了一个接口,用来下载 PDF 文件.使用 curl 下载后,文件老是报错无法打开.接口 ...

  8. MySQL 安装示例数据库(employee、world、sakila、menagerie 等)

    sakila 示例数据库官方资料及安装说明,注意查看示例数据库支持的版本是否匹配你的数据库. 为了测试,有时候需要大量的数据集,MySQL 官方提供了用于测试的示例数据库,下载页面在 这里. 下面以 ...

  9. Postman 测试Xfire webservice

    权声明:本文为博主原创文章,遵循 CC 4.0 by-sa 版权协议,转载请附上原文出处链接和本声明.本文链接:https://blog.csdn.net/u013177381/article/det ...

  10. ECG 项目预研

    1. 数据的采集 智能安全帽,流数据,鉴于数据量大,应该是采集到云平台上,然后在云平台上对数据处理,是一种典型的物联网+大数据应用场景,考虑使用AWS或者阿里云,然后搭建Hadoop/Spark 环境 ...