数据库定时备份linux篇

1 序言
2 crond 相关知识点
- 2.1 crond 是什么？
- 2.2 crontab 进行定时任务设置
3 各个数据库备份脚本
4 定时备份数据库实际操作

1 序言

相信大家都还记得这则新闻吧，欧洲云计算巨头 OVH 位于法国斯特拉斯堡的机房发生严重火灾，大火彻底摧毁了五层高、占地 500 平方米的 SBG2 数据中心。

当地报纸称 115 位消防员投入 6 个小时才将其扑灭。经过长达 6 个小时的持续燃烧，SBG2 内的数据恐怕已经彻底丢失。

大火对欧洲范围内的众多网站造成严重影响。据 Netcraft 称，目前跨 464000 个域的多达 360 万个网站皆已下线。

数据是无价的，所以生产环境中定时备份数据库显得尤为重要。备份能防止服务器故障和人为误操作带来的数据丢失。

生产环境中linux操作系统也是服务器的首选，所以我们今天就以linux为例，说一说数据库备份。

具体以什么数据库为例呢，就以这几年工作中接触到的几种常见数据库为例吧。

Oracle
mysql
postgresql
mongoDB

在这里呢也给自己挖一个坑，工作中呢也用到winserver 作为服务器的情况，所以呢后面也整理更新下winserver 环境下数据库备份。

2 crond 相关知识点

2.1 crond 是什么？

crond任务调度相当于我们日常生活中的闹钟。可以在某个时间点执行特定的命令和程序。
linux系统自身定期执行的任务工作：例如轮询系统日志、备份系统数据、清理系统缓存、杀毒等等
用户执行的工作任务：用户通过设置任务调度，定时执行自己添加shell脚本或简单的指令。例如每隔1分钟和互联网上时间服务器同步，每天凌晨1点备份数据库等等

2.2 crontab 进行定时任务设置

2.2.1 crontab 指令选项说明

语法：

crontab[-e|-l|-r]

-e:编辑crontab 定时任务

-l:查询crontab定时任务

-r:删除当前用户所有的crontab定时任务

2.2.2 crontab 指令使用格式

crontab用户的定时任务一般分为6段（空格分隔，系统的定时任务则/etc/crontab分为7段），其中前五段位时间设定段，第六段为所要执行的命令或脚本任务段。

①语法：

* * * * * cmd

①cmd为要执行的命令或脚本，例如/server/scripts/lee.sh

②每个段之间必须要有空格。

② crontab语法格式中时间段的含义表

段	含义	取值范围
第一个“*”	一小时当中的第几分钟	0-59
第二个“*”	一天当中的第几个小时	0-23
第三个“*”	一个月当中的第几天	1-31
第四个“*”	一年当中的第几个月	1-12
第五个“*”	一周当中的星期几	0-7（0和7都代表周天）

③ crontab语法格式中特殊符号的含义表

特殊符号	含义
*	"" 表示任意时间都，就是“每”的意思，举例：如00 01 * * cmd 表示每月每周每日的凌晨1点执行cmd任务。
-	"-" 表示分隔符，表示一个时间范围段，如17-19点，每小时的00分执行任务。00 17-19 * * * cmd 表示17,18,19点整点分别执行的意思。
,	"," 表示分隔时间段的意思。30 17,18,19 * * * cmd 表示每天17,18,19点的半点执行cmd 也可以和“-”结合使用，如： 30 3-5,17-19 * * * cmd 表示每天3、4、5和17、18、19 执行
/n	n代表数字即”每隔n单位时间”,例如：每10分钟执行一次任务可以写 /10 * * * cmd,其中 /10，的范围是0-59，也可以写成0-59/10

2.2.3 特定时间执行任务例子

① 30 23 * * * cmd    表示每天23:30分执行cmd命令

② 40 22 * * 1 cmd    表示每周一22:40分执行cmd命令

③ 30 0 1-12 * * cmd  表示每月1号和12号 00:30执行cmd命令

④ 30 0 * * 1-5 cmd   表示每周一和周五00:30执行命令

⑤ */10 4 * * * cmd   表示每天4:00每隔10分钟执行一次cmd命令

2.2.4 crontab 设置步骤

这里我们以每5分钟同步一次互联网时间为例进行说明

① 查看crond服务是否启动

/sbin/service crond status --查看crond服务是否启动

[root@xiezhr /]# /sbin/service crond status

Redirecting to /bin/systemctl status crond.service

● crond.service - Command Scheduler

   Loaded: loaded (/usr/lib/systemd/system/crond.service; enabled; vendor preset: enabled)

   Active: active (running) since Sun 2021-01-10 21:14:50 CST; 1 months 25 days ago

 Main PID: 990 (crond)

   CGroup: /system.slice/crond.service

           └─990 /usr/sbin/crond -n

Jan 25 14:00:01 xiezhr crond[990]: /usr/sbin/sendmail: error while loading shared librari...ory

Jan 25 14:30:02 xiezhr crond[990]: /usr/sbin/sendmail: error while loading shared librari...ory

Jan 25 15:00:02 xiezhr crond[990]: /usr/sbin/sendmail: error while loading shared librari...ory

Jan 25 15:30:01 xiezhr crond[990]: /usr/sbin/sendmail: error while loading shared librari...ory

Jan 25 16:00:01 xiezhr crond[990]: /usr/sbin/sendmail: error while loading shared librari...ory

Jan 25 16:24:01 xiezhr crond[990]: (*system*) RELOAD (/etc/cron.d/yunjing)

Jan 28 11:18:01 xiezhr crond[990]: (*system*) RELOAD (/etc/cron.d/sgagenttask)

Jan 28 11:18:01 xiezhr crond[990]: (root) RELOAD (/var/spool/cron/root)

Feb 07 12:03:01 xiezhr crond[990]: (*system*) RELOAD (/etc/cron.d/yunjing)

Feb 07 12:03:01 xiezhr crond[990]: (root) RELOAD (/var/spool/cron/root)

Hint: Some lines were ellipsized, use -l to show in full.

如果crond服务没启动则执行如下命令启动crond服务

/sbin/service crond start          启动服务

查看进程

[root@xiezhr /]# ps -ef|grep crond

root       990     1  0 Jan10 ?        00:00:22 /usr/sbin/crond -n

root     19552 15271  0 16:10 pts/1    00:00:00 grep --color=auto crond

② 编写shell脚本

在home路径下添加如下shell脚本

[root@xiezhr home]# vim /home/my.sh

/usr/sbin/ntpdate time.windows.com >/dev/null 2>&1

③ 给脚本增加执行权限

[root@xiezhr home]# chmod u+x /home/my.sh

④ 设置定时任务crontab

[root@xiezhr home]# crontab -e

*/5 * * * * /home/my.sh

3 各个数据库备份脚本

3.1 Oracle数据库

#!/bin/bash

export ORACLE_HOME=/u01/app/oracle/product/11.2.0/db_1;

export ORACLE_SID=orcl;

export PATH=$ORACLE_HOME/bin:/usr/sbin:$PATH;

export LD_LIBRARY_PATH=$ORACLE_HOME/lib:/lib:/usr/lib;

export NLS_LANG=AMERICAN_AMERICA.ZHS16GBK

#以上代码为Oracle数据库运行账号oracle的系统环境变量设置，必须添加，否则crontab任务计划不能执行。

date=date +%Y_%m_%d            #获取系统当前日期时间

days=7                         #设置删除7天之前的备份文件

orsid=192.168.1.100:1521/orcl  #Oracle数据库服务器IP、端口、SID

orowner=scott                  #备份此用户下面的数据

bakuser=system                 #用此用户来执行备份，必须要有备份操作的权限

bakpass=oracle                 #执行备注的用户密码

bakdir=/backup/oracledata      #备份文件路径，需要提前创建好

bakdata=$orowner"_"$date.dmp   #备份数据库名称

baklog=$orowner"_"$date.log    #备份执行时候生成的日志文件名称

ordatabak=$orowner"_"$date.tar.gz #最后保存的Oracle数据库备份文件

cd $bakdir                     #进入备份目录

mkdir -p $orowner              #按需要备份的Oracle用户创建目录

cd $orowner                    #进入目录

exp $bakuser/$bakpass@$orsid grants=y owner=$orowner file=$bakdir/$orowner/$bakdata log=$bakdir/$orowner/$baklog #执行备份

tar -zcvf $ordatabak $bakdata  $baklog                      #压缩备份文件和日志文件

find $bakdir/$orowner  -type f -name "*.log" -exec rm {} \; #删除备份文件

find $bakdir/$orowner  -type f -name "*.dmp" -exec rm {} \; #删除日志文件

find $bakdir/$orowner  -type f -name "*.tar.gz" -mtime +$days -exec rm -rf {} \;  #删除7天前的备份（注意：{} \中间有空格）

以上exp备份，如果要采用expd备份，只需将上面执行语句换成下面的即可

expdp $bakuser/$bakpass@$orsid full=y cluster=n directory=$bakdir dumpfile=$bakdir/$orowner/$bakdata logfile=$bakdir/$orowner/$baklog

3.2 Mysql数据库

#!/bin/bash

PATH=/bin:/sbin:/usr/bin:/usr/sbin:/usr/local/bin:/usr/local/sbin:/usr/local/mysql/bin

export PATH

dbuser='root'          #数据库用户名

dbpasswd='123456'      #数据库密码

dbname='test1 test2'   #数据库名,可以定义多个数据库，中间以空格隔开，如 test1 test2

backtime=`date +%Y%m%d%H%M%S`    #备份时间

logpath= '/home/mysql/backup'     #日志备份路径

datapath='/home/mysql/backup'     #数据备份路径

echo "备份时间为${backtime},备份数据库表 ${dbname} 开始" >> ${logpath}/mysqllog.log  #日志记录头部

#正式备份数据库

for table in $dbname; do

source=`mysqldump -u ${dbuser} -p${dbpasswd} ${table}> ${logpath}/${backtime}.sql` 2>> ${logpath}/mysqllog.log;

#备份成功以下操作

if [ "$?" == 0 ];then

cd $datapath

tar jcf ${table}${backtime}.tar.bz2 ${backtime}.sql > /dev/null   #为节约硬盘空间，将数据库压缩

rm -f ${datapath}/${backtime}.sql   #删除原始文件，只留压缩后文件

cd $datapath

rm -rf `find . -name '*.sql.gz' -mtime +30` >> ${logpath}/mysqllog.log 2>&1  #删除30天前备份文件

echo "数据库表 ${dbname} 备份成功!!" >> ${logpath}/mysqllog.log

else

echo “数据库表 ${dbname} 备份失败!!” >> ${logpath}/mysqllog.log   #备份失败则进行以下操作

fi

done

3.3 postgresql数据库

#!/bin/bash

pg_user ='postgres'

export NLS_DATE_FORMAT='yyyy-mm-dd hh24:mi:ss'

export exp_date=`date '+%Y%m%d'`

pg_dump  -U postgres dbpostgres -f /u01/backup/$exp_date.sql

gzip -1 /u01/backup/$exp_date.sql       #压缩备份文件

find /u01/backup -mtime +14 -exec rm {} \;   #删除七天前备份文件

3.4 mongoDB数据库

#!/bin/sh

DUMP=/home/webapp/Downloads/mongoDB/mongodbserver/bin/mongodump #mongodump备份文件执行路径

OUT_DIR=/home/webapp/backup/mongo_bak/mongod_bak_now #临时备份目录

TAR_DIR=/home/webapp/backup/mongo_bak/mongod_bak_list #备份存放路径

DATE=`date +%Y_%m_%d_%H_%M_%S` #获取当前系统时间

DB_USER=XXXX#数据库账号

DB_PASS=XXXX #数据库密码

DB_NAME=TEST #数据库名称

IP=xx.xx.xx.xx:27017

DAYS=365 #DAYS=30代表删除30天前的备份，即只保留最近30天的备份

TAR_BAK="mongod_bak_$DATE.tar.gz" #最终保存的数据库备份文件名

cd $OUT_DIR

rm -rf $OUT_DIR

mkdir -p $OUT_DIR/$DATE

$DUMP -h $IP -u $DB_USER -p $DB_PASS -d $DB_NAME -o $OUT_DIR/$DATE #备份数据库

tar -zcvf $TAR_DIR/$TAR_BAK $OUT_DIR/$DATE                         #压缩为.tar.gz格式

find $TAR_DIR/ -mtime +$DAYS -delete                               #删除30天前的备份

exit

4 定时备份数据库实际操作

每天凌晨1点备份以上常见数据库

① 创建备份脚本

在home路径下创建backup.sh 并添加以上数据库备份shell脚本

[root@xiezhr home]#  vim /home/bakcup/backup.sh

# 要备份那个数据库，就往backup.sh 添加对应的shell脚本即可

③ 给脚本增加执行权限

[root@xiezhr home]# chmod u+x /home/bakcup/backup.sh

③ 设置定时任务crontab

[root@xiezhr home]# crontab -e

0 1 * * * /home/bakcup/backup.sh

本期到此就结束了，下一期我们说一说winserver环境下数据库备份。

敬请期待哦 (●'◡'●)