普通文件的数据同步

nfs: 网络文件共享

samba: 共享数据

定时任务或守护进程结合 rsync.scp

inotify(sersync)+rsync 触发式实时数据同步

ftp数据同步

ssh key + scp / rsync

svn版本管理

rsync,sersync,inotify,union(双向同步),csync2(多向同步)

mysql主从同步逻辑图

1. 单向主从同步

主-从

一主多从

2. 双向主主同步: 互为主从 (一般不采用)

3. 线性: 级联单向双主同步

4. 环状: 级联单向多主同步

主从同步的意义, 解决的问题

1.互为备份: 高可用性和容错性

2.读写分离: 负载平衡

3.根据服务器拆分业务: 数据分布

如何实现读写分离

1.通过php程序: 建立多个连接文件, 轻松实现

2.通过软件实现: mysql-proxy   amoeba 等代理软件

3.开发dbproxy

mysql主从复制原理

首先就是, master服务器端记录二进制日志。在每个事务更新数据完成之前,master在二日志记录这些改变。MySQL将事务串行的写入二进制日志,即使事务中的语句都是交叉执行的。在事件写入二进制日志完成后,master通知存储引擎提交事务。

1.slave服务器上执行 start slave, 开启主从复制开关

2.此时, slave服务器的IO线程会通过在master上授权的复制用户权限请求连接master服务器, 并请求从指定binlog日志文件的指定位置(日志文件名和位置就是在配置主从复制服务时执行change master命令时指定的)之后发送binlog日志内容

3.master服务器接收到来自slave服务器的IO线程的请求后, master服务器上负责复制的IO线程根据slave服务器的IO线程请求的信息读取指定binlog日志文件指定位置之后的binlog日志信息,然后返回给slave端的IO线程. 返回的信息中除了binlog日志内容, 还有本次返回日志内容后在master服务器端的新的binlog文件名称以及在binlog中的下一个指定更新位置

4.当slave服务器的IO线程获取到来自master服务器上IO线程发送日志内容及日志文件及位置点后, 将binlog日志内容依次写入到slave端自身的relay log(中继日志: mysql-relay.xxxxxx)文件的最末端, 并将新的binlog文件名和位置记录到master-info文件中, 以便下一次读取master端新binlog日志时能够告诉master服务器需要从新binlog日志的哪个文件哪个位置开始请求新的binlog日志内容

5.slave服务器端的sql线程会实时的检测本地relay log中新增加的日志内容, 然后及时的把log文件中的内容解析成在master端曾经执行的sql语句的内容, 并在自身slave服务器上按语句的顺序执行应用这些sql语句, 应用完毕后清理应用过的日志

6.经过了上面的过程, 就可以确保在master端和slave端执行了同样的sql语句. 当复制状态正常的情况下, master和slave端的数据是一样的, mysql的同步机制是有一些特殊的情况的, 但是大多数情况下大家不用担心.

整体上来说,复制有3个步骤:

(1) master将改变记录到二进制日志(binary log)中(这些记录叫做二进制日志事件,binary log events);

(2) slave将master的binary log events拷贝到它的中继日志(relay log);

(3) slave重做中继日志中的事件,将改变反映它自己的数据。

主从复制实现步骤

1.数据库环境

单机单数据库多实例

主库:3306, 从库3307

2.主库: 修改my.cnf

[mysqld]

log-bin=mysql-bin

server-

expire_logs_days=  //binlog日志保留的天数, 可不加此配置

#service iptables stop;  //主服务器一定要关闭防火墙

#mysqladmin -uroot -S /data/3306/mysql.sock shutdown //重启mysql

#mysqld_safe --defaults-file=/data/3306/my.cnf

#mysql -uroot -S /data/3306/mysql.sock -e "show variables like 'log_bin';" //检查log bin

+---------------+-------+

| Variable_name | Value |

+---------------+-------+

| log_bin       | ON    |

+---------------+-------+

3.从库: 修改my.cnf

server-

注意: 如果从库还想级联从库, 必须打开这两个参数------

log-bin

log-slave-updates

4.在master上建立授权账号

mysql> grant replication slave on *.* to ";

mysql> flush privileges;

5.在master上导出当前数据

mysql> flush table with read lock;

然后重新开一个mysql命令窗口

mysql> show master status;
+------------------+----------+--------------+------------------+

| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB |

+------------------+----------+--------------+------------------+

| mysql-bin.000004 |      333 |              |                  |

+------------------+----------+--------------+------------------+
mysql> show master logs;

#mysqldump -uroot -S /data/3306/mysql.sock -A -B --events --master-data=2 > /all.sql

#vim /all.sql

-- CHANGE MASTER TO MASTER_LOG_FILE='mysql-bin.000004', MASTER_LOG_POS=333;
mysql> show master status; //看看锁表期间数据是否有更改

mysql> unlock tables;

6.把备份数据拷贝到slave

#mysql -uroot -S /data/3307/mysql.sock < /all.sql

7.slave端开始连接master (/data/3307/data/目录下能看到两个文件,说明连接成功: master.info  relay-log.info)

mysql> CHANGE MASTER TOMASTER_HOST='192.168.1.116',
MASTER_PORT=,
MASTER_USER='rep',
MASTER_PASSWORD=',
MASTER_LOG_FILE='mysql-bin.000004',
MASTER_LOG_POS=;

8.slave端打开复制开关: 看到两个 Yes 就说明成功!

mysql> start slave;

mysql> show slave status\G;

Slave_IO_Running: Yes

Slave_SQL_Running: Yes

9.测试主从复制是否正常工作

master端:

mysql> create database ab;

Query OK, 1 row affected (0.00 sec)

slave端:

mysql> show databases;

+--------------------+

| Database           |

+--------------------+

| information_schema |

| ab                 |

| mysql              |

| performance_schema |

| test               |

+--------------------+

最简化的建议

1.半夜的时候, 用mysqldump带--master-data=1参数实现全备, 把.sql恢复到从库

#mysqldump -uroot -S /data/3306/mysql.sock -A -B --events --master-data=1 > /all.sql

#mysql -uroot -S /data/3307/mysql.sock < /all.sql

2.然后在从库执行change master to ...  无需binlog文件及位置点

(省略下面这两行)

MASTER_LOG_FILE='mysql-bin.000004',

MASTER_LOG_POS=;

主库当机, 如何快速恢复数据库服务

核心思想: 把其中一个从库升级为主库

主库:   192.168.1.25

从库1:  192.168.1.30

从库2:  192.168.1.35

1.在每个从库上执行

停止从库的io线程

mysql> stop slave io_thread;

mysql> show processlist;

2.登录从库1

停止同步, 重置为主,建立复制用户,查看status

# mysql -uroot

mysql> stop slave;

mysql> reset master;

mysql> grant replication slave on *.* to ";

mysql> flush privileges;

mysql> show master status;

3.进到从库1的数据库目录

删除从库日志

# cd /data/3307/data

# rm -f master.info  relay-log.info

4.把从库1提升为主库: 修改my.cnf

去掉从库的参数配置

log-bin

##log-slave-updates

##read-only

5.在从库2,3,4..上操作:

在每个从库上重新指定主库

mysql> stop slave;

mysql> change master to

master_host='192.168.1.30',

master_port=,

master_user='rep',

master_password=',

master_log_file='mysql-bin.000001',

master_log_pos=;

mysql> start slave;

mysql> show slave status\G;

双主或多主数据库架构

核心思想是: 互为主从, 避免id重复

主1: 192.168.1.25

主2: 192.168.1.30

1.my.cnf (记得重启mysqld服务)

修改主1的 my.cnf

[mysqld]

auto_increment_increment = 

auto_increment_offset    =   //数据表id从1开始, 递增2

log-slave-updates  //多主架构是互为主从的, 所以必须开启此项配置

log-bin

修改主2的 my.cnf

[mysqld]

auto_increment_increment = 

auto_increment_offset    = 

log-slave-updates

log-bin

2.手动同步主1和主2当前的数据

3.把主1作为从服务器, 连接到主2   (主2的操作同此)

mysql> stop slave;

mysql> reset master;

mysql> show master status;

mysql> grant replication slave on *.* to ";

mysql> change master to

master_host='192.168.1.30',  //主2的服务器ip地址

master_port=,

master_user='rep',  //主2的复制账户和密码

master_password=', 

master_log_file='mysql-bin.000001',  //主2的file和pos值

master_log_pos=;

mysql> start slave;

mysql> show slave status\G;

4.测试

在主1上新建一个数据库和表, 并插入几条数据, 自增id是1  3  5

然后去主2上看看数据是否已同步过来

接着在主2执行相同操作, 自增id应该是2  4  6

;

mysql系列之6.mysql主从同步的更多相关文章

  1. mysql用户权限分配及主从同步复制

    赋予wgdp用户查询权限: grant select on wg_dp.* to 'wgdp'@'%' IDENTIFIED BY 'weigou123'; grant all privileges ...

  2. Mysql高可用架构(主从同步)

    做高可用的优势 1.成本低 2.解决单点故障 3.不容易遇到性能瓶颈 一 .Mysql主从同步架构搭建案例 优点如下:·在业务繁忙阶段,在从服务器上可以执行查询工作(即我们常说的读写分离),降低主服务 ...

  3. MySQL面试题中:主从同步部署介绍

    主从同步部署1.两台相同版本的mysql数据库,一台做主库,一台从库 主库开启binlog 在配置文件中的[mysqld]模块中添加log-bin=mysql-bin和server-id=1,一定要保 ...

  4. Mysql 实现基于binlog的主从同步

    工作原理 1.主节点必须启用二进制日志,记录任何修改了数据库数据的事件.2.从节点开启一个线程(I/O Thread)把自己扮演成 mysql 的客户端,通过 mysql 协议,请求主节点的二进制日志 ...

  5. MySQL的读写分离与主从同步数据一致性

    有没有做MySQL读写分离?如何实现mysql的读写分离?MySQL主从复制原理的是啥?如何解决mysql主从同步的延时问题? 高并发这个阶段,那肯定是需要做读写分离的,啥意思?因为实际上大部分的互联 ...

  6. MySQL面试题中:主从同步的原理

    主从同步的原理:1.主库上面有一个IO线程,从库上有一个IO线程和一个SQL线程,从库中的IO线程负责从主库读取binlog,并写入从库的中继日志:SQL线程负责读取并执行中继日志中的binlog,转 ...

  7. mysql系列之9.mysql日志&存储引擎

    mysqlbinlog 是什么? 数据目录下的如下文件: mysql-bin.xxxxxx 作用? 记录数据库内部增删改查对mysql数据库有更新的内容的记录 三种模式? statement leve ...

  8. Got fatal error 1236 from master when reading data from binary log: 'Could not find first log file name in binary log index file'系列三:重置主从同步

    1:停止slave服务器的主从同步 stop slave; 2:对Master数据库加锁 flush tables with read lock; 3:备份Master上的数据 mysqldump - ...

  9. mysql系列之2.mysql多实例

    使用场景 资金紧张; 并发访问不大; 门户网站; 实现 生产硬件配置: mem 32G / 双cpu 8核 / 磁盘6*600G sas 15k, 2-3个实例 安装组件 #yum install n ...

随机推荐

  1. 安全性测试入门 (四):Session Hijacking 用户会话劫持的攻击和防御

    本篇继续对于安全性测试话题,结合DVWA进行研习. Session Hijacking用户会话劫持 1. Session和Cookies 这篇严格来说是用户会话劫持诸多情况中的一种,通过会话标识规则来 ...

  2. maxwell简单部署使用

    详细资料可以参考maxwell官网  (mysql + maxwell + kafka + elasticsearch) 说明:本文主要是关于配置maxwell监听mysql的数据修改并实时将修改内容 ...

  3. Excel找出两列相同部分

    公式:=IF(COUNTIF($B$2:$B$1036,A6)>0,A2,"") 含义:从B列第2行到b列1036行中和A列第6个相等的返回A6的值,不相等返回空 用法:新建 ...

  4. git 服务器搭建,在自己服务器上搭建私有仓库

    创建一个简单的私人Git版本控制服务器,首先得有个服务器(屁话).这种方式适合人比较少的情况,管理不需要很复杂,只要增加几个账号就能搞定. 如下面的情况,有一个服务器,两个客户端. 服务器:Debia ...

  5. Cocos2d-x 3.0 屏幕触摸及消息分发机制

    ***************************************转载请注明出处:http://blog.csdn.net/lttree************************** ...

  6. 通过Java的Domain类构建ElasticSearch的mapping

    通过给定一个Java的class类自行创建ElasticSearch的mapping Order的domain类 public class Order { public String system_i ...

  7. .NET创建宿主设计器--DesignHost、DesignSurface.

    一个窗口在运行时,是这样的: 但是,在设计时,却远比这复杂的多,它需要一个设计器对象:它仅存在于设计时,并连接到运行时存在的对象.   宿主容器 我们可以看到每个窗体和按钮均有与之相关的设计器.这两个 ...

  8. tomcat启动项目,起不起来

    右键tomcat 选择publish

  9. Java enum枚举的使用方法

    一. 出现背景: 在JDK1.5之前,我们定义常量是这种:public static final String RED = "RED"; 在JDK1.5中增加了枚举类型,我们能够把 ...

  10. 【SharePoint】SharePoint2013中使用客户端对象模型给用户控件赋初值

    本文要实现的功能:新建一条列表记录,打开新建记录画面时,自动给[申请人]赋值为当前登录用户. 在SharePoint2010中,可以使用SPServices的SPFindPeoplePicker方法来 ...