Mongodb集群搭建之 Replica Set

Replica Set

中文翻译叫做副本集，不过我并不喜欢把英文翻译成中文，总是感觉怪怪的。其实简单来说就是集群当中包含了多份数据，保证主节点挂掉了，备节点能继续提供数据服务，提供的前提就是数据需要和主节点一致。如下图：

Mongodb(M)表示主节点，Mongodb(S)表示备节点，Mongodb(A)表示仲裁节点。主备节点存储数据，仲裁节点不存储数据。客户端同时连接主节点与备节点，不连接仲裁节点。

默认设置下，主节点提供所有增删查改服务，备节点不提供任何服务。但是可以通过设置使备节点提供查询服务，这样就可以减少主节点的压力，当客户端进行数据查询时，请求自动转到备节点上。这个设置叫做Read Preference Modes，同时Java客户端提供了简单的配置方式，可以不必直接对数据库进行操作。

仲裁节点是一种特殊的节点，它本身并不存储数据，主要的作用是决定哪一个备节点在主节点挂掉之后提升为主节点，所以客户端不需要连接此节点。这里虽然只有一个备节点，但是仍然需要一个仲裁节点来提升备节点级别。我开始也不相信必须要有仲裁节点，但是自己也试过没仲裁节点的话，主节点挂了备节点还是备节点，所以咱们还是需要它的。

介绍完了集群方案，那么现在就开始搭建了。

鉴于实验条件有限，本文都是通过Docker虚拟机实现

方案一：快速搭建简单了解副本集集群（简单命令自动创建）

一、创建数据持久化本地目录：

mkdir -p /root/application/program/mongodb/data

二、快速启动Docker创建容器（Docker image已安装好MongoDB：3.6.3）

docker run -d -v `pwd`/data/master:/mongodb -p 27017:27017 docker.io/mongodb:3.6.3 /usr/sbin/init

三：启动mongo shell并启动相关进程

mongo --nodb

#创建一个包含三个服务器的副本集：一个主服务器和两个备份服务器

replicaSet = new ReplSetTest({"nodes" : 3})

#启动3个mongod进程

replicaSet.startSet()

#配置复制功能

replicaSet.initiate()

现在就已经有了3个mongod进程，分别运行在20000、20001和20002端口。

这样一套包含一个主服务器和两个备份服务器的副本集集群就搭建好了

方案二：手动创建（可以在一台机器上通过不同端口搭建，也可以使用三台独立的虚拟机搭建）

1.建立数据文件夹

一般情况下不会把数据目录建立在mongodb的解压目录下，不过这里方便起见，就建在mongodb解压目录下吧。

#三个目录分别对应主，备，仲裁节点

mkdir -p /root/application/program/mongodb/data/master

mkdir -p /root/application/program/mongodb/data/slaver

mkdir -p /root/application/program/mongodb/data/arbiter

2.快速创建并启动三个Docker容器（可以理解为3台虚拟机，有独立的IP）

docker run -d -v `pwd`/data/master:/mongodb -p 27017:27017 docker.io/mongodb:3.6.3 /usr/sbin/init

docker run -d -v `pwd`/data/slaver:/mongodb -p 27018:27017 docker.io/mongodb:3.6.3 /usr/sbin/init

docker run -d -v `pwd`/data/arbiter:/mongodb -p 27019:27017 docker.io/mongodb:3.6.3 /usr/sbin/init

3.建立配置文件

由于配置比较多，所以我们将配置写到文件里。

#master.conf

dbpath=/mongodb/data/master
logpath=/mongodb/log/master.log
pidfilepath=/mongodb/master.pid
directoryperdb=true
logappend=true
replSet=testrs
bind_ip=172.17.0.2
port=27017
oplogSize=10000
fork=true
noprealloc=true

#slaver.conf

dbpath=/mongodb/data/slaver
logpath=/mongodb/log/slaver.log
pidfilepath=/mongodb/slaver.pid
directoryperdb=true
logappend=true
replSet=testrs
bind_ip=172.17.0.3
port=27017
oplogSize=10000
fork=true
noprealloc=true

#arbiter.conf

dbpath=/mongodb/data/arbiter
logpath=/mongodb/log/arbiter.log
pidfilepath=/mongodb/arbiter.pid
directoryperdb=true
logappend=true
replSet=testrs
bind_ip=172.17.0.4
port=27017
oplogSize=10000
fork=true
noprealloc=true

参数解释：

dbpath：数据存放目录

logpath：日志存放路径

pidfilepath：进程文件，方便停止mongodb

directoryperdb：为每一个数据库按照数据库名建立文件夹存放

logappend：以追加的方式记录日志

replSet：replica set的名字

bind_ip：mongodb所绑定的ip地址

port：mongodb进程所使用的端口号，默认为27017

oplogSize：mongodb操作日志文件的最大大小。单位为Mb，默认为硬盘剩余空间的5%

fork：以后台方式运行进程

noprealloc：不预先分配存储

4.启动mongodb

进入每个mongodb节点的bin目录下

中间省略使用docker exec -it container_id bash 进入docker容器的步骤

./monood -f master.conf
./mongod -f slaver.conf
./mongod -f arbiter.conf

注意配置文件的路径一定要保证正确，可以是相对路径也可以是绝对路径。

5.配置主，备，仲裁节点

可以通过客户端连接mongodb，也可以直接在三个节点中选择一个连接mongodb。

./mongo --host 172.17.0.2 --port 27017 #ip和port是某个节点的地址
>use admin
>config={ _id:"testrs", members:[ {_id:0,host:'172.17.0.2:27017',priority:2}, {_id:1,host:'172.17.0.3:27017',priority:1},{_id:2,host:'172.17.0.4:27017',arbiterOnly:true}] };
>rs.initiate(config) #使配置生效

或者
>db.adminCommand({"replSetInitiate" : config})

config是可以任意的名字，当然最好不要是mongodb的关键字，conf，config都可以。最外层的_id表示replica set的名字，members里包含的是所有节点的地址以及优先级。优先级最高的即成为主节点，即这里的172.17.0.2:27017。特别注意的是，对于仲裁节点，需要有个特别的配置——arbiterOnly:true。这个千万不能少了，不然主备模式就不能生效。

配置的生效时间根据不同的机器配置会有长有短，配置不错的话基本上十几秒内就能生效，有的配置需要一两分钟。如果生效了，执行rs.status()命令会看到如下信息：

testrs:SECONDARY> rs.status()

{

"set" : "testrs",

"date" : ISODate("2018-08-07T07:29:24.076Z"),

"myState" : 1,

"term" : NumberLong(1),

"heartbeatIntervalMillis" : NumberLong(2000),

"optimes" : {

"lastCommittedOpTime" : {

"ts" : Timestamp(1533626954, 1),

"t" : NumberLong(1)

"readConcernMajorityOpTime" : {

"ts" : Timestamp(1533626954, 1),

"t" : NumberLong(1)

"appliedOpTime" : {

"ts" : Timestamp(1533626954, 1),

"t" : NumberLong(1)

"durableOpTime" : {

"ts" : Timestamp(1533626954, 1),

"t" : NumberLong(1)

}

"members" : [

{

"_id" : 0,

"name" : "172.17.0.2:27017",

"health" : 1,

"state" : 1,

"stateStr" : "PRIMARY",

"uptime" : 364,

"optime" : {

"ts" : Timestamp(1533626954, 1),

"t" : NumberLong(1)

"optimeDate" : ISODate("2018-08-07T07:29:14Z"),

"infoMessage" : "could not find member to sync from",

"electionTime" : Timestamp(1533626952, 1),

"electionDate" : ISODate("2018-08-07T07:29:12Z"),

"configVersion" : 1,

"self" : true

{

"_id" : 1,

"name" : "172.17.0.3:27017",

"health" : 1,

"state" : 2,

"stateStr" : "SECONDARY",

"uptime" : 22,

"optime" : {

"ts" : Timestamp(1533626954, 1),

"t" : NumberLong(1)

"optimeDurable" : {

"ts" : Timestamp(1533626954, 1),

"t" : NumberLong(1)

"optimeDate" : ISODate("2018-08-07T07:29:14Z"),

"optimeDurableDate" : ISODate("2018-08-07T07:29:14Z"),

"lastHeartbeat" : ISODate("2018-08-07T07:29:22.187Z"),

"lastHeartbeatRecv" : ISODate("2018-08-07T07:29:22.807Z"),

"pingMs" : NumberLong(0),

"syncingTo" : "172.17.0.2:27017",

"configVersion" : 1

{

"_id" : 2,

"name" : "172.17.0.4:27017",

"health" : 1,

"state" : 7,

"stateStr" : "ARBITER",

"uptime" : 22,

"lastHeartbeat" : ISODate("2018-08-07T07:29:22.186Z"),

"lastHeartbeatRecv" : ISODate("2018-08-07T07:29:23.681Z"),

"pingMs" : NumberLong(0),

"configVersion" : 1

}

"ok" : 1,

"operationTime" : Timestamp(1533626954, 1),

"$clusterTime" : {

"clusterTime" : Timestamp(1533626954, 1),

"signature" : {

"hash" : BinData(0,"AAAAAAAAAAAAAAAAAAAAAAAAAAA="),

"keyId" : NumberLong(0)

}

如果配置正在生效，其中会包含如下信息：

"stateStr" : "RECOVERING"

同时可以查看对应节点的日志，发现正在等待别的节点生效或者正在分配数据文件。

现在基本上已经完成了集群的所有搭建工作。至于测试工作，可以留给大家自己试试。一个是往主节点插入数据，能从备节点查到之前插入的数据（查询备节点可能会遇到某个问题，可以自己去网上查查看）。二是停掉主节点，备节点能变成主节点提供服务。三是恢复主节点，备节点也能恢复其备的角色，而不是继续充当主的角色。二和三都可以通过rs.status()命令实时查看集群的变化。

5.其它操作

添加、删除新成员

1.新启动一个mongod进程

mongod --replSet spock --dbpath /mongodb/mongodb/bin/datas/m4 --logpath /mongodb/mongodb/bin/logs/m4/mongodb.log --bind_ip 172.17.0.5 --port 27020 --fork

2. 登录其中一个节点，并执行rs.add命令

mongo 172.17.0.3:27017

rs.add("172.17.0.5:27020")

删除的话执行 rs.remove("172.17.0.5:27020")

或者

config = {

"_id" : "spock",

"members" : [

{"_id" : 0, "host" : "172.17.0.2:27017"},

{"_id" : 1, "host" : "172.17.0.3:27018"},

{"_id" : 2, "host" : "172.17.0.4:27019"},

{"_id" : 3, "host" : "172.17.0.5:27020"}

]

}

rs.reconfig(config)

MongoDb的“not master and slaveok=false”错误及解决方法

这是正常的，因为SECONDARY是不允许读写的，如果非要解决，方法如下：

SECONDARY> rs.slaveOk();

思考：

1.尽可能在副本集中使用奇数个数据成员，而不是使用仲裁者；

2. 建议大多数成员放在同一个数据中心，保证其中一个数据中心挂掉后，另一个数据中心满足“大多数”；

3.MongoDB只支持单一主节点；

4.设置延迟备份节点，要求优先级置为0（priority ： 0），隐藏成员（Hidden： true），避免误操作；

5.推荐配置：两个数据中心使用偶数个数据成员，另外一台配置低的机器做仲裁者（arbiteronly ： true）