一、分片的概念

1.有了副本集，为什么还需要分片？

副本集资源利用率不高

分片可以提高资源利用率

2.分片的缺点

理想情况下需要机器比较多

配置和运维变得复杂且困难

提前规划好特别重要，一旦建立后在想改变架构变得很困难

二、 分片工作原理

**1.路由服务mongos **

路由服务，提供代理，替用户去向后请求shard分片的数据

2.数据节点shard

负责处理数据的节点，每个shard都是分片集群的一部分

**3.分片配置信息服务器config **

保存数据分配在哪个shard上

保存所有shard的配置信

提供给mongos查询服务

4.片键

数据存放到哪个shard的区分规则

片键就是索引

选择片键的依据：

能够被经常访问到的字段

索引字段基数够大

分类：

区间片键

id  name   host  sex

1	zhang  SH	 boy

2   ya     BJ    boy

3   yaya   SZ    girl

如果以id作为片键：

索引：id

1-100   shard1

100-200 shard2

200-300 shard3

300-+无穷 shard4

如果以host作为片键：

SH  shard1

BJ  shard2

SZ  shard3 

hash片键:

足够平均，足够随机

id  name   host  sex

1	zhang  SH	 boy

2   ya     BJ    boy

3   yaya   SZ    girl

如果以id作为片键：

索引：id

1	hash 之后 shard2

2   hash 之后 shard3

3   hash 之后 shard1

三、IP端口目录规划

1.IP端口规划

1.IP端口规划

db01	10.0.0.51

		Shard1_Master	28100

		Shard2_Slave	28200

		Shard3_Arbiter	28300

		Config Server	40000

		mongos Server	60000

db02	10.0.0.52

		Shard2_Master	28100

		Shard3_Slave	28200

		Shard1_Arbiter	28300

		Config Server	40000

		mongos Server	60000

db03	10.0.0.53

		Shard3_Master	28100

		Shard1_Slave	28200

		Shard2_Arbiter	28300

		Config Server	40000

		mongos Server	60000

2.目录规划

服务目录：

/opt/master/{conf,log,pid}

/opt/slave//{conf,log,pid}

/opt/arbiter/{conf,log,pid}

/data/config/{conf,log,pid}

/data/mongos/{conf,log,pid}

数据目录：

/data/master/

/data/slave/

/data/arbiter/

/data/config/s

四、分片集群搭建副本集步骤

1.安装软件

注意：三台服务器都操作！！！

tar xf mongodb-linux-x86_64-3.6.13.tgz -C /opt/

ln -s /opt/mongodb-linux-x86_64-3.6.13 /opt/mongodb

echo 'export PATH=$PATH:/opt/mongodb/bin' >> /etc/profile

source /etc/profile

2.创建目录

注意：三台服务器都操作！！！

mkdir -p /opt/master/{conf,log,pid}

mkdir -p /opt/slave/{conf,log,pid}

mkdir -p /opt/arbiter/{conf,log,pid}

mkdir -p /data/master/

mkdir -p /data/slave/

mkdir -p /data/arbiter/

3.创建配置文件

db01创建配置文件

#master节点配置文件

cat >/opt/master/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/master/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/master/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/master/pid/mongodb.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28100

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard1

sharding:

  clusterRole: shardsvr

EOF

#slave节点配置文件

cat >/opt/slave/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/slave/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/slave/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/slave/pid/mongodb.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28200

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard2

sharding:

  clusterRole: shardsvr

EOF

#aribiter节点配置文件

cat >/opt/arbiter/conf/mongod.conf<<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/arbiter/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/arbiter/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/arbiter/pid/mongodb.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28300

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard3

sharding:

  clusterRole: shardsvr

EOF

##############################################################################

db02创建配置文件

#master节点配置文件

cat >/opt/master/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/master/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/master/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/master/pid/mongodb.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28100

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard2

sharding:

  clusterRole: shardsvr

EOF

#slave节点配置文件

cat >/opt/slave/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/slave/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/slave/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/slave/pid/mongodb.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28200

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard3

sharding:

  clusterRole: shardsvr

EOF

#aribiter节点配置文件

cat >/opt/arbiter/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/arbiter/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/arbiter/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/arbiter/pid/mongodb.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28300

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard1

sharding:

  clusterRole: shardsvr

EOF

db03创建配置文件

#master节点配置文件

cat >/opt/master/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/master/log/mongod.log

storage:

  journal:

    enabled: true

  dbPath: /data/master/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/master/pid/mongodb.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28100

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard3

sharding:

  clusterRole: shardsvr

EOF

#slave节点配置文件

cat >/opt/slave/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/slave/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/slave/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/slave/pid/mongod.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28200

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard1

sharding:

  clusterRole: shardsvr

EOF

#aribiter节点配置文件

cat >/opt/arbiter/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/arbiter/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/arbiter/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/arbiter/pid/mongod.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 28300

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  oplogSizeMB: 1024

  replSetName: shard2

sharding:

  clusterRole: shardsvr

EOF

4.优化警告

注意！三台服务器都操作！！！

useradd mongod -s /sbin/nologin -M

echo "never"  > /sys/kernel/mm/transparent_hugepage/enabled

echo "never"  > /sys/kernel/mm/transparent_hugepage/defrag

5.启动服务

mongod -f /opt/master/conf/mongod.conf

mongod -f /opt/slave/conf/mongod.conf

mongod -f /opt/arbiter/conf/mongod.conf

netstat -lntup|grep mongod

6.初始化副本集

#db01 master节点初始化shard1的副本

mongo --port 28100

rs.initiate()

rs.add("10.0.0.53:28200")

rs.addArb("10.0.0.52:28300")

#db02 master节点初始化shard2的副本

mongo --port 28100

config = {

	_id:"shard2",

	members:[

		{_id:0,host:"10.0.0.52:28100"},

		{_id:1,host:"10.0.0.51:28200"},

		{_id:2,host:"10.0.0.53:28300",arbiterOnly:true},

	]

}

rs.initiate(config)

#db03 master节点初始化shard3的副本

mongo --port 28100

config = {

	_id:"shard3",

	members:[

		{_id:0,host:"10.0.0.53:28100"},

		{_id:1,host:"10.0.0.52:28200"},

		{_id:2,host:"10.0.0.51:28300",arbiterOnly:true},

	]

}

rs.initiate(config)

7.检查命令

mongo --port 28100

rs.status()

五、分片集群搭建config步骤

1.创建目录

mkdir -p /opt/config/{conf,log,pid}

mkdir -p /data/config/

2.创建配置文件

cat >/opt/config/conf/mongod.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/config/log/mongodb.log

storage:

  journal:

    enabled: true

  dbPath: /data/config/

  directoryPerDB: true

  wiredTiger:

    engineConfig:

      cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

  pidFilePath: /opt/config/pid/mongod.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 40000

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

replication:

  replSetName: configset

sharding:

  clusterRole: configsvr

EOF

3.启动

mongod -f /opt/config/conf/mongod.conf

4.初始化副本集

mongo localhost:40000

rs.initiate({

	_id:"configset",

    configsvr: true,

	members:[

		{_id:0,host:"10.0.0.51:40000"},

		{_id:1,host:"10.0.0.52:40000"},

		{_id:2,host:"10.0.0.53:40000"},

	] })

5.检查

rs.status()

六、mongos配置

1.创建目录

mkdir -p /opt/mongos/{conf,log,pid}

2.创建配置文件

cat >/opt/mongos/conf/mongos.conf  <<EOF

systemLog:

  destination: file

  logAppend: true

  path: /opt/mongos/log/mongos.log

processManagement:

  fork: true

  pidFilePath: /opt/mongos/pid/mongos.pid

  timeZoneInfo: /usr/share/zoneinfo

net:

  port: 60000

  bindIp: 127.0.0.1,$(ifconfig eth0|awk 'NR==2{print $2}')

sharding:

  configDB:

    configset/10.0.0.51:40000,10.0.0.52:40000,10.0.0.53:40000

EOF

3.启动

mongos -f /opt/mongos/conf/mongos.conf

4.登录

mongo --port 60000

七、分片配置

#1.区间分片：

数据库开启分片

mongo localhost:60000 .

#先切换到admin库下

use admin

db.runCommand( { enablesharding : "test" } )

#创建索引

mongo localhost:60000

#进到test库

mongos> use test

switched to db test

db.range.ensureIndex( { id: 1 } )

#对集合开启分片，片键是id

use admin

db.runCommand( { shardcollection : "test.range",key : {id: 1} } )

#插入测试数据

use test

for(i=1;i<10000;i++){ db.range.insert({"id":i,"name":"shanghai","age":28,"date":new Date()}); }

db.range.stats()

db.range.count()

#hash分片：

数据库开启分片

mongo --port 60000

use admin

db.runCommand( { enablesharding : "oldboy" } )

#创建索引

use oldboy

db.hash.ensureIndex( { id: "hashed" } )

#集合开启哈希分片

use admin

sh.shardCollection( "oldboy.hash", { id: "hashed" } )

#生成测试数据

use oldboy

for(i=1;i<10000;i++){ db.hash.insert({"id":i,"name":"shenzheng","age":70,"date":new Date()}); }

#分片验证

shard1

mongo db01:28100

use oldboy

db.hash.count()

33755

shard2

mongo db02:28100

use oldboy

db.hash.count()

33142

shard3

mongo db03:28100

use oldboy

db.hash.count()

33102

八、分片集群常用管理命令

1列出分片所有详细信息

db.printShardingStatus()

sh.status()

2列出所有分片成员信息

use admin

db.runCommand({ listshards : 1})

3列出开启分片的数据库

use config

db.databases.find({"partitioned": true })

4查看分片的片键

use config

db.collections.find().pretty()

5查看集合的分片信息

use test

db.getCollection('range').getShardDistribution()

db.getCollection('hash').getShardDistribution()

Mongo--04 Mongo分片集群的更多相关文章

  1. mongo 3.4分片集群系列之八：分片管理

    这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mongo 3.4分片集群系列之三:搭建 ...

  2. mongo 3.4分片集群系列之七：配置数据库管理

    这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mongo 3.4分片集群系列之三:搭建 ...

  3. mongo 3.4分片集群系列之六：详解配置数据库

    这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mongo 3.4分片集群系列之三:搭建 ...

  4. mongo 3.4分片集群系列之五：详解平衡器

    这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mongo 3.4分片集群系列之三:搭建 ...

  5. mongo 3.4分片集群系列之四：搭建分片集群--哈希分片 + 安全 + 区域

    这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mongo 3.4分片集群系列之三:搭建 ...

  6. mongo 3.4分片集群系列之三：搭建分片集群--哈希分片 + 安全

    这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mongo 3.4分片集群系列之三:搭建 ...

  7. mongo 3.4分片集群系列之二：搭建分片集群--哈希分片

    这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mongo 3.4分片集群系列之三:搭建 ...

  8. mongo 3.4分片集群系列之一：浅谈分片集群

    这篇为理论篇,稍后会有实践篇. 这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mong ...

  9. Mongo 整体架构介绍(1)-------分片集群

    摘要 在mongo初识文中介绍了mongo与cassandra的主要区别,以及mongo物理部署架构图.本文接着上一篇的mongo 架构图,来继续讲分片集群. 分片介绍 shard key mongo ...

随机推荐

  1. wannafly 练习赛11 F 求子树（树上莫队+换根）

    链接:https://www.nowcoder.com/acm/contest/59/F 时间限制:C/C++ 1秒,其他语言2秒 空间限制:C/C++ 262144K,其他语言524288K 64b ...

  2. 中国MOOC_零基础学Java语言_第3周 循环_2数字特征值

    2 数字特征值(5分) 题目内容: 对数字求特征值是常用的编码算法,奇偶特征是一种简单的特征值.对于一个整数,从个位开始对每一位数字编号,个位是1号,十位是2号,以此类推.这个整数在第n位上的数字记作 ...

  3. webService框架CXF的简单使用

    最近本来已经将上一个项目交活,全身心投入了另外项目的前端的开发工作.可之前的项目经理通知我,之前的项目需要做一个webService的功能,于是稍微做了一下webService,可是忘了通知我现在的项 ...

  4. DOM4J解析文件

    转发一篇好文 DOM4J解析文件 Dom4j和Xpath

  5. mysql 锁超时

    对一个别人正在读写的表执行DDL操作,经常需要先锁表,但是这个表正在被人执行读写操作,那么就会报:Lock wait timeout 类的错误. 通过MDB实例详情页面的进程管理可以看到类似如下的情况 ...

  6. spring（二） JDBC

    一.配置 bean.xml , 链接数据库. c3p0数据库连接池 <?xml version="1.0" encoding="UTF-8"?> & ...

  7. Java之类的继承

    说起来Java的类,不得不说以下几个方面:继承.转型.重写.多态和接口. 今天来说一说继承,转型和重写几个方面: 继承(extends)即子类继承父类,就好比玻璃杯.保温杯等子类继承了杯子这个父类,子 ...

  8. Excel区域复制粘贴

    这段工作做的是利用JAVA实现Excel的一块区域的复制并粘贴. 就本身对于 Excel跟 鼠标来说,这也是一个非常简单的操作. 但是 用 java的poi来做,还是 有点儿吃力的. 下面是之前做的一 ...

  9. PHP Memcache 扩展安装

    PHP Memcache 扩展安装 PHP Memcache 扩展包下载地址:http://pecl.php.net/package/memcache,你可以下载最新稳定包(stable). 下载对应 ...

  10. 第二周总结.Java

    本学期开始学习Java课程了,首先我先说说学习Java的感觉吧,它不像C语言程序设计,但是又有语言开发的共同点.学Java语言重点是面向对象的程序设计,更加的适应生活需要和计算机开发的需要. 总的来讲 ...