mongodb 在windows下面进行分片

mongodb 更新很快,在做分片的时候,查找了不少文章,但是很多已经过时了。现在把我搭建的过程及命令分享给大家。我用的是最新版本windows版3.4.7。

命令中使用到的目录,需要手动创建。

首先确定各个组件的数量,mongos 1个, config server 3个,数据分3片 shard server 3个,每个shard 有一个副本一个仲裁也就是 3 * 2 = 6 个,,总共需要部署10个实例。这些实例可以部署在独立机器也可以部署在一台机器,我们这里测试资源有限,只准备了1台机器,在同一台机器只要端口不同就可以。,看一下物理部署图:

启动两个副本集

mongod --shardsvr --replSet shard-a --dbpath "C:\mongo\data\rs-a-1" --port 3000 --logpath "C:\mongo\log\rs-a-1.log" --nojournal --serviceName "mongodb_rs_1" --serviceDisplayName "mongodb_rs_1" --install

mongod --shardsvr --replSet shard-a --dbpath "C:\mongo\data\rs-a-2" --port 3001 --logpath "C:\mongo\log\rs-a-2.log" --nojournal  --serviceName "mongodb_rs_2" --serviceDisplayName "mongodb_rs_2" --install

mongod --shardsvr --replSet shard-a --dbpath "C:\mongo\data\rs-a-3" --port 3002 --logpath "C:\mongo\log\rs-a-3.log" --nojournal  --serviceName "mongodb_rs_3" --serviceDisplayName "mongodb_rs_3" --install

连接3000,初始化副本集配置,命令如下:

mongo 127.0.0.1:3000

config = { _id:"shard-a", members:[

{_id:0,host:"localhost:3000"},

{_id:1,host:"localhost:3001"},

{_id:2,host:"localhost:3002",arbiterOnly:true}

]

}

rs.initiate(config);

mongod --shardsvr --replSet shard-b --dbpath "C:\mongo\data\rs-b-1" --port 30100 --logpath "C:\mongo\log\rs-b-1.log" --nojournal  --serviceName "mongodb_rs_b1" --serviceDisplayName "mongodb_rs_b1" --install

mongod --shardsvr --replSet shard-b --dbpath "C:\mongo\data\rs-b-2" --port 30101 --logpath "C:\mongo\log\rs-b-2.log" --nojournal  --serviceName "mongodb_rs_b2" --serviceDisplayName "mongodb_rs_b2" --install

mongod --shardsvr --replSet shard-b --dbpath "C:\mongo\data\rs-b-3" --port 30102 --logpath "C:\mongo\log\rs-b-3.log" --nojournal  --serviceName "mongodb_rs_b3" --serviceDisplayName "mongodb_rs_b3" --install

连接30100,初始化副本集配置,命令如下:

mongo 127.0.0.1:30100

config = { _id:"shard-b", members:[

{_id:0,host:"localhost:30100"},

{_id:1,host:"localhost:30101"},

{_id:2,host:"localhost:30102",arbiterOnly:true}

]

}

rs.initiate(config);

启动配置服务器

mongod --configsvr --replSet config-a --dbpath "C:\mongo\data\config-1" --port 27019 --logpath "C:\mongo\log\config-1.log"  --serviceName "mongodb_config_1" --serviceDisplayName "mongodb_config_1" --install

mongod --configsvr  --replSet config-a --dbpath "C:\mongo\data\config-2" --port 27020 --logpath "C:\mongo\log\config-2.log"  --serviceName "mongodb_config_2" --serviceDisplayName "mongodb_config_2" --install

mongod --configsvr  --replSet config-a --dbpath "C:\mongo\data\config-3" --port 27021 --logpath "C:\mongo\log\config-3.log"   --serviceName "mongodb_config_3" --serviceDisplayName "mongodb_config_3" --install

连接27019,初始化副本集配置,命令如下:

mongo 127.0.0.1: 27019

rs.initiate(

{

_id: "config-a",

configsvr: true,

members: [

{ _id : 0, host : "127.0.0.1:27019" },

{ _id : 1, host : "127.0.0.1:27020" },

{ _id : 2, host : "127.0.0.1:27021" }

]

}

)

服务安装错误,使用删除MongoDB服务:SC DELETE mongos-a

如果MongoDB服务处于运行状态,请先停止该服务:mongos-a

开启mongos服务器

mongos --configdb config-a/127.0.0.1:27019,localhost:27020,localhost:27021 --logpath "C:\mongo\log\mongos.log" --port 40005  --serviceName "mongos-a" --serviceDisplayName "mongos-a" --install

目前搭建了mongodb配置服务器、路由服务器,各个分片服务器,不过应用程序连接到 mongos 路由服务器并不能使用分片机制,还需要在程序里设置分片配置,让分片生效。

配置Sharding

连接40005,命令如下:

mongo 127.0.0.1: 40005

sh.addShard( "shard-a/localhost:3000")

sh.addShard( "shard-b/localhost:30100")

#查看分片服务器的配置

db.runCommand( { listshards : 1 } );

#内容输出

{

"shards" : [

{

"_id" : "shard-a",

"host" : "shard-a/localhost:3000,localhost:3001",

"state" : 1

},

{

"_id" : "shard-b",

"host" : "shard-b/localhost:30100,localhost:30101",

"state" : 1

}

],

"ok" : 1

}

因为3002,30102是每个分片副本集的仲裁节点,所以在上面结果没有列出来。

目前配置服务、路由服务、分片服务、副本集服务都已经串联起来了,但我们的目的是希望插入数据,数据能够自动分片,就差那么一点点,一点点。。。

连接在mongos上,准备让指定的数据库、指定的集合分片生效。

#指定testliu分片生效

sh.enableSharding("testliu")

#指定数据库里需要分片的集合和片键

sh.shardCollection("testliu.accounts", {"name":1} )

我们设置testliu的accounts表需要分片,根据 id 自动分片到 shard-a ,shard-b 上面去。要这样设置是因为不是所有mongodb 的数据库和表 都需要分片!

#插入测试数据

for (var i = 1; i <= 100000; i++)db.accounts.insert({name:i,"test1":"testval1"});

#查看分片情况如下,部分无关信息省掉了

db.accounts.stats();

{

"sharded" : true,

"capped" : false,

"ns" : "testliu.accounts",

"count" : 305,

"size" : 31346,

"storageSize" : 77824,

"totalIndexSize" : 147456,

"indexSizes" : {

"_id_" : 73728,

"name_1" : 73728

},

"avgObjSize" : 102.65901639344263,

"nindexes" : 2,

"nchunks" : 3,

"shards" : {

"shard-a" : {

"ns" : "testliu.accounts",

"count" :42183,

"ok" : 1

},

"shard-b" : {

"ns" : "testliu.accounts",

"count" : 57817,

"ok" : 1

}

},

"ok" : 1

}

可以看到数据分到2个分片,各自分片数量为:shard-a “count” : 42183,shard-b “count” : 57817。已经成功了!不过分的好像不是很均匀,所以这个分片还是很有讲究的,后续再深入讨论。

原文:https://www.cnblogs.com/frankliu/articles/7526445.html

MongoDB 分片2的更多相关文章

  1. MongoDB 分片管理(不定时更新)

    背景: 通过上一篇的 MongoDB 分片的原理.搭建.应用 大致了解了MongoDB分片的安装和一些基本的使用情况,现在来说明下如何管理和优化MongoDB分片的使用. 知识点: 1) 分片的配置和 ...

  2. MongoDB 分片的原理、搭建、应用

    一.概念: 分片(sharding)是指将数据库拆分,将其分散在不同的机器上的过程.将数据分散到不同的机器上,不需要功能强大的服务器就可以存储更多的数据和处理更大的负载.基本思想就是将集合切成小块,这 ...

  3. MongoDB分片简单实例

    分片 在Mongodb里面存在另一种集群,就是分片技术,可以满足MongoDB数据量大量增长的需求. 当MongoDB存储海量的数据时,一台机器可能不足以存储数据也足以提供可接受的读写吞吐量.这时,我 ...

  4. (转)MongoDB分片实战 集群搭建

    环境准备 Linux环境 主机 OS 备注 192.168.32.13 CentOS6.3 64位 普通PC 192.168.71.43 CentOS6.2 64位 服务器,NUMA CPU架构 Mo ...

  5. 搭建mongodb分片

    搭建mongodb分片 http://gong1208.iteye.com/blog/1622078 Sharding分片概念 这是一种将海量的数据水平扩展的数据库集群系统,数据分表存储在shardi ...

  6. mongodb分片

    在系统早期,数据量还小的时候不会引起太大的问题,但是随着数据量持续增多,后续迟早会出现一台机器硬件瓶颈问题的.而mongodb主打的就是海量数据架构,他不能解决海量数据怎么行!不行!“分片”就用这个来 ...

  7. mongodb 分片群集(sharding cluster)

    实际环境架构 分别在3台机器运行一个mongod实例(称为mongod shard11,mongod shard12,mongod shard13)组织replica set1,作为cluster的s ...

  8. MongoDB基础教程系列--第九篇 MongoDB 分片

    1.分片介绍 分片(sharding)是将数据拆分,将其分散存到不同机器上的过程.MongoDB 支持自动分片,可以使数据库架构对应用程序不可见.对于应用程序来说,好像始终在使用一个单机的 Mongo ...

  9. mongodb分片部署

    Mongodb 分片部署 配置mongodb集群,比如 在3个server上配置 3 shard的Mongodb集群: 架构: 1.每片数据需要3个mongod server,2个为主从数据节点:1个 ...

  10. MongoDB分片原理篇

    MongoDB分片 为什么需要Sharded cluster? MongoDB目前3大核心优势:『灵活模式』+ 『高可用性』 + 『可扩展性』,通过json文档来实现灵活模式,通过复制集来保证高可用, ...

随机推荐

  1. MyBatis嵌套查询column传多个参数描述

    代码如下,红色部分为关键代码. 注意parameterType要为java.util.HashMap <resultMap id="baseResultMap" type=& ...

  2. [转]200 OK (from cache) 与 304 Not Modified------没有这个规则(ETag是否移除)!!!from cache和304,请查看顶部的流程图!

    //========没有这个规则(ETag是否移除) 20160422============// 200 OK (from cache) 与 304 Not Modified 为什么有的缓存是 20 ...

  3. 执行.class文件

    java packageName.className即可 但是注意,如果是有包的,这段指令一定是packageName的上层目录(即bin目录)执行!

  4. 设置Nodejs NPM全局路径

    Windows下的Nodejs npm路径是appdata 在nodejs的安装目录中找到node_modules\npm\.npmrc文件 修改如下即可: prefix = E:\nodejs\np ...

  5. 第二届PHP全球开发者大会(含大会的PPT)

    PHP全球开发者大会于2016年5月14日至15日在北京召开 更多现场图片请猛击: http://t.cn/RqeP7y9 ,  http://t.cn/RqD8Typ 最后,这次大会的PPT可以在这 ...

  6. mongodb collection method

    https://docs.mongodb.com/manual/reference/method/db.collection.bulkWrite/ db.coll_test.getIndexes()# ...

  7. 环境搭建:Vue环境搭建和项目初始化(windows)

    1.    安装node.js 官网下载安装:https://nodejs.org/en/ 版本查看:node -v 注意:node版本最好新一点好,推荐6.0以上. 2.    npm安装webpa ...

  8. NodeJs之项目构建(对文件及文件夹的操作)

    前提:需要使用:require('fs')引入外部模块 简单的模仿创建一个文件下有多个文件. 首先,准备一个主文件夹 然后,准备放在这个主文件夹下的文件加 在代码中通过对象,数字,json对象来装 代 ...

  9. 装饰器api

    import hashlib import time from django.http import HttpResponse key="qwrwertyuiop" visited ...

  10. cron job error : c queue max run limit reached

    在cron job的日志中发现以下报错: ! c queue max run limit reached Wed Aug 28 12:56:00 2013 ! rescheduling a cron ...