Mongo优化笔记
最近MongoDb服务器负载比较高,容易出问题,这里把优化的方式整理一下。
1、由于各个项目组共用一个mongo实例,所以一个项目组的问题会影响到别的项目组,所以需要把各个项目的数据从一个实例中剥离出来。
2、根据请求接口的时间,数量,排查代码上的相关问题,重复查询、查询是否中索引、多次小量数据查询、mongo排序等。
3、优化索引,注意的是创建索引是一个比较重要的事情,如果数据量大,不想影响线上业务,要后台创建索引,在副本集上后台创建索引,primary是没问题的,secondary在同步索引的时候,会阻塞,如果读在secondary上的话,这点需要注意。
4、我们现在的Mongo用的副本集,之前配置成了读写分离,来解决primary的负载较高的问题,后来发现secondary的负载会升高,secondary有跟primary一样的写请求,并且有可能存在数据不同步的问题,副本集的意义在故障切换这块比较大,后期我们会把Mongo由副本集改为分片的部署方式。
索引优化排查:
1、利用explain来查看一个查询的查询过程,
mgset-:SECONDARY> db.userInfo.find({phone_number:''}).explain('executionStats')
{
"queryPlanner" : {
"plannerVersion" : ,
"namespace" : "source.userInfo",
"indexFilterSet" : false,
"parsedQuery" : {
"phone_number" : {
"$eq" : ""
}
},
"winningPlan" : {
"stage" : "FETCH",
"inputStage" : {
"stage" : "IXSCAN",
"keyPattern" : {
"phone_number" :
},
"indexName" : "phone_number_1",
"isMultiKey" : false,
"multiKeyPaths" : {
"phone_number" : [ ]
},
"isUnique" : false,
"isSparse" : false,
"isPartial" : false,
"indexVersion" : ,
"direction" : "forward",
"indexBounds" : {
"phone_number" : [
"[\"11111\", \"11111\"]"
]
}
}
},
"rejectedPlans" : [ ]
},
"executionStats" : {
"executionSuccess" : true,
"nReturned" : ,
"executionTimeMillis" : ,
"totalKeysExamined" : ,
"totalDocsExamined" : ,
"executionStages" : {
"stage" : "FETCH",
"nReturned" : ,
"executionTimeMillisEstimate" : ,
"works" : ,
"advanced" : ,
"needTime" : ,
"needYield" : ,
"saveState" : ,
"restoreState" : ,
"isEOF" : ,
"invalidates" : ,
"docsExamined" : ,
"alreadyHasObj" : ,
"inputStage" : {
"stage" : "IXSCAN",
"nReturned" : ,
"executionTimeMillisEstimate" : ,
"works" : ,
"advanced" : ,
"needTime" : ,
"needYield" : ,
"saveState" : ,
"restoreState" : ,
"isEOF" : ,
"invalidates" : ,
"keyPattern" : {
"phone_number" :
},
"indexName" : "phone_number_1",
"isMultiKey" : false,
"multiKeyPaths" : {
"phone_number" : [ ]
},
"isUnique" : false,
"isSparse" : false,
"isPartial" : false,
"indexVersion" : ,
"direction" : "forward",
"indexBounds" : {
"phone_number" : [
"[\"11111\", \"11111\"]"
]
},
"keysExamined" : ,
"seeks" : ,
"dupsTested" : ,
"dupsDropped" : ,
"seenInvalidated" :
}
}
},
"ok" :
}
查看executionStats字段会发现FETCH->IXSCAN,表明中索引。
stage各个值的含义:
- COLLSCAN 全表扫描
- IXSCAN 索引扫描
- FETCH 根据索引去检索指定document
- SHARD_MERGE 将各个分片返回数据进行merge
- SORT 表明在内存中进行了排序
只是列了几个比较常见的,详细的请参考MongoDB中文社区的干货系列
慢查询日志排查
有一个操作是创建了一个三键索引,删除了两键索引,但是在慢查询日志查看过程中,发现这个查询所中的还是两键索引,在Mongo Shell中,explain查看,中的是三键索引,通过查阅相关资料,Mongo的cache plan影响的
PlanCache help
db.userInfo.getPlanCache().help() - show PlanCache help
db.userInfo.getPlanCache().listQueryShapes() - displays all query shapes in a collection
db.userInfo.getPlanCache().clear() - drops all cached queries in a collection
db.userInfo.getPlanCache().clearPlansByQuery(query[, projection, sort, collation]) - drops query shape from plan cache
db.userInfo.getPlanCache().getPlansByQuery(query[, projection, sort, collation]) - displays the cached plans for a query shape
通过相关命令,删除cache plan,mongo会自动生成新的cache plan
Mongo优化笔记的更多相关文章
- Android App性能优化笔记之一:性能优化是什么及为什么?
By Long Luo 周星驰的电影<功夫>里面借火云邪神之口说出了一句至理名言:“天下武功,唯快不破”. 在移动互联网时代,同样如此,留给一个公司的窗口往往只有很短的时间,如何把握住 ...
- (转)MySQL优化笔记(八)--锁机制超详细解析(锁分类、事务并发、引擎并发控制)
当一个系统访问量上来的时候,不只是数据库性能瓶颈问题了,数据库数据安全也会浮现,这时候合理使用数据库锁机制就显得异常重要了. 原文:http://www.jianshu.com/p/163c96983 ...
- U3D开发性能优化笔记(待增加版本.x)
http://blog.csdn.net/kaitiren/article/details/45071997 此总结由自己经验及网上收集整理优化内容 包括: .代码方面: .函数使用方面: .ui注意 ...
- CMU Convex Optimization(凸优化)笔记1--凸集和凸函数
CMU凸优化笔记--凸集和凸函数 结束了一段时间的学习任务,于是打算做个总结.主要内容都是基于CMU的Ryan Tibshirani开设的Convex Optimization课程做的笔记.这里只摘了 ...
- mongo 学习笔记
mysql语句 : ' ,,),(,,) mongo语句: db.}}).limit() db."}) db.}}) 条件操作符1 mongodb中的条件操作符有: (>) 大于 ...
- 移动web性能优化笔记
移动web性能优化 最近看了一些文章,对移动web性能优化方法,做一个简单笔记 笔记内容主要出自 移动H5前端性能优化指南和移动前端系列——移动页面性能优化
- mysql系列十一、mysql优化笔记:表设计、sql优化、配置优化
可以从这些方面进行优化: 数据库(表)设计合理 SQL语句优化 数据库配置优化 系统层.硬件层优化 数据库设计 关系数据库三范式 1NF:字段不可分; 2NF:有主键,非主键字段依赖主键; 3NF:非 ...
- nginx优化笔记(keepalive、https等)
一.nginx之tcp_nopush.tcp_nodelay.sendfile 1.TCP_NODELAY你怎么可以强制 socket 在它的缓冲区里发送数据?一个解决方案是 TCP 堆栈的 TCP_ ...
- hibernate优化笔记(随时更新)
一:优化配置 1.关联映射的配置:对照之前的博客,如:inverse属性的设置(减少对同一对象的多条update语句):在one端设置为true,只会执行一次update语句 2.级联cascade属 ...
随机推荐
- Ubuntu 16.04通过Trickle限制某个软件的下载/上传速度
在Linux下没有Windows使用360那样去限制某个软件的速度. 但是通过Trickle可以设置某个软件的网速,但是前提是通过Trickle命令连带启动这个软件才可以,不能中途去设置. 比如现在很 ...
- mysql 中间件
http://f.dataguru.cn/thread-543718-1-1.html mysql-proxy是官方提供的mysql中间件产品可以实现负载平衡,读写分离,failover等,但其不支持 ...
- vue2的简单时间选择组件
github: https://github.com/longfei59418888/vui (记得给一个 start,以后有一起讨论,各种好组件) demo : http://60.205.2 ...
- Java中基于HTTP协议网络编程
java中为我们的网络支持提供了java.net包,能够使我们以编程的方式来訪问Web服务功能,这篇博客,就跟大家分享一下.Java中的网络编程的知识.主要是学习下该java.net包下的API. U ...
- ios7新增api实现扫描二维码
本来用的ZBar开源库实现的扫描二维码,可是貌似不支持arm64了,也没有在更新. 如今不用适配ios7下面.而iOS新增系统API已支持扫码,參考老外的一篇博客做了个demo.须要的能够參考下 參考 ...
- hdu 5950 Recursive sequence
题意:告诉你数列的递推公式为f(n+1)=f(n)+2*f(n-1)+(n+1)^4 以及前两项a,b:问第n项为多少,结果对2147493647取模. 题解:有递推公式,马上应该就能想到矩阵快速幂: ...
- 在SAE搭建Python+Django+MySQL(基于Windows)
为了与时俱进,工作闲余開始研究Python,刚一接触就被Python这"优雅"的语法吸引住.后来接触到了Django.尽管还没有太深入的研究.但对这样的新概念的WEB开发非常感兴趣 ...
- SSD性能优化记录
在上一篇博文中,我设计了一个优化方法,方法从业务角度出发,将切图操作涉及到的性能路径剖析出来,分别进行优化,效果显著. 眼下的情况是:一张ArcGIS武汉市城市影像图.该操作由79小时缩短至当前的67 ...
- C#邮件发送(含附件)
class SendEmail { static void Main(string[] args) { string from = "发件人@yingu.com"; string ...
- ios逆向工程
原 ios逆向工程-内部钩子(Method Swizzling) Method+Swizzling ios hook Method Swizzling(方法调配) 怎么说呢,先了解什么是钩子为什么 ...