[mongodb] MMAPv1 Storage Engine
MMAPv1 是mongodb 在3.2以前默认的存储引擎,在3.2 之后默认的存储引擎为WiredTiger,MMAPv1存储引擎基于内存映射文件,它擅长高容量的插入,读取和更新。
Journal
为了确保所有对mongodb 数据集的修改是可持续的写到磁盘中,mongodb 默认所有的记录都写在磁盘中的日志里面,mongodb写日志比写数据文件更加平凡。默认的情况下,mongodb每隔60秒写到磁盘中的数据文件一次,而写日志文件粗略的每隔100毫秒,这些值都是他们写数据文件的最大时间间隔,在更多的mongodb的应用例子中,mongdb和操作系统刷新数据到磁盘是更加频繁的,因此这些值都是理论上的最大值。,去改变日志文件写的时间间隔,看 storage.syncPeriodSecs ,改变日志文件写入的时间间隔看storage.journal.commitIntervalMs。
当mongdb的实例退出后,这些日志允许mongdb从数据文件中恢复数据并不刷新所有的改变。
Record Storage Characteristics
所有的记录被写进磁盘中,当一个document变的比被分配到的磁盘的地址空间更大的时候,mongdb 必须分配一个新的地址,新的地址要求mongodb 移动这个document 和更新与这个document 有关的所有的索引,这将导致需要花费更多的时间去更新地址和整理存储碎片。
值得庆幸的是,在mongdb3.0以后的版本中,有所改变,默认的情况下,3.0以后的版本中, 使用了 Power of 2 Sized Allocations,每一个在mongdb中的document被存储在一个磁盘空间中,这个空间包括他自己和一些额外的空间,这些额外的空间允许document更新导致的增长以最大可能的减少重新分配。
Record Allocation Strategies
mongodb 支持多个空间分配策略,当分配一个空间时,这些策略决定mongod 怎样增加一个额外的空间到这个doument上,因为在mongodb 中,document在插入后是可以增加的,所有的记录都在磁盘上,一个额外的空间可以减少一个document在更新变大重新分配空间的需要。重新分配更新空间效率是比在本地空间更新效率低,并且重新分配空间导致存储的碎片,因此,所有的另外增加额外的(padding stratrgies)策略交换另外的空间提高了效率减少了碎片。
不同的策略支持不同的工作负载,lead to storage fragmentation 是对插入更新和删除的工作负载时更佳有效的, exact fit allocations(精确分配)是一个好的策略对于一个没有更新和删除的工作负载。
Power of 2 Sized Allocations
mongodb 在3.0 以后的版本中默认使用了Power of 2 Sized Allocations 的分配策略为MMPAPv1,每一个空间的大小都是2的指数比特(如:32,64,128,256,512 ... 2MB),由于文档的大小都超过了2MB ,分配的空间被上升到了2MB 的倍数。
The power of 2 sizes有如下关键的属性:
* 可以有效的重新释放空余的空间用来减少分裂。把特定的空间大小转化为一个固定大小增加的集合,插入的数据将保存在可能被更早的document删除或者搬迁创造的空间中。
*可以减少移动,增加额外的装饰空间给一个document不需要移动就可以增长空间。另外,节省了移动的花费,在不需要更多的去更新索引。虽然The power of 2 sizes策略可以最大程度的减少移动,但是不能完全的消除。
No Padding Allocation Strategy
对于一些collections 工作不改变文档的大小,如插入和更新工作,这些工作都不增加文件的大小,这个时候The power of 2 sizes 策略是没用的,你可以使用collMod 命令或者db.createCollection() 方法并且用nopadding 对象。
在3.0以前,mongdb 使用一个分配策略,这个策略包括动态计算padding 作为一个document 大小的因素。
Memory Use
使用MMAPv,mongodb 自动使用所有机器的空闲的内存作为它的cache,系统资源监视器监视mongodb 使用的内存情况,这意外这着mongodb将尽可能多的使用空闲的内存,如果其他的进程突然需要服务器大量的内存,mongdb 将会缓存内存到其他的进程。
严格的来说,操作系统的虚拟内存的子系统管理mongdb内存,这意外着mongodb将尽可能的使用更多的空闲的内存,按照实际需要内存和磁盘进行数据交换,部署充足的内存去使应用程序工作的数据集有充足的RAM,使mongodb 达到最好的性能。
[mongodb] MMAPv1 Storage Engine的更多相关文章
- [mongodb] WiredTiger Storage Engine
今天看了mongodb的官方文档中的WiredTiger Storage Engine ,说说我对WiredTiger Storage Engine 的理解! 在mongodb3.2版本以后,wire ...
- MongoDB出现The default storage engine 'wiredTiger' is not available之问题解决
问题描述:低版本MongoDB存在该问题(版本为3.x),高版本则无该问题. 参考解决问题链接:MongoDB学习—(1)安装时出现The default storage engine ‘wiredT ...
- storage engine option for directoryPerDB
Requested option conflicts with current storage engine option for directoryPerDB; you requested true ...
- MySQL报错:Got error 28 from storage engine
今天碰到数据库出错: Got error 28 from storage engine 查了一下,数据库文件所在的盘应该没事,应该是数据库用的临时目录空间不够 问题原因: 磁盘临时空间不够导致. 解决 ...
- MySQL - 问题集 - "Got error 28 from storage engine"
数据库的临时目录空间不够,修改配置文件中的tmpdir,指向一个硬盘空间很大的目录即可. windows下,找到配置文件my.ini. [mysqld] tmpdir=D:/work/tool/mys ...
- Mysql: ERROR 1030 (HY000): Got error 28 from storage engine
今天帮同事解决一个问题的时候,遇到了下面的异常: ERROR 1030 (HY000): Got error 28 from storage engine 我们的数据库是mysql,我们的sql语句是 ...
- MEMORY Storage Engine MEMORY Tables TEMPORARY TABLE max_heap_table_size
http://dev.mysql.com/doc/refman/5.7/en/create-table.html You can use the TEMPORARY keyword when crea ...
- mysql 1030 Got error 28 from storage engine
mysql 1030 Got error 28 from storage engine 错误原因:磁盘临时空间不够. 解决办法:df -h 查看设备存储的使用情况 du -h --max-depth= ...
- 在phpmyadmin中执行sql语句出现的错误:Unknown storage engine 'InnoDB'
在phpmyadmin中执行sql语句出现的错误:Unknown storage engine 'InnoDB' 解决方法:解决方法: 1.关闭MySQL数据库 2 ...
随机推荐
- Python中xlrd和xlwt模块使用方法 (python对excel文件的操作)
本文主要介绍可操作excel文件的xlrd.xlwt模块.其中xlrd模块实现对excel文件内容读取,xlwt模块实现对excel文件的写入. 安装xlrd和xlwt模块 xlrd和xlwt模块不是 ...
- JVM难学?那是因为你没认真看完这篇文章(转)
一:虚拟机内存图解 JAVA程序运行与虚拟机之上,运行时需要内存空间.虚拟机执行JAVA程序的过程中会把它管理的内存划分为不同的数据区域方便管理. 虚拟机管理内存数据区域划分如下图: 数据区域分类: ...
- spring boot 整合kafka 报错 Exception thrown when sending a message with key='null' and payload=JSON to topic proccess_trading_end: TimeoutException: Failed to update metadata after 60000 ms.
org.springframework.kafka.support.LoggingProducerListener- Exception thrown when sending a message w ...
- 基础知识《十三》深入浅出Java回调机制
本文转载自http://hellosure.iteye.com/blog/1130176 在网上看到了一个比喻,觉得很形象,这里借用一下: 你有一个复杂的问题解决不了,打电话给你的同学,你的同学说可以 ...
- [Go语言]从Docker源码学习Go——init()方法和identifier首字母大小写区分
init()方法 如果想在一个go文件里,进行一些初始化的工作,可以把代码放到init()方法中. init()方法先被执行. func init() { // initialization of p ...
- 【BZOJ4382】[POI2015]Podział naszyjnika 堆+并查集+树状数组
[BZOJ4382][POI2015]Podział naszyjnika Description 长度为n的一串项链,每颗珠子是k种颜色之一. 第i颗与第i-1,i+1颗珠子相邻,第n颗与第1颗也相 ...
- MAC OSX--docker
http://www.cnblogs.com/yjmyzz/p/docker-install-tutorial.html http://www.cnblogs.com/yjmyzz/p/docker- ...
- MQ中间件对比
- JS改变HTML元素的绝对坐标
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.1//EN" "http://www.w3.org/TR/xhtml11/DT ...
- Redis数据存储优化机制(转)
原文:Redis学习笔记4--Redis数据存储优化机制 1.zipmap优化hash: 前面谈到将一个对象存储在hash类型中会占用更少的内存,并且可以更方便的存取整个对象.省内存的原因是新建一个h ...