在MongoDB2.2新出现的。

聚集管道式基于数据处理管道概念建模的数据聚集框架。文档进入一个多阶段能将该文档转化为聚集结果的管道。

聚集管道提供了map-reduce方法了替代物,并在非常多聚集任务中是首选的方案,由于map-reduce的复杂性可能是你不希望看到的。

上图是一个带凝视的聚集管道的操作,有两个阶段:$match和$group

聚集管道在值的类型和结果大小上有非常多限制。

以下简介。

聚集操作在使用aggregate命令时有的限制:

  • 类型限制

聚集管道不是在下列类型的值上进行操作:Symbol,Minkey,MaxKey,DBRef,Code和CodeWSrope

(在MongoDB2.4版本号解除了对Binary类型的限制。

在MongoDB2.2,管道不能对Binary类型数据操作)

  • 结果限制大小

假设aggregate命令返回的单个文档保护完整的结果集。则该命令在结果集超过BSON Document Size限制时会产生一个错误,眼下的大小是16M。

为了管理超过这一限制的结果集,aggregate命令当命令返回一个游标(cursor)或把结果保存在一个collection里时,可以返回随意大小的结果集。

(在MongoDB2.6,aggregate命令返回一个游标或把结果存在一个collection时。能不受这个限制大小。db.collection.aggregate()返回一个游标,能返回随意大小的结果集。)

  • 内存限制

在MongoDB2.6有了变化。

管道阶段在RAM有100M的限制。

假设超过这一限制,MongoDB会出错。为了同意操作大型数据。能够使用allowDiskUse选项来时聚集管道阶段能往暂时文件写数据。

管道

管道。顾名思义就是来自集合的文档通过一个聚集管道的旅行,当通过当中时该管道能转化这些对象。对熟悉Unix shells命令的(如 bash),这个概念和管道(pipe)非常类似。

MongoDB的聚集管道以一个集合的文档開始,流动文档从一个管道操作(pipeline operator)到下一个来处理文档。

在管道的每个操作符在文档经过管道时都会转化文档。管道操作符不须要为每个输入文档产生一个输出文档。

操作符能够产生新文档也能过滤文档。

管道操作能在一个管道里面反复。

管道表达式

每个管道操作符接受一个管道表达式作为操作数。管道表达式指出应用在输入文档的转化过程。

表达式有一个文档(document)结构,并包括字段。值和操作符。

管道表达式仅仅能操作在管道中的当前文档,不能引用在其它文档的数据:表达式提供了内存(in-memory)文档转化。

一般的。表达式是无状态的,仅仅在聚集过程时有一个例外:Accumulation expressions。累加表达式,使用$group管道,维持他们的状态(如,totals,maximums,mininums和相关数据)作为通过管道的文档过程。

聚集管道行为

在MongoDB,aggregate命令操作单个集合。并在逻辑上传递整个文档给聚集管道。为了优化这个操作。在可能的情况下,应该使用以下策略来避免扫描整个集合。

  1. 管道操作符和索引

$match和$sort管道操作符可以利用索引的优势,假设他们在管道的開始位置出现。

(在Mongo2.4新出现的:$geoNear管道操作符能利用地理索引的优势。

当使用$geoNear。$geoNear必须在聚集管道的第一阶段出现。)

即使管道使用了索引。聚合操作依旧要訪问实际的文档。比方,索引不能全然覆盖聚集管道。

(在Mongo2.6之前的版本号。对规模很小的选择情况,索引可以覆盖管道)

提前过滤

假设你的聚集应用仅须要一个集合的一个数据子集。使用 $match。$limit,$skip阶段在文档进入管道时去限制文档.当被放置在管道的開始,$match操作符使用合适的索引去扫描集合匹配的文档.

在管道的開始紧跟着$sort阶段放置$match在逻辑上等价于一个使用排序的单一查询,并能够使用索引.假设可能的话,把$match放置在管道的开头.

MongoDB: 聚集管道的更多相关文章

  1. MongoDB 聚合(管道与表达式)

    MongoDB中聚合(aggregate)主要用于处理数据(诸如统计平均值,求和等),并返回计算后的数据结果.有点类似sql语句中的 count(*). aggregate() 方法 MongoDB中 ...

  2. MongoDB.Driver 管道 Aggregate

    目前mongodb for C#这个驱动,在进行Aggregate时,只支持BsonDocument类型,也就是说,你的集合collection也必须返回的是BsonDocument,而实体类型是不可 ...

  3. MongoDB 聚合管道(Aggregation Pipeline)

    管道概念 POSIX多线程的使用方式中, 有一种很重要的方式-----流水线(亦称为"管道")方式,"数据元素"流串行地被一组线程按顺序执行.它的使用架构可参考 ...

  4. MongoDB聚合管道(Aggregation Pipeline)

    参考聚合管道简介 聚合管道 聚合管道是基于数据处理管道模型的数据聚合框架.文档进入一个拥有多阶段(multi-stage)的管道,并被管道转换成一个聚合结果.最基本的管道阶段提供了跟查询操作类似的过滤 ...

  5. MongoDB基础教程系列--第七篇 MongoDB 聚合管道

    在讲解聚合管道(Aggregation Pipeline)之前,我们先介绍一下 MongoDB 的聚合功能,聚合操作主要用于对数据的批量处理,往往将记录按条件分组以后,然后再进行一系列操作,例如,求最 ...

  6. MongoDB聚合管道

    通过上一篇文章中,认识了MongoDB中四个聚合操作,提供基本功能的count.distinct和group,还有可以提供强大功能的mapReduce. 在MongoDB的2.2版本以后,聚合框架中多 ...

  7. MongoDB数据库 : 管道,用户管理,副本集等

    聚合(aggregate): db.集合.aggregate([{管道:{表达式}}]) db.集合.aggregate([ {管道1:{表达式1}}, {管道2:{表达式2}}, ... ...]) ...

  8. mongodb聚合管道用法

    基本用法 db.collection.aggregate( [ { <stage> }, ... ] ) stage如下 名称 描述 $addFields 将新的字段添加到文档中,输出的文 ...

  9. MongoDB 聚合管道

     参见:http://www.cnblogs.com/liruihuan/p/6686570.html MongoDB 的聚合功能,聚合操作主要用于对数据的批量处理,往往将记录按条件分组以后,然后再进 ...

随机推荐

  1. 解决sdk manager下载非常慢或者下载失败

    有了sdk manager,打开它,想下载一些须要的东西总是会发现非常慢,然后就仅仅好慢慢等待,等待许久之后最后是失败了,这样就会非常麻烦,以下我总结总结,怎样解决这些问题,让你在分分钟下载好这些东西 ...

  2. Java 中的 int 与 Integer 用于 List&lt;Integer&gt; 时,以及通过打印变量检測程序执行和函数调用次数计数

    总结一下近期做的东西中遇到的问题 1. Java 中的 int 与 Integer 用于 List<Integer>  时 两者之间的关系都是非常清楚的.int 是基本数据类型,存储的是值 ...

  3. springboot 启动类CommandLineRunner(转载)

    在Spring boot项目的实际开发中,我们有时需要项目服务启动时加载一些数据或预先完成某些动作.为了解决这样的问题,Spring boot 为我们提供了一个方法:通过实现接口 CommandLin ...

  4. Informatica 常用组件Lookup缓存之五 使用动态查找高速缓存

    对于关系查找,当目标表也是查找表时,可能要配置转换以使用动态高速缓存.PowerCenter 将在处理第一个查找请求时创建高速缓存.它将根据查找条件为传递给转换的每行查询高速缓存.当您使用动态高速缓存 ...

  5. Nginx zabbix 的监控

    Nginx zabbix 的监控 Nginx 配置 Nginx 必须包含:http_stub_status_module 模块 ./nginx -V |grep http_stub_status_mo ...

  6. Python的知识点 plt.plot()函数细节

    1.plt.plot(x,y,format_string,**kwargs) 转自点击打开链接x轴数据,y轴数据,format_string控制曲线的格式字串 format_string 由颜色字符, ...

  7. 图解vue中 v-for 的 :key 的作用,虚拟dom Diff算法

    其实不只是vue,react中在执行列表渲染时也会要求给每个组件添加上key这个属性. 要解释key的作用,不得不先介绍一下虚拟DOM的Diff算法了. 我们知道,vue和react都实现了一套虚拟D ...

  8. 使用ViewDragHelper打造属于自己的DragLayout(抽屉开关 )

    使用ViewDragHelper打造属于自己的DragLayout(抽屉开关 ) DrawLayout这个自己定义的空间非经常见.qq,网易新闻.知乎等等,都有这样的效果,那这样的效果是如何实现的呢? ...

  9. 解决spark中遇到的数据倾斜问题

    一. 数据倾斜的现象 多数task执行速度较快,少数task执行时间非常长,或者等待很长时间后提示你内存不足,执行失败. 二. 数据倾斜的原因 常见于各种shuffle操作,例如reduceByKey ...

  10. [转] SSH免密码登陆以及穿越跳板机

    原文链接:http://www.cnblogs.com/lucantang/p/3315329.html SSH免密码登陆以及穿越跳板机   1. 免密码直连  [user@hostA ~] $ssh ...