Unix Pipes

Unix管道扫描稿

简单样例:

$ netstat -apn | grep 8080

相信这个大家经常使用,这里就不细说了。

那么管道基本思想是什么呢?

  • 让每个程序只完成一件事,并将其做好(do one thing and do it well),完成一个新任务,新建一个程序,而不是在旧程序中添加新特性
  • 标准化每个程序的输入和输出,让任意符合标准的程序可以串在一起(write programs to work together)
  • 设计和创造软件,而不是架构或系统

NodeJS Stream

NodeJS中引入流概念来解决I/O异步问题,如果没有Stream,我们可能要这么写代码:

var http = require('http');
var fs = require('fs'); // 著名的回调地狱又来了
var server = http.createServer(function (req, res) {
fs.readFile(__dirname + '/data.txt', function (err, data) {
res.end(data);
});
});
server.listen(8000);

但有了Stream,我们就可以更优雅的编写代码:

var http = require('http');
var fs = require('fs'); var server = http.createServer(function (req, res) {
var stream = fs.createReadStream(__dirname + '/data.txt');
// 把两个管子接起来
stream.pipe(res);
});
server.listen(8000);

想添加一个新功能?要用gzip压缩文件?OK,可以这么写:

var http = require('http');
var fs = require('fs');
var oppressor = require('oppressor'); var server = http.createServer(function (req, res) {
var stream = fs.createReadStream(__dirname + '/data.txt');
// 将三个管子连起来
stream.pipe(oppressor(req)).pipe(res);
});
server.listen(8000);

Back-end to Font-end

随着EventStream、Gulp、Webpack管道在后端的盛行,管道逐渐从后端向前端渗透,如Angular、Vuejs。我们在Q.js、高可扩展数据层组件DB.core中大量使用了管道过滤器(Pipe-And-Filter)模式。

(webpack的核心:管道式插件)

那么前端的管道又是怎样的呢?让我们看看DB.core中的例子。

Pipes in DB.core

DB的设计初衷在于解决CGI拉取的通用性问题,例如:区分正确和错误逻辑、通用错误逻辑处理、登陆态通用处理。但DB却难以复用,因为我们发现每个业务的通用性各不相同,通常我们新起一个业务总是要将DB复制下来后做大量侵入式修改,才能适用于新的业务要求。而在齐齐互动视频中,我们例如管道过滤器模式重构了我们的DB。 具体请参见:https://github.com/miniflycn/db

问题在哪里?
  • Rule of Simplicity: Design for simplicity; add complexity only where you must.
  • Rule of Parsimony: Write a big program only when it is clear by demonstration that nothing else will do.

DB干了太多事情,导致每次干一件事情就要插入各种代码。通过管道过滤器模式,将每件事情拆成独立的过滤器,每个过滤器只做一件事,但将一件事情做到极致。

单一功能原则(Single responsibility principle)规定每个类都应该有一个单一的功能,并且该功能应该由这个类完全封装起来。所有它的(这个类的)服务都应该严密的和该功能平行(功能平行,意味着没有依赖)。

马丁把功能(职责)定义为:“改变的原因”,并且总结出一个类或者模块应该有且只有一个改变的原因。一个具体的例子就是,想象有一个用于编辑和打印报表的模块。这样的一个模块存在两个改变的原因。第一,报表的内容可以改变(编辑)。第二,报表的格式可以改变(打印)。这两方面会的改变因为完全不同的起因而发生:一个是本质的修改,一个是表面的修改。单一功能原则认为这两方面的问题事实上是两个分离的功能,因此他们应该分离在不同的类或者模块里。把有不同的改变原因的事物耦合在一起的设计是糟糕的。

——from wiki

前端常用的管道过滤器模式基本实现
    /**
* _apply
* @param {Array} handles 处理函数列队,每一个是一个管子
* @param {*} data 要处理的数据
* @param {Object} options 可选参数
* @param {Function} cb 处理后回调
*/
_apply: function (handles, data, options, cb) {
var i = 0,
l = handles.length,
res = data;
for (i; i < l; i++) {
res = handles[i].call(this, res, options);
// if handle return false, just break
if (res === false) return;
}
cb(res);
},
db.core完整实现
var $ = require('jquery');

/**
* DB
* @class
* @param {Object} options this is just a $.ajax setting
* @param {Array} options.errHandles
* @param {Array} options.succHandles
* @param {Function} options.succ
* @param {Function} options.err
*/
function DB(options) {
this._init(options);
}
$.extend(DB.prototype, {
_init: function (options) {
this.errHandles = options.errHandles || [];
this.succHandles = options.succHandles || [];
this.errHandles.unshift.apply(this.errHandles, DB.options.errHandles || []);
this.succHandles.unshift.apply(this.succHandles, DB.options.succHandles || []);
options = $.extend({}, DB.options || {}, options);
this.options = options;
},
_wrap: function (options) {
var self = this;
options.success = function (data) {
// you may want to modify this line for judging error or success
data.retcode === 0 ?
self._apply(self.succHandles, data, options, options.succ) :
self._apply(self.errHandles, data, options, options.err);
};
options.error = function (data) {
self._apply(self.errHandles, data, options, options.err);
};
return options;
},
_apply: function (handles, data, options, cb) {
var i = 0,
l = handles.length,
res = data;
for (i; i < l; i++) {
res = handles[i].call(this, res, options);
// if handle return false, just break
if (res === false) return;
}
cb(res);
},
/**
* ajax
* @param {Object} options this is just a $.ajax setting
* @param {Function} options.succ
* @param {Function} options.err
*/
ajax: function (options) {
options = this._wrap($.extend({}, this.options, options));
!options.data &&
(options.data = options.param);
$.ajax(options);
}
});
$.extend(DB, {
httpMethod: function (options) {
var db = new DB(options);
return function (opt) {
db.ajax(opt);
return this;
};
},
extend: jQuery.extend,
// default options
options: {}
}); module.exports = DB;

这样我们就可以把以前的各种业务数据检测,甚至是数据组装都放在succHandles和errHandles进行。这是我们在齐齐项目中使用的一个例子,可以看见,我们把数据组装也放在了DB层进行。

Unix Pipes to Javascript Pipes的更多相关文章

  1. Sqlserver 远程连接的 TCP/IP 和 Named Pipes的区别

    TCP/IP:  TCP/IP是 Internet 上广泛使用的通用协议.它与互连网络中硬件结构和操作系统各异的计算机进行通信.TCP/IP包括路由网络流量的标准,并能够提供高级安全功能.它是目前在商 ...

  2. hadoop下的Pipes(用C++进行hadoop程序开发)

    说明:这篇博客来自我的CSDN博客:http://blog.csdn.net/lxxgreat/article/details/7755369 经过一上午的努力,终于以伪分布式模式运行了C++版的Ma ...

  3. 搭建及修正Hadoop1.2.1 MapReduce Pipes C++开发环境

    Hadoop目前人气超旺,返璞归真的KV理念让人们再一次换一个角度来冷静思考一些问题. 但随着近些年来写C/C++的人越来越少,网上和官方WIKI的教程直接落地的成功率却不高,多少会碰到这样那样的问题 ...

  4. Haskell语言学习笔记(83)Pipes

    安装 pipes $ cabal install pipes Installed pipes-4.3.9 Prelude> import Pipes Prelude Pipes> impo ...

  5. 在Hadoop 2.3上运行C++程序各种疑难杂症(Hadoop Pipes选择、错误集锦、Hadoop2.3编译等)

    首记 感觉Hadoop是一个坑,打着大数据最佳解决方案的旗帜到处坑害良民.记得以前看过一篇文章,说1TB以下的数据就不要用Hadoop了,体现不 出太大的优势,有时候反而会成为累赘.因此Hadoop的 ...

  6. 【计算几何】【二分图判定】Gym - 101485C - Cleaning Pipes

    题意:有n个水井,每个水井发出一些管线(都是线段),然后每条管线上最多只有一个水井.所有从不同的水井发出的管线的相交点都是清洁点(不存在清洁点是大于两条管线点的交点).你需要在某些管线上放出一些机器人 ...

  7. js 取得 Unix时间戳(Unix timestamp)

    js 取得 Unix时间戳 Unix时间戳(Unix timestamp),或称Unix时间(Unix time).POSIX时间(POSIX time),是一种时间表示方式,定义为从格林威治时间19 ...

  8. 时间:UTC时间、GMT时间、本地时间、Unix时间戳

    转自:http://blog.csdn.net/u012102306/article/details/51538574 1.UTC时间 与 GMT时间 我们可以认为格林威治时间就是时间协调时间(GMT ...

  9. 简述unix时间戳

    unix时间戳是从1970年1月1日(UTC/GMT的午夜)开始所经过的秒数,不考虑闰秒. Unix时间戳(英文为Unix epoch, Unix time, POSIX time 或 Unix ti ...

随机推荐

  1. 中国排名前100的IT公司 (转)

    排序 单位名称 软件收入 1 华为技术有限公司 622360  2 中兴通讯股份有限公司 601331  3 海信集团有限公司 448641  4 UT斯达康通讯有限公司 386763  5 海尔集团 ...

  2. log4net Tutorial

    Introduction One of the greatest logging tools out there for .NET is log4net. This software is the g ...

  3. linux tcp协议状态机

    截图来自百度文库 TCP状态-有限状态机

  4. day7----面向对象编程进阶

    本节内容: 面向对象高级语法部分 静态方法.类方法.属性方法 类的特殊方法 反射 异常处理 Socket开发基础 静态方法 它与类唯一的关联就是需要通过类名来调用这个方法 #静态方法实际跟类没关系,不 ...

  5. bzoj 1977

    题意:求严格的次小生成树.点n<=100000,m<=300000 思路:很容易想到先做一边最小生成树,然后枚举每条非树边(u, v, w),然后其实就是把u,v路径上小于w的最大边替换成 ...

  6. 个性二维码开源专题<后背景>

    //设置图片资源 private Image img1; public override void SetParam() { base.SetParam(); //读取图片 string _image ...

  7. ARCGIS FOR JAVASCRIPT API 出现multipleDefine问题

    问题: Error {src: "dojoLoader", info: Object, stack: (...), message: "multipleDefine&qu ...

  8. 在Debian下编译Postgresql

    今天起床看到床头上的那本<PostgreSQL数据库内核分析>,发觉这书买了这么长时间,虽然大致看了一遍,可还没亲手实践.今天就花了点时间搭了个调试环境. 环境:Debian 7.0 ## ...

  9. SQL Server 2014 安装小记

    一.写在前面 由于想体验下微软的Windows Azure在SQL Server数据库方面的使用,笔者花了点时间安装了一下SQL Server 2014,安装很简单,基本就是稍微做些配置即可,笔者在此 ...

  10. JavaScript toFixed function Not Rouding

    JavaScript库函数toFixed用来将给定的数字四舍五入为指定的小数位数,W3school上有详细的介绍.众所周知,在处理小数位四舍五入的时候存在两种方式:一种是逢五进一,如5.885保留两位 ...