node.js中stream流中可读流和可写流的使用
node.js中的流 stream 是处理流式数据的抽象接口。node.js 提供了很多流对象,像http中的request和response,和 process.stdout 都是流的实例。
流可以是 可读的,可写的,或是可读可写的。所有流都是 events 的实例。
一、流的类型
node.js中有四种基本流类型:
1、Writable 可写流 (例:fs.createWriteStream() )
2、Readable 可读流 (例:fs.createReadStream() )
3、Duplex 可读又可写流 (例:net.Socket )
4、Transform 读写过程中可修改或转换数据的 Duplex 流 (例:zlib.createDeflate() )
二、流中的数据有两种模式
1、二进制模式,都是 string字符串 和 Buffer。
2、对象模式,流内部处理的是一系统普通对象。
三、可读流的两种模式
1、流动模式 ( flowing ) ,数据自动从系统底层读取,并通过事件,尽可能快地提供给应用程序。
2、暂停模式 ( paused ),必须显式的调用 read() 读取数据。
可读流 都开始于暂停模式,可以通过如下方法切换到流动模式:
1、添加 'data' 事件回调。
2、调用 resume()。
3、调用 pipe()。
可读流通过如下方法切换回暂停模式:
1、如果没有管道目标,调用 pause()。
2、如果有管道目标,移除所有管道目标,调用 unpipe() 移除多个管道目标。
四、创建可读流,并监听事件
const fs = require('fs'); //创建一个文件可读流
let rs = fs.createReadStream('./1.txt', {
//文件系统标志
flags: 'r',
//数据编码,如果调置了该参数,则读取的数据会自动解析
//如果没调置,则读取的数据会是 Buffer
//也可以通过 rs.setEncoding() 进行设置
encoding: 'utf8',
//文件描述符,默认为null
fd: null,
//文件权限
mode: 0o666,
//文件读取的开始位置
start: 0,
//文件读取的结束位置(包括结束位置)
end: Infinity,
//读取缓冲区的大小,默认64K
highWaterMark: 3
}); //文件被打开时触发
rs.on('open', function () {
console.log('文件打开');
}); //监听data事件,会让当前流切换到流动模式
//当流中将数据传给消费者后触发
//由于我们在上面配置了 highWaterMark 为 3字节,所以下面会打印多次。
rs.on('data', function (data) {
console.log(data);
}); //流中没有数据可供消费者时触发
rs.on('end', function () {
console.log('数据读取完毕');
}); //读取数据出错时触发
rs.on('error', function () {
console.log('读取错误');
}); //当文件被关闭时触发
rs.on('close', function () {
console.log('文件关闭');
});
注意,'open' 和 'close' 事件并不是所有流都会触发。
当们监听'data'事件后,系统会尽可能快的读取出数据。但有时候,我们需要暂停一下流的读取,操作其他事情。
这时候就需要用到 pause() 和 resume() 方法。
const fs = require('fs'); //创建一个文件可读流
let rs = fs.createReadStream('./1.txt', {
highWaterMark: 3
}); rs.on('data', function (data) {
console.log(`读取了 ${data.length} 字节数据 : ${data.toString()}`); //使流动模式的流停止触发'data'事件,切换出流动模式,数据都会保留在内部缓存中。
rs.pause(); //等待3秒后,再恢复触发'data'事件,将流切换回流动模式。
setTimeout(function () {
rs.resume();
}, 3000);
});
可读流的 'readable' 事件,当流中有数据可供读取时就触发。
注意当监听 'readable' 事件后,会导致流停止流动,需调用 read() 方法读取数据。
注意 on('data'),on('readable'),pipe() 不要混合使用,会导致不明确的行为。
const fs = require('fs'); let rs = fs.createReadStream('./1.txt', {
highWaterMark: 1
}); //当流中有数据可供读取时就触发
rs.on('readable', function () {
let data;
//循环读取数据
//参数表示要读取的字节数
//如果可读的数据不足字节数,则返回缓冲区剩余数据
//如是没有指定字节数,则返回缓冲区中所有数据
while (data = rs.read()) {
console.log(`读取到 ${data.length} 字节数据`);
console.log(data.toString());
}
});
五、创建可写流,并监听事件
const fs = require('fs'); //创建一个文件可写流
let ws = fs.createWriteStream('./1.txt', {
highWaterMark: 3
}); //往流中写入数据
//参数一表示要写入的数据
//参数二表示编码方式
//参数三表示写入成功的回调
//缓冲区满时返回false,未满时返回true。
//由于上面我们设置的缓冲区大小为 3字节,所以到写入第3个时,就返回了false。
console.log(ws.write('1', 'utf8'));
console.log(ws.write('2', 'utf8'));
console.log(ws.write('3', 'utf8'));
console.log(ws.write('4', 'utf8')); function writeData() {
let cnt = 9;
return function () {
let flag = true;
while (cnt && flag) {
flag = ws.write(`${cnt}`);
console.log('缓冲区中写入的字节数', ws.writableLength);
cnt--;
}
};
} let wd = writeData();
wd(); //当缓冲区中的数据满的时候,应停止写入数据,
//一旦缓冲区中的数据写入文件了,并清空了,则会触发 'drain' 事件,告诉生产者可以继续写数据了。
ws.on('drain', function () {
console.log('可以继续写数据了');
console.log('缓冲区中写入的字节数', ws.writableLength);
wd();
}); //当流或底层资源关闭时触发
ws.on('close', function () {
console.log('文件被关闭');
}); //当写入数据出错时触发
ws.on('error', function () {
console.log('写入数据错误');
});
写入流的 end() 方法 和 'finish' 事件监听
const fs = require('fs'); //创建一个文件可写流
let ws = fs.createWriteStream('./1.txt', {
highWaterMark: 3
}); //往流中写入数据
//参数一表示要写入的数据
//参数二表示编码方式
//参数三表示写入成功的回调
//缓冲区满时返回false,未满时返回true。
//由于上面我们设置的缓冲区大小为 3字节,所以到写入第3个时,就返回了false。
console.log(ws.write('1', 'utf8'));
console.log(ws.write('2', 'utf8'));
console.log(ws.write('3', 'utf8'));
console.log(ws.write('4', 'utf8')); //调用end()表明已经没有数据要被写入,在关闭流之前再写一块数据。
//如果传入了回调函数,则将作为 'finish' 事件的回调函数
ws.end('最后一点数据', 'utf8'); //调用 end() 且缓冲区数据都已传给底层系统时触发
ws.on('finish', function () {
console.log('写入完成');
});
写入流的 cork() 和 uncork() 方法,主要是为了解决大量小块数据写入时,内部缓冲可能失效,导致的性能下降。
const fs = require('fs'); let ws = fs.createWriteStream('./1.txt', {
highWaterMark: 1
}); //调用 cork() 后,会强制把所有写入的数据缓冲到内存中。
//不会因为写入的数据超过了 highWaterMark 的设置而写入到文件中。
ws.cork();
ws.write('1');
console.log(ws.writableLength);
ws.write('2');
console.log(ws.writableLength);
ws.write('3');
console.log(ws.writableLength); //将调用 cork() 后的缓冲数据都输出到目标,也就是写入文件中。
ws.uncork();
注意 cork() 的调用次数要与 uncork() 一致。
const fs = require('fs'); let ws = fs.createWriteStream('./1.txt', {
highWaterMark: 1
}); //调用一次 cork() 就应该写一次 uncork(),两者要一一对应。
ws.cork();
ws.write('4');
ws.write('5');
ws.cork();
ws.write('6'); process.nextTick(function () {
//注意这里只调用了一次 uncork()
ws.uncork();
//只有调用同样次数的 uncork() 数据才会被输出。
ws.uncork();
});
六、可读流的 pipe() 方法
pipe() 方法类似下面的代码,在可读流与可写流之前架起一座桥梁。
const fs = require('fs'); //创建一个可读流
let rs = fs.createReadStream('./1.txt', {
highWaterMark: 3
}); //创建一个可写流
let ws = fs.createWriteStream('./2.txt', {
highWaterMark: 3
}); rs.on('data', function (data) {
let flag = ws.write(data);
console.log(`往可写流中写入 ${data.length} 字节数据`);
//如果写入缓冲区已满,则暂停可读流的读取
if (!flag) {
rs.pause();
console.log('暂停可读流');
}
}); //监控可读流数据是否读完
rs.on('end', function () {
console.log('数据已读完');
//如果可读流读完了,则调用 end() 表示可写流已写入完成
ws.end();
}); //如果可写流缓冲区已清空,可以再次写入,则重新打开可读流
ws.on('drain', function () {
rs.resume();
console.log('重新开启可读流');
});
我们用 pipe() 方法完成上面的功能。
const fs = require('fs'); //创建一个可读流
let rs = fs.createReadStream('./1.txt', {
highWaterMark: 3
}); //创建一个可写流
let ws = fs.createWriteStream('./2.txt', {
highWaterMark: 3
}); let ws2 = fs.createWriteStream('./3.txt', {
highWaterMark: 3
}); //绑定可写流到可读流,自动将可读流切换到流动模式,将可读流的所有数据推送到可写流。
rs.pipe(ws); //可以绑定多个可写流
rs.pipe(ws2);
我们也可以用 unpipe() 手动的解绑可写流。
const fs = require('fs'); //创建一个可读流
let rs = fs.createReadStream('./1.txt', {
highWaterMark: 3
}); //创建一个可写流
let ws = fs.createWriteStream('./2.txt', {
highWaterMark: 3
}); let ws2 = fs.createWriteStream('./3.txt', {
highWaterMark: 3
}); rs.pipe(ws);
rs.pipe(ws2); //解绑可写流,如果参数没写,则解绑所有管道
setTimeout(function () {
rs.unpipe(ws2);
}, 0);
node.js中stream流中可读流和可写流的使用的更多相关文章
- Node.js:Stream(流)
Stream 是一个抽象接口,Node 中有很多对象实现了这个接口.例如,对http 服务器发起请求的request 对象就是一个 Stream,还有stdout(标准输出). Node.js,Str ...
- 【Node.js】Stream(流)的学习笔记
最近学习使用Node.js创建http proxy server,少不了要跟Stream打交道.昨天开始查阅一些资料,多少有了一些粗浅了解.整理在这里,供学习之用. 从Node.js API文档中可知 ...
- Node.js 【Stream之笔记】
从Node.js API文档中可知, 'A stream is an abstract interface implemented by various objects in Node. For ex ...
- Node.js数据流Stream之Readable流和Writable流
一.前传 Stream在很多语言都会有,当然Node.js也不例外.数据流是可读.可写.或即可读又可写的内存结构.Node.js中主要包括Readable.Writable.Duplex(双工)和Tr ...
- 【node.js】Stream(流)
Stream 有四种流类型: Readable - 可读操作. Writable - 可写操作. Duplex - 可读可写操作. Transform - 操作被写入数据,然后读出结果. 所有的 St ...
- 基于node.js构建微服务中的mock服务
缘起 由于现在微服务越来越火了,越来越多的微服务融入到了日常开发当中.在开发微服务的时候,经常会遇到一个问题由于依赖于其他服务,导致你的进度受到阻碍.使你不得不先mock出你期望调用依赖服务的输出,来 ...
- Node.js程序在node-windows中不能运行
Node.js程序部分功能在命令行中运行良好,但在node-windows中不能运行,怎么回事? 答:路径问题. 请看如下的描述: My script runs fine on it's own, ...
- Node.js使用MySQL数据库中对RowDataPacket对象的使用
使用Node.js开发使用MySQL数据库的网站,在查询后返回一RowDataPacket类型的对象 原先使用toString()方法一直得到仅为object的字符串,无法使用 后思考,才发现忽略了其 ...
- Node.js之判断字符串中是否包含某个字符串
server.txt内容如下: 阿里云服务器 关于应用场景,就不多说了,字符串是不论是后端开发还是前端开发等,都是要经常打交道了. test.js(node.js代码,只要被本地装了node.js环境 ...
- Node.js数据流Stream之Duplex流和Transform流
Duplex流一个很好的例子是TCP套接字连接.需要实现_read(size)和_Write(data,encoding,callback)方法. var stream = require('stre ...
随机推荐
- 记账本NABCD分析
学生记账本NABCD分析 N(Need,需求) 随着我们进入大学开始逐步的扩大自己的消费水平,而我们每天无法准确的记住一笔一笔的消费记录.常常,每一个月末时我们在宿舍楼道听到不少学生抱怨这个月怎么花钱 ...
- 浅谈JS的数组遍历方法
用过Underscore的朋友都知道,它对数组(集合)的遍历有着非常完善的API可以调用的,_.each()就是其中一个.下面就是一个简单的例子: var arr = [1, 2, 3, 4, 5]; ...
- win10 hyper-v 外网设置
1. hyper-v管理器中添加 [虚拟交换机] 2. 为虚拟机添加网络适配器 在[虚拟交换机]中选择新创建的交换机 3. 在本本的[网络连接]中,按下 CTRL 键,然后选择[WLAN]和[vEt ...
- Linux打开文件设置
在某些情况下会要求增加Linux的文件打开数,以增加服务器到处理效率,在Linux下查看最多能打开的文件数量为: cat /proc/sys/fs/file-max 然后设置ulimit -n 文件数 ...
- sqlserver乱码问题解决
* 如果是自己创建的数据库那么就应该在一开始就选择排序规则中的:Chinese_PRC_CI_AS 1.改变排序规则方法: 右击创建的数据库,属性→选项→排序规则中选择:Chinese_PRC_CI_ ...
- Centos7在单用户模式下重置root密码
1.启动Centos7 ,按空格让其停留在如下界面: 鼠标上下可以选择启动内核,默认选择第一个内核开机 2.按e键进入编辑模式 e 按下e键后我们可能无法看到我们需要编辑的区域,这是因为在较新版本的C ...
- [ExcelHome]VLOOKUP的别样用法
请看题: 如上图所示,是某小区多名业主的信息表.如诸君所见,A列是业主的姓名,B列是一些有趣的信息,要求在C列,使用VLOOKUP函数,提取出B列的手机号码. B列的信息真是奇葩,除了手机号码,还有职 ...
- Vue组件间的参数传递
1.父组件与子组件传值 父组件传给子组件:子组件通过props方法接受数据: 子组件传给父组件: $emit 方法传递参数 2.非父子组件间的数据传递,兄弟组件传值 eventBus,就是创建一个事件 ...
- 性能测试day07_性能瓶颈和分析
其实如果之前都做的很到位的话,那么再加上APM工具(dynaTrace等),监控到非常细节,那么我们跑一个业务,我们就能完全清楚的知道每个请求的时间,也能知道请求所产生sql的时间,这样你自然而然都知 ...
- tomcat advanced (RUNNING)
1. 1. tomcat