Node.js 指南(迁移到安全的Buffer构造函数)
迁移到安全的Buffer构造函数
移植到Buffer.from()/Buffer.alloc() API.
概述
本指南介绍了如何迁移到安全的Buffer构造函数方法,迁移修复了以下弃用警告:
由于安全性和可用性问题,不建议使用
Buffer()和new Buffer()构造函数,请改用new Buffer.alloc()、Buffer.allocUnsafe()或Buffer.from()构造方法。
- 变式1:放弃对Node.js ≤4.4.x和5.0.0 - 5.9.x的支持(推荐)。
- 变式2:使用polyfill。
- 变式3:手动检测,带有安全措施。
使用grep查找有问题的代码位
只需运行grep -nrE '[^a-zA-Z](Slow)?Buffer\s*\(' --exclude-dir node_modules。
它会在你自己的代码中找到所有可能不安全的地方(有一些不太常见的例外)。
使用Node.js 8查找有问题的代码位
如果你使用的是Node.js ≥ 8.0.0(推荐使用),Node.js会公开多个选项,以帮助你找到相关的代码片段:
--trace-warnings将使Node.js显示此警告的堆栈跟踪以及Node.js打印的其他警告。--trace-deprecation执行相同的操作,但仅适用于弃用警告。--pending-deprecation将显示更多类型的弃用警告,特别是,它也会显示Buffer()弃用警告,即使在Node.js 8上。
你可以使用环境变量设置这些标志:
$ export NODE_OPTIONS='--trace-warnings --pending-deprecation'
$ cat example.js
'use strict';
const foo = new Buffer('foo');
$ node example.js
(node:7147) [DEP0005] DeprecationWarning: The Buffer() and new Buffer() constructors are not recommended for use due to security and usability concerns. Please use the new Buffer.alloc(), Buffer.allocUnsafe(), or Buffer.from() construction methods instead.
at showFlaggedDeprecation (buffer.js:127:13)
at new Buffer (buffer.js:148:3)
at Object.<anonymous> (/path/to/example.js:2:13)
[... more stack trace lines ...]
使用linters查找有问题的代码位
ESLint规则no-buffer-constructor或node/no-deprecated-api也查找对不推荐使用的Buffer() API的调用,这些规则包含在一些预设中。
但是有一个缺点,当Buffer被重写时,它并不总是正确工作,例如使用polyfill,因此建议将此与上述其他方法结合使用。
变式1:放弃对Node.js ≤4.4.x和5.0.0 - 5.9.x的支持
这是目前推荐的解决方案,仅意味着最小的开销。
自2016年7月以来,Node.js 5.x版本系列一直未得到支持,并且Node.js 4.x版本系列在2018年4月达到其生命周期结束(→计划)。
这意味着即使出现安全问题,这些版本的Node.js也不会收到任何更新,因此如果可能的话,应该避免使用这些版本线。
在这种情况下,你要做的是将所有new Buffer()或Buffer()调用转换为使用Buffer.alloc()或Buffer.from(),方法如下:
对于
new Buffer(number),将其替换为Buffer.alloc(number)。- 对于
new Buffer(string)(或new Buffer(string, encoding)),将其替换为Buffer.from(string)(或Buffer.from(string, encoding))。 - 对于所有其他参数组合(这些更为罕见),还要用
Buffer.from(...arguments)替换new Buffer(...arguments)。
- 对于
请注意,Buffer.alloc()在当前Node.js版本上的速度也比new Buffer(size).fill(0)快,这是你需要确保零填充的原因。
建议启用ESLint规则no-buffer-constructor或node/no-deprecated-api以避免意外的不安全Buffer API使用。
还有一个JSCodeshift codemod,用于自动将Buffer构造函数迁移到Buffer.alloc()或Buffer.from(),请注意,它目前仅适用于参数为文字或使用两个参数调用构造函数的情况。
如果你当前支持那些较旧的Node.js版本并且无法删除对它们的支持,或者如果你支持包的旧分支,考虑在较旧的分支上使用变式2或变式3,因此使用这些旧分支的人也将收到修复。这样,你将消除由不谨慎的Buffer API使用引起的潜在问题,并且在Node.js 10上运行代码时,你的用户将不会观察到运行时弃用警告。
变式2:使用polyfill
有三种不同的polyfill可用:
- safer-buffer是整个
BufferAPI的替代品,在使用new Buffer()时会抛出。你将采用与变式1完全相同的步骤,但是在使用新的
BufferAPI的所有文件中都使用polyfillconst Buffer = require('safer-buffer').Buffer。
不要使用旧的new Buffer()API,在添加上面一行的任何文件中,使用旧的new Buffer()API将抛出。 - buffer-from和/或buffer-alloc是
BufferAPI各自部分的ponyfill,你只需添加与你正在使用的API相对应的包。你可以使用适当的名称导入所需的模块,例如
const bufferFrom = require('buffer-from')然后使用它而不是调用new Buffer(),例如:new Buffer('test')变为bufferFrom('test')。使用这种方法的一个缺点是从它们迁移出来的代码更改略多(因为你将使用不同名称下的
Buffer.from())。 - safe-buffer也是整个
BufferAPI的替代品,但使用new Buffer()仍然可以像以前一样工作。这种方法的缺点是它允许你在代码中使用较旧的
new Buffer()API,这是有问题的,因为它可能会导致代码中出现问题,并将从Node.js 10开始发出运行时弃用警告(在此处阅读更多内容)。
请注意,在任何一种情况下,你还必须手动删除对旧Buffer API的所有调用,只是投入safe-buffer本身并不能解决问题,它只是为新API提供了一个polyfill,我看到有人犯了这个错误。
建议启用ESLint规则no-buffer-constructor或node/no-deprecated-api。
放弃对Node.js <4.5.0的支持后,不要忘记删除polyfill使用。
变式3 - 手动检测,带有安全措施
如果你只在几个地方(例如一个)创建Buffer实例,或者你有自己的包装器,这将非常有用。
Buffer(0)
这个用于创建空缓冲区的特殊情况可以安全地替换为Buffer.concat([]),它返回相同的结果一直到Node.js 0.8.x。
Buffer(notNumber)
之前:
const buf = new Buffer(notNumber, encoding);
以后:
let buf;
if (Buffer.from && Buffer.from !== Uint8Array.from) {
buf = Buffer.from(notNumber, encoding);
} else {
if (typeof notNumber === 'number') {
throw new Error('The "size" argument must be not of type number.');
}
buf = new Buffer(notNumber, encoding);
}
encoding是可选的。
请注意,typeof notNumber必须在new Buffer()之前,(对于notNumber参数未进行硬编码的情况)并且不是由Buffer构造函数的弃用引起的 - 这正是不推荐使用Buffer构造函数的原因。缺乏此类型检查的生态系统包导致了许多安全问题 - 当未经过处理的用户输入可能最终出现在Buffer(arg)中时,会出现从DoS到从进程内存向攻击者泄漏敏感信息等问题。
当notNumber参数被硬编码时(例如文字"abc"或[0,1,2]),可以省略typeof检查。
另请注意,使用TypeScript不能解决此问题 - 当从JS中使用用TypeScript编写的库时,或者当用户输入结束时 - 它的行为与纯JS一样,因为所有类型检查只是转换时间,并且不存在于TS编译的实际JS代码中。
Buffer(number)
对于Node.js 0.10.x(及以下)支持:
var buf;
if (Buffer.alloc) {
buf = Buffer.alloc(number);
} else {
buf = new Buffer(number);
buf.fill(0);
}
否则(Node.js ≥ 0.12.x):
const buf = Buffer.alloc ? Buffer.alloc(number) : new Buffer(number).fill(0);
关于Buffer.allocUnsafe()
使用Buffer.allocUnsafe()时要格外小心:
如果你没有充分的理由,请不要使用它。
- 例如你可能永远不会看到小缓冲区的性能差异,事实上,使用
Buffer.alloc()可能会更快。 - 如果你的代码不在热代码路径中 - 你也可能不会注意到差异。
- 请记住,零填充可以最大限度地降低潜在风险。
- 例如你可能永远不会看到小缓冲区的性能差异,事实上,使用
如果使用它,请确保永远不会以部分填充状态返回buffer。
- 如果你按顺序写它 - 总是将它截断为实际的书写长度。
处理使用Buffer.allocUnsafe()分配的缓冲区中的错误可能会导致各种问题,包括代码的未定义行为,以及泄露给远程攻击者的敏感数据(用户输入、密码、证书)。
请注意,这同样适用于没有零填充的new Buffer()用法,具体取决于Node.js版本(缺少类型检查也会将DoS添加到潜在问题列表中)。
常问问题
Buffer构造函数有什么问题?
Buffer构造函数可用于以多种不同方式创建缓冲区:
new Buffer(42)创建一个42字节的Buffer,在Node.js 8之前,由于性能原因,此缓冲区包含任意内存,其中可能包括从程序源代码到密码和加密密钥的任何内容。new Buffer('abc')创建一个Buffer,其中包含字符串'abc'的UTF-8编码版本,第二个参数可以指定另一个编码:例如,可以使用new Buffer(string, 'base64')将Base64字符串转换为它所代表的原始字节序列。- 还有其他几种参数组合。
这意味着在像var buffer = new Buffer(foo);这样的代码中,在不知道foo类型的情况下,无法确定生成的缓冲区的确切内容。
有时,foo的值来自外部来源,例如,此函数可以作为Web服务器上的服务公开,将UTF-8字符串转换为其Base64格式:
function stringToBase64(req, res) {
// The request body should have the format of `{ string: 'foobar' }`.
const rawBytes = new Buffer(req.body.string);
const encoded = rawBytes.toString('base64');
res.end({ encoded });
}
请注意,此代码不验证req.body.string的类型:
req.body.string应该是一个字符串,如果是这种情况,一切顺利。req.body.string由发送请求的客户端控制。如果
req.body.string是数字50,则rawBytes将是50个字节:- 在Node.js 8之前,内容将是未初始化的。
- 在Node.js 8之后,内容将是
50个字节,值为0。
由于缺少类型检查,攻击者可以故意发送一个号码作为请求的一部分,使用它,他们可以:
- 读取未初始化的内存,这将泄露密码、加密密钥和其他类型的敏感信息(信息泄露)。
- 强制程序分配大量内存,例如,当指定
500000000作为输入值时,每个请求将分配500MB的内存,这可以用来完全耗尽程序可用的内存并使其崩溃,或者显着减慢程序速度(拒绝服务)。
在现实世界的Web服务器环境中,这两种情况都被认为是严重的安全问题。
当使用Buffer.from(req.body.string)时,传递一个数字将总是抛出一个异常,提供可由程序始终处理的受控行为。
Buffer()构造函数已被弃用了一段时间,这真的是一个问题吗?
npm生态系统中的代码调查表明,Buffer()构造函数仍然被广泛使用,这包括新代码,并且此类代码的总体使用实际上已经增加。
上一篇:Docker化Node.js Web应用程序
原文地址:https://segmentfault.com/a/1190000016989236
Node.js 指南(迁移到安全的Buffer构造函数)的更多相关文章
- 《深入浅出Node.js》第6章 理解 Buffer
@by Ruth92(转载请注明出处) 第6章 理解 Buffer ✁ 为什么需要 Buffer? 在 Node 中,应用需要处理网络协议.操作数据库.处理图片.接收上传文件等,在网络流和文件的操作中 ...
- 完全面向于初学者的Node.js指南
新的上班时间是周二至周六,工作之余当然要坚持学习啦. 希望这篇文章能解决你这样一个问题:“我现在已经下载好Node.Js了,该做些什么呢?” 原文URL:http://blog.modulus.io/ ...
- node.js官方文档解析 02—buffer 缓冲器
Buffer 类的实例类似于整数数组,但 Buffer 的大小是固定的.且在 V8 堆外分配物理内存.Buffer 的大小在被创建时确定,且无法调整. Buffer 类在 Node.js 中是一个全局 ...
- Node.js处理I/O数据之Buffer模块缓冲数据
一.前传 在之前做web时也经常用到js对象转json和json转js对象.既然是Node.js处理I/O数据,也把这个记下来. Json转Js对象:JSON.parse(jsonstr); //可以 ...
- 【转】使用VS开发 Node.js指南
参考:https://www.visualstudio.com/features/node-js-vs 这篇文章主要介绍了使用VS开发 Node.js的方法,主要是使用NTVS(Node.js Too ...
- Node.js实战7:你了解buffer吗?
Buffer是NodeJS的重要数据类型,很有广泛的应用. Buffer是代表原始堆的分配额的数据类型.在NodeJS中以类数组的方式使用. 比如,用法示例: var buf = new Buffer ...
- Node.js小白开路(一)-- Buffer篇
Buffer是nodeJS中的二进制缓存操作模块内容.先来看一段简短的代码. // 创建一个长度为 10.且用 0 填充的 Buffer. const buf1 = Buffer.alloc(10); ...
- 11慕课网《进击Node.js基础(一)》Buffer和Stream
Buffer 用来保存原始数据 (logo.png) 以下代码读取logo.png为buffer类型 然后将buffer转化为string,新建png 可以将字符串配置: data:image/png ...
- Node.js学习 - Buffer
JavaScript 语言自身只有字符串数据类型,没有二进制数据类型.但在处理像TCP流或文件流时,必须使用到二进制数据. 因此在 Node.js中,定义了一个 Buffer 类,该类用来创建一个专门 ...
随机推荐
- django rest-farme-work 的使用(1)
Django REST框架是一个用于构建Web API的强大且灵活的工具包 您可能想要使用REST框架的一些原因: 可浏览性 身份认证 支持ORM和非ORM的序列化 良好的文档支持 安装初步 pip ...
- base64格式文件下载方法
下载图片时,接口返回的地址是base64格式的文件数据,因为页面需要把base64格式的数据转换为文件,再进行下载: 解决方案: 下载按钮: <el-button type="defa ...
- C#实现简单的串口通信
前言 本着学习研究的态度,用c#语言实现简单的串口通信工具. 一.串口通信原理 串口通信 串口通信(Serial Communications)的概念非常简单,串口按位(bit)发送和接收字节.尽管比 ...
- PHP学习总结(9)——PHP入门篇之WAMPServer服务控制面板介绍
及MySQL数据库的整合软件包.免去了开发人员将时间花费在繁琐的配置环境过程,从而腾出更多精力去做开发.在windows下将Apache+PHP+Mysql 集成环境,拥有简单的图形和菜单安装和配置环 ...
- 监控Weblogic计数器
- mac 隐藏文件显示
显示:defaults write com.apple.finder AppleShowAllFiles -bool true隐藏:defaults write com.apple.finder Ap ...
- apache 与 nginx 详解
Apache与Nginx的优缺点比较 1.nginx相对于apache的优点: 轻量级,同样起web 服务,比apache 占用更少的内存及资源 抗并发,nginx 处理请求是异步非阻塞的,而apac ...
- [Angular] Service Worker Version Management
If our PWA application has a new version including some fixes and new features. By default, when you ...
- [Angular] Upgrade existing Angular app to Progressive Web App
If you alread have an existing Angular application and want to upgrade to progressive web app. 1. In ...
- 使用 python 读写中文json
读写中文json ) 输出中文的json. 通过使用 ensure_ascii=False,输出原有的语言文字.indent參数是缩进数量. 更改写文件格式 将上一步导出的 string 直接写文 ...