纯异步nodejs文件夹(目录)复制
思路:
1、callback 驱动
2、递归所有需要复制文件
3、在一定阀值下并发复制文件
4、运行需要安装 async.js npm install async
代码如下:
- var async = require("async");
- var fs = require("fs");
- var path = require("path");
- // cursively make dir
- function mkdirs(p, mode, f, made) {
- if (typeof mode === 'function' || mode === undefined) {
- f = mode;
- mode = 0777 & (~process.umask());
- }
- if (!made)
- made = null;
- var cb = f || function () {};
- if (typeof mode === 'string')
- mode = parseInt(mode, 8);
- p = path.resolve(p);
- fs.mkdir(p, mode, function (er) {
- if (!er) {
- made = made || p;
- return cb(null, made);
- }
- switch (er.code) {
- case 'ENOENT':
- mkdirs(path.dirname(p), mode, function (er, made) {
- if (er) {
- cb(er, made);
- } else {
- mkdirs(p, mode, cb, made);
- }
- });
- break;
- // In the case of any other error, just see if there's a dir
- // there already. If so, then hooray! If not, then something
- // is borked.
- default:
- fs.stat(p, function (er2, stat) {
- // if the stat fails, then that's super weird.
- // let the original error be the failure reason.
- if (er2 || !stat.isDirectory()) {
- cb(er, made);
- } else {
- cb(null, made)
- };
- });
- break;
- }
- });
- }
- // single file copy
- function copyFile(file, toDir, cb) {
- async.waterfall([
- function (callback) {
- fs.exists(toDir, function (exists) {
- if (exists) {
- callback(null, false);
- } else {
- callback(null, true);
- }
- });
- }, function (need, callback) {
- if (need) {
- mkdirs(path.dirname(toDir), callback);
- } else {
- callback(null, true);
- }
- }, function (p, callback) {
- var reads = fs.createReadStream(file);
- var writes = fs.createWriteStream(path.join(path.dirname(toDir), path.basename(file)));
- reads.pipe(writes);
- //don't forget close the when all the data are read
- reads.on("end", function () {
- writes.end();
- callback(null);
- });
- reads.on("error", function (err) {
- console.log("error occur in reads");
- callback(true, err);
- });
- }
- ], cb);
- }
- // cursively count the files that need to be copied
- function _ccoutTask(from, to, cbw) {
- async.waterfall([
- function (callback) {
- fs.stat(from, callback);
- },
- function (stats, callback) {
- if (stats.isFile()) {
- cbw.addFile(from, to);
- callback(null, []);
- } else if (stats.isDirectory()) {
- fs.readdir(from, callback);
- }
- },
- function (files, callback) {
- if (files.length) {
- for (var i = 0; i < files.length; i++) {
- _ccoutTask(path.join(from, files[i]), path.join(to, files[i]), cbw.increase());
- }
- }
- callback(null);
- }
- ], cbw);
- }
- // wrap the callback before counting
- function ccoutTask(from, to, cb) {
- var files = [];
- var count = 1;
- function wrapper(err) {
- count--;
- if (err || count <= 0) {
- cb(err, files)
- }
- }
- wrapper.increase = function () {
- count++;
- return wrapper;
- }
- wrapper.addFile = function (file, dir) {
- files.push({
- file : file,
- dir : dir
- });
- }
- _ccoutTask(from, to, wrapper);
- }
- function copyDir(from, to, cb) {
- if(!cb){
- cb=function(){};
- }
- async.waterfall([
- function (callback) {
- fs.exists(from, function (exists) {
- if (exists) {
- callback(null, true);
- } else {
- console.log(from + " not exists");
- callback(true);
- }
- });
- },
- function (exists, callback) {
- fs.stat(from, callback);
- },
- function (stats, callback) {
- if (stats.isFile()) {
- // one file copy
- copyFile(from, to, function (err) {
- if (err) {
- // break the waterfall
- callback(true);
- } else {
- callback(null, []);
- }
- });
- } else if (stats.isDirectory()) {
- ccoutTask(from, to, callback);
- }
- },
- function (files, callback) {
- // prevent reaching to max file open limit
- async.mapLimit(files, 10, function (f, cb) {
- copyFile(f.file, f.dir, cb);
- }, callback);
- }
- ], cb);
- }
- var start = new Date().getTime();
- copyDir("F:\\gear", "F:\\gear2", function (err) {
- if (err) {
- console.log("error ocur");
- console.dir(err);
- } else {
- console.log("copy ok");
- console.log("consume time:" + (new Date().getTime() - start))
- }
- });
纯异步nodejs文件夹(目录)复制的更多相关文章
- 工具:从一个文件夹中复制jar到另一个文件夹中
工具类:从一个文件夹中复制jar到另一个文件夹中 需要的小伙伴可以试一试,很爽哦,有时候真的很需要! 需求:当我们拿到一个maven项目时,而maven项目的jar包都是通过pom.xml文件管理的, ...
- 【转载】ASP.NET工具类:文件夹目录Directory操作工具类
在ASP.NET开发网站的过程中,有时候会涉及到文件夹相关操作,如判断文件夹目录是否存在.删除文件夹目录.创建文件.删除文件.复制文件夹等等.这一批有关文件目录的操作可以通过Directory类.Fi ...
- A1制作文件夹目录
第一步 在文件夹目录下建立bat文件,填写以下内容: dir *.* /B >目录.txt 最后双击bat文件. 第二步 运行后复制目录.txt文件内容到空白excel 使用hyperlink函 ...
- Node.js 文件夹目录结构创建
第一次接触NodeJS的文件系统就被它的异步的响应给搞晕了,后来发现NodeJS判断文件夹是否存在和创建文件夹是还有同步方法的,但是还是想尝试使用异步的方法去实现. 使用的方法:fs.exists(p ...
- Java修炼——文件夹的复制
文件夹的复制用到了俩个流:缓冲流和文件字节流 缓冲流用来加快写入和读取速度. 在这里我简述一下复制文件夹的过程,当然复制文件夹都可以,复制文件更是不在话下 1.首先要明确俩点.要复制的文件夹的位置(源 ...
- linux系统下修改文件夹目录权限
linux系统下修改文件夹目录权限 文件夹权限问题 Linux.Fedora.Ubuntu修改文件.文件夹权限的方法差不多.很多人开始接触Linux时都很头痛Linux的文件权限问题.这里告诉大家如何 ...
- linux下跨服务器文件文件夹的复制
文件的复制:scp –P (端口号) ./authorized_keys berchina@hadoop002:/home/berchina 文件夹的复制:scp -r -P (端口号) /home/ ...
- 【转载】C#递归删除文件夹目录及文件
在C#文件操作过程中,有时候需要删除相应目录,如果文件夹中含有其他文件夹或者文件,也需要一并进行删除,此时可能就需要使用递归来删除文件夹目录以及文件,递归过程中,如果遍历的对象是文件夹,则删除文件夹, ...
- C# -- 使用递归列出文件夹目录及目录下的文件
使用递归列出文件夹目录及目录的下文件 1.使用递归列出文件夹目录及目录下文件,并将文件目录结构在TreeView控件中显示出来. 新建一个WinForm应用程序,放置一个TreeView控件: 代码实 ...
随机推荐
- Openstack+Kubernetes+Docker微服务实践
Openstack+Kubernetes+Docker微服务实践 ..... Openstack+Kubernetes+Docker微服务实践之路--选型 posted @ 2016-11-15 ...
- silverlight,WPF动画终极攻略之番外 3D切换导航篇(Blend 4开发)
原文:silverlight,WPF动画终极攻略之番外 3D切换导航篇(Blend 4开发) 这篇介绍的是3D导航,点击图标,页面360°翻转的效果!有什么不足的欢迎大家指出来. 1.新建一个user ...
- ASP.NET Core Razor 标签助手 - ASP.NET Core 基础教程 - 简单教程,简单编程
原文:ASP.NET Core Razor 标签助手 - ASP.NET Core 基础教程 - 简单教程,简单编程 ASP.NET Core Razor 标签助手 上一章节我们介绍了视图导入,学习了 ...
- RTB业务知识2-Open-RTB全景
一个.前言 openrtb这是一套开源的竞价广告系统,来自IAB贡献,井. 有许多值太借鉴,提供sdk api接口文档介绍,整理了相关的资料.主要包含其生态图体系.业务流程和基本的对象模型和数据模型. ...
- NS2网络模拟(1)-延迟
1: #NS2_有线部分\EndDelay.awk 2: 3: BEGIN { 4: #Initialize the variable 5: MaxID = 0; 6: i = 0; 7: } 8: ...
- DNS查询工具:host、nslookup、dig
作者:zhanhailiang 日期:2014-11-01 1. host host提供域名到IP地址的双向解析: host默认通过/etc/resolv.conf读取Name Server来解析,除 ...
- otrs离线部署
OTRS5离线部署 参考地址:https://doc.otrs.org.cn/doc/manual/admin/stable/zh_CN/html/manual-installation-of-otr ...
- TemplatePart用法说明
原文:TemplatePart用法说明 TemplatePart(Name="PART_Decrease", Type=typeof(RepeatButton)) 一直没明白这是干 ...
- 【Linux知识】server性能测试--UnixBench
链接地址: http://blog.csdn.net/jason_asia/article/details/38309079 1.1. server性能测试UnixBench 分别DELL R72 ...
- WPF学习笔记:(二)数据绑定模式与INotifyPropertyChanged接口
数据绑定模式共有四种:OneTime.OneWay.OneWayToSource和TwoWay,默认是TwoWay.一般来说,完成数据绑定要有三个要点:目标属性是依赖属性.绑定设置和实现了INotif ...