1、上传大文件的方式

上传大文件就需要一段一段的上传,主要是先在客户端获取文件的大小,例如想一次传256kb,那就按照256kb分割。分割后又两种上传方式。

(1)逐个数据段读取,然后调用API上传,把数据追加到文件上。上传完这一段,接着传下一段,直到上传完毕。

(2)方式与(1)类似,只是可以好几段可以并行上传,上传后,会把每段按照索引命名,在服务器上保存成临时文件。判断都上传完毕后,再调用合并命令,把这些小的碎文件,合并成大的目标文件。

我一般喜欢用第一种方式,主要是因为简单明了。缺点就是,因为必须等上一段完成后,再传下一段,所以无法并行上传,导致速度会受到影响。

但我参与的项目基本上都是在局域网运行并且使用人数有限,所以这种传大文件的方式是可以满足系统要求。

2、上传大文件API实现

下面的实现用到了定义的AttachedFileEntity和HttpClientEx,这两个类的定义可参考 005 Controller上传小文件

分三步,开始上传、循环上传二进制段、结束上传。

开始上传API的目的是为了获取文件在服务器上的存储路径,代码如下。

/// <summary>
/// 开始大上传文件
/// </summary>
/// <returns></returns>
[HttpPost]
[Route("StartUploadBigFile")]
public IActionResult StartUploadBigFile(AttachedFileEntity pEntity, string pFileEx)
{
string myServerFilePath = DateTime.Now.ToString("yyyy_MM_dd") + "\\" + Guid.NewGuid().ToString() + pFileEx;
pEntity.ServerPath = myServerFilePath;
return this.Ok(pEntity);
}

分段上传文件,接收到后,追加到现有的文件上。

/// <summary>
/// 上传大文件
/// </summary>
/// <param name="pServerPath"></param>
/// <returns></returns>
[HttpPost]
[Route("UploadBigFile")]
[DisableRequestSizeLimit]
public IActionResult UploadBigFile(string pServerPath)
{
var myFile = Request.Form.Files[0]; //创建目录
string myFullServerPath = AppDomain.CurrentDomain.BaseDirectory + "\\Files\\" + pServerPath;
string myFullFolder = Path.GetDirectoryName(myFullServerPath)!;
if (Directory.Exists(myFullFolder) == false)
{
Directory.CreateDirectory(myFullFolder);
} //写入文件
Stream? myStream = null;
FileStream? myFileStream = null;
BinaryWriter? myBinaryWriter = null;
try
{
myStream = myFile.OpenReadStream();
byte[] myBytes = new byte[myStream.Length];
myStream.Read(myBytes, 0, myBytes.Length);
myStream.Seek(0, SeekOrigin.Begin); myFileStream = new FileStream(myFullServerPath, FileMode.Append);
myBinaryWriter = new BinaryWriter(myFileStream);
myBinaryWriter.Write(myBytes);
}
catch (Exception ex)
{
return this.BadRequest("上传大文件失败," + ex.Message);
}
finally
{
myBinaryWriter?.Close();
myFileStream?.Close();
myStream?.Close();
} return this.Ok();
}

最后,结束上传,把文件的信息记录到数据库中。

/// <summary>
/// 结束上传大文件
/// </summary>
/// <returns></returns>
[HttpPost]
[Route("FinishUploadBigFile")]
public IActionResult FinishUploadBigFile(AttachedFileEntity pEntity)
{
if (string.IsNullOrEmpty(pEntity.GUID))
{
pEntity.GUID = Guid.NewGuid().ToString();
}
//记录到数据库中
//代码略
return this.Ok(pEntity);
}

3、客户端调用

客户端如果用的C#,代码中没有加入进度信息,进度信息可以传入一个ProcessInfo对象,传一段数据后,就更新下进度信息。

调用的代码入下所示。

private void Init_BigFileUpLoad_UIs()
{
this.UI_BigFile_Button.Click += (x, y) =>
{
var myOpenFileDialog = new OpenFileDialog
{
Filter = ".*|*.*"
};
var myIsOK = myOpenFileDialog.ShowDialog();
if (myIsOK != true)
{
return;
}
this.UI_BigFile_TextBox.Text = myOpenFileDialog.FileName;
}; this.UI_BigFileUpLoad_Button.Click += async (x, y) =>
{
var myFilePath = this.UI_BigFile_TextBox.Text.Trim();
if (myFilePath.Length == 0)
{
MessageBox.Show("请选择一个文件。");
return;
}
if (File.Exists(myFilePath) == false)
{
MessageBox.Show("文件不存在,请重新选择。");
return;
} //定义AttachedFileEntity
var myFileEntity = new AttachedFileEntity()
{
GUID = Guid.NewGuid().ToString(),
Name = "用户头像",
KeyWord = "UserProfilePhoto",
Description = "",
EntityGUID = "AAAA"
}; //打开上传的文件
var myFileStream = new FileStream(myFilePath, FileMode.Open);
myFileEntity.FileSize = (int)myFileStream.Length;
var myFileName = Path.GetFileName(myFilePath); //每次上传256kb
int myChunkSize = 1024 * 256;
int myChunkCount = (int)Math.Ceiling(myFileStream.Length / (double)myChunkSize); //调用开始上传
var myHttpClient = new HttpClient();
var myHttpClientEx = new HttpClientEx(myHttpClient)
{
Url = "http://localhost:5000/api/AttachedFile/StartUploadBigFile",
HttpContent = JsonContent.Create(myFileEntity)
};
myHttpClientEx.ParameterDictionary.Add("pFileEx", Path.GetExtension(myFileName));
await myHttpClientEx.PostAsync();
if (myHttpClientEx.IsSuccess == false)
{
myFileStream.Close();
MessageBox.Show("上传文件失败," + myHttpClientEx.ResponseContenString);
return;
}
myFileEntity = myHttpClientEx.GetResponseObject<AttachedFileEntity>();
if (myFileEntity == null)
{
myFileStream.Close();
MessageBox.Show("上传文件失败,返回的AttachedFileEntity为null。");
return;
} //循环上传文件
for (int i = 0; i < myChunkCount; i++)
{
//组织数据
int myByteArraySize = myChunkSize;
if (i == myChunkCount - 1)
{
myByteArraySize = (int)(myFileStream.Length % myChunkSize);
}
byte[] myBytes = new byte[myByteArraySize];
myFileStream.Position = myChunkSize * i;
myFileStream.Read(myBytes, 0, myBytes.Length);
var myMemoryStream = new MemoryStream(myBytes); //请求服务
myHttpClientEx = new HttpClientEx(myHttpClient)
{
Url = "http://localhost:5000/api/AttachedFile/UploadBigFile",
HttpContent = new MultipartFormDataContent
{
{new StreamContent(myMemoryStream),"pFile",myFileName}
}
};
myHttpClientEx.ParameterDictionary.Add("pServerPath", myFileEntity!.ServerPath);
await myHttpClientEx.PostAsync(); //解析结果
if (myHttpClientEx.IsSuccess == false)
{
myFileStream.Close();
MessageBox.Show("上传文件失败," + myHttpClientEx.ResponseContenString);
return;
}
} //结束上传
myHttpClientEx = new HttpClientEx(myHttpClient)
{
Url = "http://localhost:5000/api/AttachedFile/FinishUploadBigFile",
HttpContent = JsonContent.Create<AttachedFileEntity>(myFileEntity)
};
await myHttpClientEx.PostAsync();
if (myHttpClientEx.IsSuccess == false)
{
myFileStream.Close();
MessageBox.Show("上传文件失败," + myHttpClientEx.ResponseContenString);
return;
}
myFileStream.Close();
myFileEntity = myHttpClientEx.GetResponseObject<AttachedFileEntity>();
var myEntityJosnString = JsonSerializer.Serialize<AttachedFileEntity>(myFileEntity);
MessageBox.Show(myEntityJosnString);
};
}

如果客户端是js,代码如下。

on(myButton, "change", function (e) {
var myFileReader = new FileReader();
var myFileName = ""; myFileReader.onloadend = function () {
var myFileResult = myFileReader.result;
var myFileLength = myFileResult.byteLength; var myPerLength = 1024 * 256;
var myCount = Math.ceil(myFileLength / myPerLength); var myFileEntity = new Object()
{
ServerPath: ""
}; //调用开始上传StartUploadBigFile,具体代码略。 var myK = 0;
Upload(); function Upload() { var myByteArray = myFileResult.slice(myPerLength * myK, myPerLength * (myK + 1));
var myBlob = new Blob([myByteArray]);
var myFile = new File([myBlob], myFileName);
var myFormData = new FormData();
myFormData.append("file", myFile)
request.post(myUrl + "?pServerFile=" + myFileEntity.ServerPath +, {
data: myFormData
}).then(function (data) {
myFileEntity = json.parse(data);
myK++;
if (myK < myCount) {
Upload();
}
else {
alert("上传大文件结束。");
alert(json.stringify(myFileEntity));
//结束,post FinishUploadBigFile
} }, function (err) {
alert(err);
return;
});
}
} myFileName = this.files[0].name;
myFileReader.readAsArrayBuffer(this.files[0]);
});

Js代码没有实际测试,只是一个思路。

.Net Web API 006 Controller上传大文件的更多相关文章

  1. WEB上传大文件解决方案

    众所皆知,web上传大文件,一直是一个痛.上传文件大小限制,页面响应时间超时.这些都是web开发所必须直面的. 本文给出的解决方案是:前端实现数据流分片长传,后面接收完毕后合并文件的思路.下面贴出简易 ...

  2. 【Web应用】JAVA网络上传大文件报500错误

    问题描述 当通过 JAVA 网站上传大文件,会报 500 错误. 问题分析 因为 Azure 的 Java 网站都是基于 IIS 转发的,所以我们需要关注 IIS 的文件上传限制以及 requestT ...

  3. Web上传大文件的解决方案

    需求:项目要支持大文件上传功能,经过讨论,初步将文件上传大小控制在500M内,因此自己需要在项目中进行文件上传部分的调整和配置,自己将大小都以501M来进行限制. 第一步: 前端修改 由于项目使用的是 ...

  4. WEB上传大文件

    众所皆知,web上传大文件,一直是一个痛.上传文件大小限制,页面响应时间超时.这些都是web开发所必须直面的. 本文给出的解决方案是:前端实现数据流分片长传,后面接收完毕后合并文件的思路.下面贴出简易 ...

  5. web上传大文件(>4G)有什么解决方案?

    众所皆知,web上传大文件,一直是一个痛.上传文件大小限制,页面响应时间超时.这些都是web开发所必须直面的. 本文给出的解决方案是:前端实现数据流分片长传,后面接收完毕后合并文件的思路. 实现文件夹 ...

  6. asp.net core流式上传大文件

    asp.net core流式上传大文件 首先需要明确一点就是使用流式上传和使用IFormFile在效率上没有太大的差异,IFormFile的缺点主要是客户端上传过来的文件首先会缓存在服务器内存中,任何 ...

  7. [Asp.net]Uploadify上传大文件,Http error 404 解决方案

    引言 之前使用Uploadify做了一个上传图片并预览的功能,今天在项目中,要使用该插件上传大文件.之前弄过上传图片的demo,就使用该demo进行测试.可以查看我的这篇文章:[Asp.net]Upl ...

  8. ASP.NET上传大文件的问题

    原文:http://www.cnblogs.com/wolf-sun/p/3657241.html?utm_source=tuicool&utm_medium=referral 引言 之前使用 ...

  9. QQ上传大文件为什么这么快

    今天和同事在群里讨论“QQ上传大文件/QQ群发送大文件时,可以在极短的时间内完成”是如何做到的. 有时候我们通过QQ上传一个几百M的文件,竟然只用了几秒钟,从带宽上限制可以得出,实际上传文件是不可能的 ...

  10. IIS7下swfupload上传大文件出现404错误

    要求上传附件大小限制在2G,原本以为可以轻松搞定.在编译模式下可以上传大文件,可是在IIS7下(自己架的服务器),一上传大的文件就会出现 Http 404错误,偶尔有的文件还有IO. error错误. ...

随机推荐

  1. 2020-12-29:mysql中,innodb表里,某一条数据删除了之后,这条数据会被真实的擦掉吗,还是删除了关系?

    福哥答案2020-12-29:[答案来自此链接,答案相当详细:](https://www.zhihu.com/question/436957843)面试的时候受 <MySQL技术内幕 InnoD ...

  2. 2021-07-28:最短的桥。在给定的二维二进制数组 A 中,存在两座岛。(岛是由四面相连的 1 形成的一个最大组。)现在,我们可以将 0 变为 1,以使两座岛连接起来,变成一座岛。返回必须翻转的

    2021-07-28:最短的桥.在给定的二维二进制数组 A 中,存在两座岛.(岛是由四面相连的 1 形成的一个最大组.)现在,我们可以将 0 变为 1,以使两座岛连接起来,变成一座岛.返回必须翻转的 ...

  3. json函数

    Python与JSON(load.loads.dump.dumps)   1.Python中加载JSON 使用loads(string):作用将string类型转为dict字典或dict链表 # 加载 ...

  4. pycharm eslint 关闭

    pycharm 关闭eslint 文件->设置->语言和框架->JavaScript->代码质量工具->ESLint

  5. centos linux系统安装详解

    打开vmware,版本差异区别不大 选择创建新的虚拟机 选择典型,是默认选项不用改,点击下一步 选择稍后安装操作系统(默认选项不用改),点击下一步 选择linux,并且版本改为centos 64位,点 ...

  6. 【模型部署 01】C++实现分类模型(以GoogLeNet为例)在OpenCV DNN、ONNXRuntime、TensorRT、OpenVINO上的推理部署

    深度学习领域常用的基于CPU/GPU的推理方式有OpenCV DNN.ONNXRuntime.TensorRT以及OpenVINO.这几种方式的推理过程可以统一用下图来概述.整体可分为模型初始化部分和 ...

  7. 卷积神经网络(Convolutional Neural Network,CNN)思想 实例 具体代码实现

    在前面我们讨论了神经网络初步,学习了神经网络中最基础的部分:全连接层,并且实现了搭建两层全连接实现图片分类的问题,达到了50%左右的正确率,全连接层的主要思想是构建出一个映射函数,使得前一层的所有输入 ...

  8. 前端开发如何更好的避免样式冲突?级联层(CSS@layer)

    作者:vivo 互联网前端团队 - Zhang Jiqi 本文主要讲述了CSS中的级联层(CSS@layer),讨论了级联以及级联层的创建.嵌套.排序和浏览器支持情况.级联层可以用于避免样式冲突,提高 ...

  9. Galaxy Release_20.09 发布,新增多个数据上传组件

    Galaxy Project(https://galaxyproject.org/)是在云计算背景下诞生的一个生物信息学可视化分析开源项目. 该项目由美国国家科学基金会(NSF).美国国家人类基因组研 ...

  10. 可视化生信分析利器 Galaxy 之 Docker 部署

    Galaxy Project(https://galaxyproject.org/)是很多年前在云计算背景下诞生的一个生物信息学可视化分析开源项目, 是目前生物医学研究领域最受欢迎的在线生物信息分析工 ...