java多线程批量下载文件
多线程下载文件
平时开发中有时会用到文件下载,为了提高文件的下载速率,采用多线程下载能够达到事半功倍的效果:
package test;
/**
* 文件下载类
* @author luweicheng
*
*/
import java.io.FileInputStream;
import java.io.FileNotFoundException;
import java.io.IOException;
import java.io.InputStream;
import java.io.RandomAccessFile;
import java.net.HttpURLConnection;
import java.net.URL;
import java.net.URLConnection;
public class DownFile {
private URL fileUrl;// 文件下载路径
private int threadCount;// 文件下载的线程数
private int startPos;// 每个线程下载文件的开始位置
private int size;// 每个线程下载文件的长度
private int fileLength;// 文件总程度
private String pathName;// 下载的文件路径(包含文件名)
private Downthread[] tDownthreads;// 线程数组
public DownFile(URL url, int threadCount, String pathName) throws IOException {
fileUrl = url;
this.threadCount = threadCount;
this.pathName = pathName;
init();
}
/**
* 初始化
*
* @throws IOException
*/
private void init() throws IOException {
tDownthreads = new Downthread[threadCount];
HttpURLConnection conn = (HttpURLConnection) fileUrl.openConnection();
conn.setConnectTimeout(5000);
conn.setRequestMethod("GET");
conn.setRequestProperty("connection", "keep-alive");
fileLength = conn.getContentLength();
System.out.println("文件长度" + fileLength);
size = fileLength / threadCount;
System.out.println("每个下载量==" + size);
conn.disconnect();// 断开链接
}
public URL getFileUrl() {
return fileUrl;
}
public int getThreadCount() {
return this.threadCount;
}
/**
* 开始下载
*/
public void startDown() {
for (int i = 0; i < threadCount; i++) {
try {
RandomAccessFile raFile = new RandomAccessFile(pathName, "rw");
tDownthreads[i] = new Downthread(i * size, raFile, i);
tDownthreads[i].start();
} catch (FileNotFoundException e) {
e.printStackTrace();
}
}
}
/**
* 下载线程类
*
* @author luweicheng
*
*/
class Downthread extends Thread {
private int startPos;// 开始的位置
private InputStream is;
private RandomAccessFile raFile;
private int length;// 下载的文件长度
private int flag;// 线程标志
public Downthread(int startPos, RandomAccessFile raFile, int i) {
this.startPos = startPos;
this.raFile = raFile;
flag = i;
}
@Override
public void run() {
try {
HttpURLConnection connection = (HttpURLConnection) fileUrl.openConnection();
connection.setRequestMethod("GET");
connection.setRequestProperty("connection", "keep-alive");
connection.setConnectTimeout(5 * 1000);
is = connection.getInputStream();
is.skip(startPos);
raFile.seek(startPos);
byte[] buf = new byte[8 * 1024];
int hasread = 0;// 读出的字节数
// 将位置在 startPos - startPos 位置的数据读出写入
while (length < size && (hasread = is.read(buf)) != -1) {
raFile.write(buf, 0, hasread);
length += hasread;
System.out.println("*****线程" + flag + "下载了*********" + length);
}
System.out.println("*******线程" + flag + "下载完成*********");
} catch (IOException e) {
} finally {
try {
is.close();
raFile.close();
} catch (IOException e) {
e.printStackTrace();
}
}
}
}
}
效果展示:
 
详细配置信息可以参考这篇文章:
http://blog.ncmem.com/wordpress/2019/08/28/java%e6%89%b9%e9%87%8f%e4%b8%8b%e8%bd%bd/
java多线程批量下载文件的更多相关文章
- java多线程批量读取文件(七)
		新公司入职一个多月了,至今没有事情可以做,十来个新同事都一样抓狂,所以大家都自己学习一些新东西,我最近在看zookeeper,感觉蛮不错的,和微服务的zuul以及eureka功能类似,只是代码复杂了一 ... 
- Java多线程断点下载文件
		Java实现断点续传+多线程下载 如下代码所示,每一步都有注解 思路: 通过URL连接到服务器上要下载的文件,得到文件的大小: 算出每条线程下载的开始位置和结束位置,例如,有两条线程下载100Byte ... 
- java+web+批量下载文件
		JavaWeb 文件下载功能 文件下载的实质就是文件拷贝,将文件从服务器端拷贝到浏览器端,所以文件下载需要IO技术将服务器端的文件读取到,然后写到response缓冲区中,然后再下载到个人客户端. 1 ... 
- java多线程批量读取文件( 八)--读写分离
		package com.net.thread.future; import java.io.BufferedReader; import java.io.BufferedWriter; import ... 
- java/resteasy批量下载存储在阿里云OSS上的文件,并打包压缩
		现在需要从oss上面批量下载文件并压缩打包,搜了很多相关博客,均是缺胳膊少腿,要么是和官网说法不一,要么就压缩包工具类不给出 官方API https://help.aliyun.com/documen ... 
- Java批量下载文件并zip打包
		客户需求:列表勾选需要的信息,点击批量下载文件的功能.这里分享下我们系统的解决方案:先生成要下载的文件,然后将其进行压缩,生成zip压缩文件,然后使用浏览器的下载功能即可完成批量下载的需求.以下是zi ... 
- java批量下载文件为zip包
		批量下载文件为zip包的工具类 package com.meeno.trainsys.util; import javax.servlet.http.HttpServletRequest; impor ... 
- Java多线程的下载器(1)
		实现了一个基于Java多线程的下载器,可提供的功能有: 1. 对文件使用多线程下载,并显示每时刻的下载速度. 2. 对多个下载进行管理,包括线程调度,内存管理等. 一:单个文件下载的管理 1. 单文件 ... 
- python多线程批量下载远程图片
		python多线程使用场景:多线程采集, 以及性能测试等 . 数据库驱动类-简单封装下 mysqlDriver.py #!/usr/bin/python3 #-*- coding: utf-8 -*- ... 
随机推荐
- 快速开启关闭mysql,批命令方便!
			很多python开发人员和我一样,都会在自己的电脑上配置一个python开发的环境,便于开发和学习使用,比如我现在电脑上使用的就是mysql数据库,而我的电脑配置又比较低,电脑运行起来会出现卡慢的情况 ... 
- vue技术分享之你可能不知道的7个秘密
			本文是vue源码贡献值Chris Fritz在公共场合的一场分享,觉得分享里面有不少东西值得借鉴,虽然有些内容我在工作中也是这么做的,还是把大神的ppt在这里翻译一下,希望给朋友带来一些帮助. 一.善 ... 
- mysql之存储过程基础
			存储过程 procedure 可以理解为一个处理增删改,没有返回值得函数 创建存储过程的基本语法 create procedure 过程名 ([参数列表]) begin --过程体 end 存储过程主 ... 
- CentOS7 Python3上安装paramiko
			1. CentOS 7下安装Python3.5 CentOS7默认安装了python2.7.5,要用 Python3需要自己手动安装.注意不要删除python2. 1.1 下载python3源码包 w ... 
- BZOJ5017题解SNOI2017炸弹--玄学递推
			题目链接 https://www.lydsy.com/JudgeOnline/problem.php?id=5017 分析 老师讲课谈到了这道题,课上想出了个连边建图然后乱搞的操作,被老师钦定的递推方 ... 
- Yali7月集训Contest2 T1 Cube 题解
			题目链接: 连我们都只有纸质题目...话说雅礼集训都是这样的吗... 大意 0维基本图形是一个点 1维基本图形是一条线段 2维基本图形是一个正方形 3维基本图形是一个正方体 4维基本图形是... 求\ ... 
- kali入侵服务器的那一套实战
			dnsenum -enum xxxxx.com 枚举出网站的所有域名和服务器的ip地址 打开百度查询ip地址的所在地 whatweb xxxx.com 查看那些网站入口可以访问 以状 ... 
- Java  单个集合去重与两个集合去重
			一.单个集合去重 描述: 去掉一个集合里重复的元素:将list集合转成hashSet集合,hashSet有自动去重的功能,再利用去重后的hashSet集合初始化一个新的list集合,此时这个list就 ... 
- 点击登录页面成功后,后端返回数据需要保存,在另外一个页面,发送ajax请求的时候需要登录返回数据的其中的一部分当做参数然后拿到新的数据
			对于这个怎么操作首先我们要在登录的ajax请求中把后端的数据保存到sessionstorage中,代码如下 登录ajax $.ajax({ type:'post', url:xxxxxxxxx, da ... 
- 转:Git和Github简单教程
			转自:https://www.cnblogs.com/schaepher/p/5561193.html Git和Github简单教程 原文链接:Git和Github简单教程 网络上关于Git和Gi ... 
