用java实现文件的断点续传并发下载
需求:
支持文件批量下载。现在有很多小图片需要批量下载,不希望在服务器打包下载。
支持大文件断点下载。比如下载10G的文件。
PC端全平台支持。Windows,macOS,Linux
全浏览器支持。ie6,ie7,ie8,ie9,ie10,ie11,edge,firefox,chrome,safari
支持文件夹结构下载。不希望在服务器打包,而是直接下载文件夹,下载后在本地文件夹结构和服务器保持一致。
支持从URL中下载文件。
支持JSON数据结构。
说明
用java实现文件的断点续传,使用了HTTP的首部字段实现,在网上看到例子,手动实现一遍,理解其原理,在这记录下
正文
要实现断点续传,要在请求中设置请求开始的位置和结束位置,在HTTP请求中设置RANGE首部字段,之后服务器如果能正常返回,返回206状态码
用java实现的关键点:
1.设置请求的首部字段,使用java的net包
2.在读取资源文件后,要保存文件,从断点处保存,使用RandAccessFile类
3.使用多线程并发的方式进行,如何正确设置起始位置
主要思路就是:
1. 设置文件信息,包括文件所在的URL,文件名,文件保存的路径及文件需要分段下载的次数
2. 下载时,先连接服务器,得到文件的大小,通过服务器响应的首部字段Content-Length获得,得到文件大小后,根据分段下载的次数设置每次开始的位置,结束位置。并创造一个信息临时文件,用来保存每次分段下载的起始位置,用于非第一次下载时,可以直接本地读取起始信息
3. 分段下载根据开始位置,保存在下载文件的合适位置,使用RandAccessFile类的seek()方法定位
文件分块下载代码
<%@page language="java" import="java.util.*" pageEncoding="UTF-8"%>
<%@page contentType="text/html;charset=UTF-8"%>
<%@page import="down2.*" %>
<%@page import="java.net.URLDecoder" %>
<%@page import="java.net.URLEncoder" %>
<%@page import="org.apache.commons.lang.*" %>
<%@page import="com.google.gson.FieldNamingPolicy" %>
<%@page import="com.google.gson.Gson" %>
<%@page import="com.google.gson.GsonBuilder" %>
<%@page import="com.google.gson.annotations.SerializedName" %>
<%@page import="java.io.*" %>
<% out.clear();
/*
下载数据库中的文件。
更新记录:
2015-05-13 创建
2017-12-09 完善Range协议
*/
String fileName = "网易云音乐.exe";//客户端保存的文件名
String filePath = "d:\\文件校验工具.exe";//路径
fileName = URLEncoder.encode(fileName,"UTF-8");
fileName = fileName.replaceAll("\\+","%20");
response.setContentType("application/octet-stream;charset:utf-8");
response.addHeader("Content-Disposition","attachment;filename=" + fileName);
response.addHeader("Pragma", "No-cache");
response.addHeader("Cache-Control", "No-cache");
response.addHeader("Expires", "0");
//定位文件块索引
File f = new File(filePath);
long fileLen = f.length();
long blockSize = fileLen;//块大小
long blockBegin = 0;
long blockEnd = 0;
RandomAccessFile raf = new RandomAccessFile(filePath,"r");
FileInputStream in = new FileInputStream( raf.getFD() );
String range = request.getHeader("Range");
if(range != null)
{
//清除bytes=
int pos = range.indexOf("=");
if(pos != -1) range = range.substring(pos+1);
/*
1-
-1
0-1
*/
String[] rs = range.split("-");//bytes=10254
//-1
if( StringUtils.isEmpty(rs[0]) )
{
blockSize = Long.parseLong(rs[1]);
in.skip(fileLen - blockSize);
blockEnd = fileLen - 1;
blockBegin = fileLen - blockSize;
}//1-
elseif( StringUtils.isEmpty(rs[1]))
{
blockBegin = Long.parseLong(rs[0]);
in.skip(blockBegin);
blockSize = fileLen - blockBegin;
blockEnd = (blockBegin + blockSize) - 1;
}//1-1
else
{
blockBegin = Long.parseLong(rs[0]);
blockEnd = Long.parseLong(rs[1]);
blockSize = (blockEnd - blockBegin) + 1;
in.skip(blockBegin);
}
}
response.addHeader("Content-Length",Long.toString(blockSize));
response.addHeader("Content-Range",String.format("bytes %d-%d/%d",blockBegin,blockEnd,fileLen) );
byte[] b = newbyte[1048576];//一次读1MB数据,如果服务器内存足够,可适当调大尺寸。
int i = 0;
OutputStream outp = response.getOutputStream();
while((i = in.read(b)) > 0)
{
outp.write(b, 0, i);
}
outp.flush();
in.close();
outp.close();
in = null;
outp = null;
%>
2、文件的保存
文件保存由前端实现。由用户下载前选择文件的下载路径。
3、批量下载
批量下载通过urls参数即可实现。
$("#btn-down-files").click(function (){
if(downer.Config["Folder"]==""){ downer.open_folder();return;}
var urls =[
{ fileUrl:"http://res2.ncmem.com/res/images/ie11.png"}
,{ fileUrl:"http://res2.ncmem.com/res/images/up6.1/down.png"}
,{ fileUrl:"http://res2.ncmem.com/res/images/firefox.png"}
,{ fileUrl:"http://res2.ncmem.com/res/images/edge.png"}
,{ fileUrl:"http://res2.ncmem.com/res/images/up6.1/cloud.png"}
,{ fileUrl:"http://res2.ncmem.com/res/images/home/w.png"}
,{ fileUrl:"http://res2.ncmem.com/res/images/img.png"}
];
downer.app.addUrls(urls);
});
4、自定义下载文件夹名称
基本信息包含了文件所在站点信息,文件本地保存路径,文件名,文件分段下载次数
$("#btn-down-json").click(function (){
if(downer.Config["Folder"]==""){ downer.open_folder();return;}
var fd ={
nameLoc:"图片列表"
, files:[
{ fileUrl:"http://res2.ncmem.com/res/images/ie11.png"}
,{ fileUrl:"http://res2.ncmem.com/res/images/up6.1/down.png"}
,{ fileUrl:"http://res2.ncmem.com/res/images/firefox.png"}
,{ fileUrl:"http://res2.ncmem.com/res/images/edge.png"}
,{ fileUrl:"http://res2.ncmem.com/res/images/up6.1/cloud.png"}
,{ fileUrl:"http://res2.ncmem.com/res/images/home/w.png"}
,{ fileUrl:"http://res2.ncmem.com/res/images/img.png"}
]
};
downer.app.addJson(fd);
});
5、下载多级目录
//下载多级目录
$("#btn-down-fd").click(function (){
if(downer.Config["Folder"]==""){ downer.open_folder();return;}
var fd ={
nameLoc:"测试文件夹"
, files:[
{ fileUrl:"http://www.ncmem.com/images/ico-ftp.jpg"}
,{ fileUrl:"http://www.ncmem.com/images/ico-up.jpg"}
]
, folders:[
{
nameLoc:"图片1"
, files:[
{ fileUrl:"http://www.ncmem.com/images/ico-ftp.jpg"}
,{ fileUrl:"http://www.ncmem.com/images/ico-up.jpg"}
,{ fileUrl:"http://www.ncmem.com/images/ico-capture.jpg"}
,{ fileUrl:"http://www.ncmem.com/images/ico-imageuploader.gif"}
,{ fileUrl:"http://www.ncmem.com/images/ico-wordpaster.gif"}
]
, folders:[
{
nameLoc:"软件"
, files:[
{ fileUrl:"http://res2.ncmem.com/res/images/edit-file.png"}
]
}
]
}
]
};
downer.app.addJson(fd);
});
网上例子:http://blog.ncmem.com/wordpress/2019/08/28/java批量下载/
用java实现文件的断点续传并发下载的更多相关文章
- java实现文件的断点续传的下载
java的断点续传是基于之前java文件下载基础上的功能拓展 首先设置一个以线程ID为名的下载进度文件, 每一次下载的进度会保存在这个文件中,下一次下载的时候,会根据进度文件里面的内容来判断下载的进度 ...
- java实现文件的断点续传
java实现文件的断点续传: 依赖: <!--文件上传--> <dependency> <groupId>commons-fileupload</groupI ...
- java的文件上传和下载 抄袭别人的.在底部有说明.
=======后续 这里采用的是输出流的方式,我电脑装的是windows系统,测试没有问题,但是当把项目放到Linux系统上跑时,就会出现保存位置错误的情况, 指定的路径就会被当做文件名的一部分保存了 ...
- Java实现文件的上传下载
文件上传,下载的方法: 上传代码 /** * 文件上传.保存 * * @param mapping * @param form * @param request * @param response * ...
- Java 实现文件上传、下载、打包、文件copy、文件夹copy。
文件and文件夹copy package org.test; import java.io.*; public class FileCopy { /** * 复制单个文件 * * @param old ...
- http文件的断点续传和下载
http://www.tuicool.com/articles/ZbyymqJ Content-Disposition:inline; filename= "c501b_01_h264_sd ...
- Java Struts文件上传和下载详解
Struts2文件上传 Struts 2框架提供了内置支持处理文件上传使用基于HTML表单的文件上传.上传一个文件时,它通常会被存储在一个临时目录中,他们应该由Action类进行处理或移动到一个永久的 ...
- JAVA SFTP文件上传、下载及批量下载
JavaJsch 1.jsch官方API查看地址(附件为需要的jar) http://www.jcraft.com/jsch/ 2.jsch简介 JSch(Java Secure Channel)是 ...
- java+超大文件上传与下载
这里先说下spring mvc 遇到的坑,就是如果文件上传时,后端这样写public String file1(HttpServletRequest request),根据request拿到的东西是 ...
随机推荐
- 阶段1 语言基础+高级_1-3-Java语言高级_04-集合_02 泛型_5_定义和使用含有泛型的接口
定义泛型接口 Scanner的接口 接口的实现类.实现这个接口,规定数据类型为String类型 ArrayList是List接口的实现类 再看下List接口的源码 泛型实现类也定义为泛型 重写泛型的方 ...
- PHP上传文件到阿里云OSS,nginx代理访问
1. 阿里云OSS创建存储空间Bucket(读写权限为:公共读) 2. 拿到相关配置 accessKeyId:********* accessKeySecret:********* endpoint: ...
- django在线教育网站开发---需求分析
开发目录: django app设计 user model.py 编写 courses models.py 编写 -Course 课程基本信息 -Lesson 章节信息 -Video -视频 -Cou ...
- 工具 - VNC
安装 ubuntu下vnc客户端的安装命令sudo apt-get install xtightvncviewer 重置密码 cd /root/.vnc/ rm -rf passwd vncserve ...
- web 前端3 javascript基础
JavaScript是一门编程语言,浏览器内置了JavaScript语言的解释器,所以在浏览器上按照JavaScript语言的规则编写相应代码之,浏览器可以解释并做出相应的处理. 一.如何编写 1.J ...
- SpringBoot jar程序配置成服务运行
windows 版本 http://www.cppblog.com/aurain/archive/2014/01/23/205534.aspx linux 版本 https://blog.csdn.n ...
- Elasticsearch安装及遇到的问题(CentOS 7.3 64位)
Elasticsearch安装 使用root用户创建一个其他用户,(elasticsearch不能在root账户下安装) # 添加一个名字是es工作组 groupadd es # 添加用户es设置密码 ...
- 1 Python 新建项目
1 新建项目->新建Python文件 2导入package 库文件 3 import 类似using #include 4 写完代码编译 默认debug的对象是第一个创建的py文件,后续写的文件 ...
- Linux 查看日志文件
1. tail命令:从文本文件的尾部开始查看,用于显示文本文件的末尾几行 tail -n filename 指定需要显示多少行 tail -f filename 实时 ...
- 【译】Redux 还是 Mobx,让我来解决你的困惑!
原文地址:Redux or MobX: An attempt to dissolve the Confusion 原文作者:rwieruch 我在去年大量的使用了 Redux,但我最近都在使用 Mob ...