您的当前位置:首页正文

Node批量下载文件到本地的方法介绍(附代码)

2020-11-27 来源:独旅网

本篇文章给大家带来的内容是关于Node批量下载文件到本地的方法介绍(附代码),有一定的参考价值,有需要的朋友可以参考一下,希望对你有所帮助。

多文件分别处理

如果文件数量可控,对于下载出来的文件格式无要求,可以用最简单的办法,直接遍历文件,分别给每个下载链接创建一个单文件的download或者iframe下载链接。

zip包批量下载

虽然说可以遍历所有文件,然后去批量下载单个文件,但是这种体验毕竟不太好,最常见的做法是把批量的文件下载并打包到zip中。

所以首先的一个实现思路是:在代理服务里,先去遍历所有的文件去请求文件数据,然后压缩到zip包中,然后再把zip包返回给客户端。

这么做对于下载量数据比较小时ok,但是如果批量文件特别多特别大时,用户要等后台把所有的数据都请求到并且都打包都压缩包里,前端才能有反馈,这个时间可能会耗时很长,用户体验可能很差。

在同事的前期调研时,有说这里可以做一个流式的边压缩边下载的能力,大致的思路是,chunk回包,加流式压缩。

......

let fileCounter = 0;
const zippedFilename = encodeURIComponent(downloadData.name);
const list = downloadData.list || [];
const header = {
 'Content-Type': 'application/x-zip',
 'Pragma': 'public',
 'Expires': '0',
 'Cache-Control': 'private, must-revalidate, post-check=0, pre-check=0',
 'Content-disposition': 'attachment; filename="' + zippedFilename + '"',
 'Transfer-Encoding': 'chunked',
 'Content-Transfer-Encoding': 'binary'
};
res.writeHead(200, header);
archive.store = true;
archive.pipe(res);
list.map(item => {
 fileCounter++;
 let inStream = request.get(item.downLoadUrl);
 let name = item.fileName;
 let length = 0;
 inStream.on('response', function(awsData) {
 archive.append(inStream, {
 name: name
 });
 }).on('data', function(data) {
 length += data.length;
 }).on('error', function(e) {
 console.error(name + '-error', e);
 }).on('end', function(endData) {
 fileCounter--;
 if (fileCounter < 1) {
 archive.finalize();
 }
 });
});
archive.on('error', function(err) {
 throw err;
});
archive.on('finish', function(err) {
 return res.end();
});

......

当然中间还有些细节需要处理:比如中文文件名的问题,是否需要下载文件总大小做限制,是否会出现文件不存在等等情况。

显示全文