热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

基于Nodejs的大文件上传之断点续传

接着《扒一扒Nodejsformidable的onPart》和《也说文件上传之兼容IE789的进度条丢掉flash》;前面已完成兼容IE789的大文件上传:无flash的低版本进度

接着《扒一扒Nodejs formidable的onPart》和《也说文件上传之兼容IE789的进度条---丢掉flash》;前面已完成兼容IE789的大文件上传:无flash的低版本进度条,高版本的分段上传,并已为断点续传做好铺垫;

说什么做好铺垫,原本以为Nodejs端已没问题,只剩前端依靠HTML5接着监听abort事件,保存中断时上传到第几块了(断点续传只支持文件比较大,然后意外上传中断了,暂时定50M开启断点续传吧),通过文件内容hash和该文件唯一上传token来记录断点时的信息;下次上传时判断hash和token确定是否需要续传,恩,其实也不难,可还是废了我大半天的时间,死了一大堆脑细胞;看来只是停留在思维阶段是不行的啊,还是得动起来!

按照上面的思路,大致上是没问题的,可在我多方测试,试了一遍又一遍后,始终会存在一个问题:前后端偶尔会衔接不上;比如:后端控制台显示上传完5段,可我abort里监听到的却是上传完4段,有时还会是6段,这种衔接不上的问题折磨了我好半天,而且断点的次数越多,这种情况越多;不得已,最后前后端都做了调整;前天还尼玛说做好铺垫了呢,一行动起来就开始教我做人;

最近一直没机会学Angular,意外的是到处看到关于React的文章和教程,有些不安了,我大Angular的风头在React的强势进击下,越发不及当年勇了吗?VUE也因其轻量而越发受到青睐;其实我对这些前卫的牛逼框架一直处于持续关注和观望状态,因为目前工作的项目偏传统行业,还得跟IE789这些老奇葩打交道,所以只是关注和简单的试水;最近对React多了些躁动,估计把大文件上传确定一个版本后,会系统的重新开始学学React了;

不扯远了,今天算是被断点续传教做人了,不过还是打算趁放假,稍作整理,简单的分享下;

鉴于上面的BUG,现在改换思路了,不在abort里监听了,衔接不上的问题是致命的;怎么办呢:上传之前判断文件是否超过50M,如果大于50M就读取文件内容的MD5,然后读取本地是否保存有该MD5值,如果有就将文件的token设置为保存对应md5的token,如果没有对应的md5值,就增加一条记录:包括文件的MD5,是否上传完毕的状态,文件的token,多文件时对应的index;这样,文件一开始上传就将信息保存(或更新)于本地,文件上传完毕时通过回调再将对应信息清除,下次上传判断到该值还在的话,那么就是续传了;是的,本地没有保存已上传完毕的分段索引值,因为之前出现的前后端衔接不上的问题,现在只好做了调整,由后端在写入文件内容后,将索引值保存(或更新),前端如果判断为续传,就再请求到续传的索引值,然后可以开始续传了;结果证明这样是可行的,事实胜于雄辩,少废话了,上代码(将就看吧):

 1 postFiles:function(){
 2   var $self=this;
 3   if (this.files.size>50*1024*1024) {
 4 
 5     var fileReader = new FileReader(),spark = new SparkMD5.ArrayBuffer();
 6     fileReader.Onload= function (e) {
 7           spark.append(e.target.result);   
 8           $self.hash=spark.end();    
 9           window.__hash__=$self.hash;       
10           var stored=localStorage.getItem(‘fileUploadInfos‘);
11           var odata=utils.url.query.other_data,
12                 ins=0;
13               if (odata) {
14                 ins=JSON.parse(odata).index;
15               }
16           if (stored&&JSON.parse(stored).length) {
17             var c=0,tk=0;
18             JSON.parse(stored).forEach(function(sd){
19               if (odata) {
20                 if (sd&&sd.hash==$self.hash&&ins==sd.ins) {
21                   tk=sd.__token;  
22                   c++;
23                 }
24               }else{
25                 if (sd&&sd.hash==$self.hash) {
26                   tk=sd.__token;  
27                   c++;
28                 }
29               }
30             });
31             if (c) {
32               var _data={
33                 token:tk,
34                 getfileinfo:1
35               }
36               if (odata) {
37                 _data.ins=ins;
38               };
39               $.post(‘/components/uploader‘,_data).then(function(data){
40                 if (data.mes==1) {
41                   $self.index=data.index*1+1;
42                 }
43                 $self.__token__=tk;
44                 $self.postSlice();
45               });
46             }else{
47               var willload={
48                 __token:$self.__token__,
49                 status:‘will‘,
50                 hash:$self.hash
51               }
52               if (odata) {
53                 willload.ins=ins;
54               };
55               var lodd=JSON.parse(stored);
56               lodd.push(willload);
57               localStorage.setItem(‘fileUploadInfos‘,JSON.stringify(lodd));
58               $self.postSlice();
59             };
60           }else{
61             var willload={
62               __token:$self.__token__,
63               status:‘will‘,
64               hash:$self.hash
65             }
66             if (odata) {
67               willload.ins=ins;
68             };
69             localStorage.setItem(‘fileUploadInfos‘,JSON.stringify([willload]));
70             $self.postSlice();
71           }
72       };
73     fileReader.readAsArrayBuffer(this.files.slice(0, 10240));
74   }else{
75     this.postSlice();
76   };
77 }

这里用的是sparkMD5.js来读取的文件内容的MD5,而且你可以通过slice(s,e);来指定从哪开始读,以及读多少,由于大文件要读取全部内容的MD5,可是很耗时间的哦,大家可以试试看,很有意思,所以还是slice吧!详细使用github去吧!跟之前铺垫说的不一样的地方就是多了请求$.post(‘/components/uploader‘,_data);然后就是由回调看是否上传成功来确定是否清除上传前保存的相关信息;

 1 window.callback=function(data){
 2   if (localStorage) {
 3     var odata=utils.url.query.other_data,
 4         ins=0;
 5       if (odata) {
 6         ins=JSON.parse(odata).index;
 7       }
 8     var storedInfo=localStorage.getItem(‘fileUploadInfos‘);
 9     var _hash=location.hash;
10     if (window.__hash__) {
11       storedInfo=JSON.parse(storedInfo);
12       for(var i=0;i){
13         if (odata) {
14           if (storedInfo[i].hash==window.__hash__&&ins==storedInfo[i].ins) {
15             storedInfo.splice(i);
16           }
17         }else{
18           if (storedInfo[i].hash==window.__hash__) {
19             storedInfo.splice(i);
20           }
21         }
22       }
23       localStorage.removeItem(‘fileUploadInfos‘);
24       localStorage.setItem(‘fileUploadInfos‘,JSON.stringify(storedInfo));
25     }
26   }
27   //......
28   //...
29 }

保存值里有个index,来自url的可选other_data,这个值是为了扩展,如果以后使用时发现要额外增加其他值,或者回调其他值,或多个iframe上传,来区分不同的上传,只需往other_data里加值就OK,他是一个JSON格式的值,你懂的,重要的是多个iframe也可以通过other_data共享一个callback;

为了保证断点续传不是不断的增加新文件,多个上传,哪怕是同一个文件也不重名,问题还蛮多的,当然这种问题也很严重,所以不能想的太简单;不光要判断文件内容的MD5,还要判断token,由于每次重传token就刷新了,所以记得要重置token,还要判断多个iframe上传怎么区分;

技术分享

如图,比较犯贱的测法:因为这个上传是使用的iframe,作为一个页面单独管理;多个iframe上传同一个大文件,还同时支持断点续传;

不知道我有没有分享清楚,同学们有什么做法欢迎与我分享;

最后,就差完善大文件上传的细节了,如果可以的话,还可以把HTML5的拖拽拉进来;既然作为独立页面管理,对于静态资源来说,以后很可能还要涉及到跨域问题;持续跟进中。。。。。。。。。。。技术分享

 

 原文来自:花满楼(http://www.famanoder.com/bokes/575ace3880e446c026079232)

 

基于Nodejs的大文件上传之断点续传


推荐阅读
  • 基于layUI的图片上传前预览功能的2种实现方式
    本文介绍了基于layUI的图片上传前预览功能的两种实现方式:一种是使用blob+FileReader,另一种是使用layUI自带的参数。通过选择文件后点击文件名,在页面中间弹窗内预览图片。其中,layUI自带的参数实现了图片预览功能。该功能依赖于layUI的上传模块,并使用了blob和FileReader来读取本地文件并获取图像的base64编码。点击文件名时会执行See()函数。摘要长度为169字。 ... [详细]
  • 本文介绍了lua语言中闭包的特性及其在模式匹配、日期处理、编译和模块化等方面的应用。lua中的闭包是严格遵循词法定界的第一类值,函数可以作为变量自由传递,也可以作为参数传递给其他函数。这些特性使得lua语言具有极大的灵活性,为程序开发带来了便利。 ... [详细]
  • JavaWeb中读取文件资源的路径问题及解决方法
    在JavaWeb开发中,读取文件资源的路径是一个常见的问题。本文介绍了使用绝对路径和相对路径两种方法来解决这个问题,并给出了相应的代码示例。同时,还讨论了使用绝对路径的优缺点,以及如何正确使用相对路径来读取文件。通过本文的学习,读者可以掌握在JavaWeb中正确找到和读取文件资源的方法。 ... [详细]
  • 本文内容为asp.net微信公众平台开发的目录汇总,包括数据库设计、多层架构框架搭建和入口实现、微信消息封装及反射赋值、关注事件、用户记录、回复文本消息、图文消息、服务搭建(接入)、自定义菜单等。同时提供了示例代码和相关的后台管理功能。内容涵盖了多个方面,适合综合运用。 ... [详细]
  • 本文介绍了使用Java实现大数乘法的分治算法,包括输入数据的处理、普通大数乘法的结果和Karatsuba大数乘法的结果。通过改变long类型可以适应不同范围的大数乘法计算。 ... [详细]
  • HDU 2372 El Dorado(DP)的最长上升子序列长度求解方法
    本文介绍了解决HDU 2372 El Dorado问题的一种动态规划方法,通过循环k的方式求解最长上升子序列的长度。具体实现过程包括初始化dp数组、读取数列、计算最长上升子序列长度等步骤。 ... [详细]
  • 本文讨论了Alink回归预测的不完善问题,指出目前主要针对Python做案例,对其他语言支持不足。同时介绍了pom.xml文件的基本结构和使用方法,以及Maven的相关知识。最后,对Alink回归预测的未来发展提出了期待。 ... [详细]
  • 本文介绍了C#中数据集DataSet对象的使用及相关方法详解,包括DataSet对象的概述、与数据关系对象的互联、Rows集合和Columns集合的组成,以及DataSet对象常用的方法之一——Merge方法的使用。通过本文的阅读,读者可以了解到DataSet对象在C#中的重要性和使用方法。 ... [详细]
  • 本文介绍了OC学习笔记中的@property和@synthesize,包括属性的定义和合成的使用方法。通过示例代码详细讲解了@property和@synthesize的作用和用法。 ... [详细]
  • Mac OS 升级到11.2.2 Eclipse打不开了,报错Failed to create the Java Virtual Machine
    本文介绍了在Mac OS升级到11.2.2版本后,使用Eclipse打开时出现报错Failed to create the Java Virtual Machine的问题,并提供了解决方法。 ... [详细]
  • [译]技术公司十年经验的职场生涯回顾
    本文是一位在技术公司工作十年的职场人士对自己职业生涯的总结回顾。她的职业规划与众不同,令人深思又有趣。其中涉及到的内容有机器学习、创新创业以及引用了女性主义者在TED演讲中的部分讲义。文章表达了对职业生涯的愿望和希望,认为人类有能力不断改善自己。 ... [详细]
  • 在说Hibernate映射前,我们先来了解下对象关系映射ORM。ORM的实现思想就是将关系数据库中表的数据映射成对象,以对象的形式展现。这样开发人员就可以把对数据库的操作转化为对 ... [详细]
  • 本文介绍了在SpringBoot中集成thymeleaf前端模版的配置步骤,包括在application.properties配置文件中添加thymeleaf的配置信息,引入thymeleaf的jar包,以及创建PageController并添加index方法。 ... [详细]
  • 本文讲述了作者通过点火测试男友的性格和承受能力,以考验婚姻问题。作者故意不安慰男友并再次点火,观察他的反应。这个行为是善意的玩人,旨在了解男友的性格和避免婚姻问题。 ... [详细]
  • 本文讨论了在手机移动端如何使用HTML5和JavaScript实现视频上传并压缩视频质量,或者降低手机摄像头拍摄质量的问题。作者指出HTML5和JavaScript无法直接压缩视频,只能通过将视频传送到服务器端由后端进行压缩。对于控制相机拍摄质量,只有使用JAVA编写Android客户端才能实现压缩。此外,作者还解释了在交作业时使用zip格式压缩包导致CSS文件和图片音乐丢失的原因,并提供了解决方法。最后,作者还介绍了一个用于处理图片的类,可以实现图片剪裁处理和生成缩略图的功能。 ... [详细]
author-avatar
上午劳动_951
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有