最近由于筆者所在的研發(fā)集團產品需要，需要支持高性能的大文件http上傳，并且要求支持http斷點續(xù)傳。這里在簡要歸納一下，方便記憶：

1. 服務器端由C語言實現(xiàn)，而不是用java、PHP這種解釋型語言來實現(xiàn)；
2. 服務器端即時寫入硬盤，因此無需再次調用move_uploaded_file、InputStreamReader 這種需要緩存的技術來避免服務器內存占用與瀏覽器請求超時；
3. 支持HTML5與IFRAME（針對老瀏覽器），并且支持獲取文件上傳進度。

為了更好的適應當前的移動互聯(lián)網，要求對上傳服務支持斷點續(xù)傳，斷線重連。因為移動互聯(lián)網并不非常穩(wěn)定；再者，上傳一個大文件發(fā)生異常掉線的可能性非常大，為了避免重新上傳，支持斷點續(xù)傳就變得非常必要了。

支持斷點續(xù)傳的思路是：

客戶端（通常是瀏覽器）向服務器端上傳某個文件，并不斷記錄上傳的進度，如果一旦掉線或發(fā)生其它異常，客戶端可以向服務器查詢某個文件已經上傳的狀態(tài)，從上次上傳的文件位置接著上傳。

網上也有大師采用分片文件上傳方式來實現(xiàn)大文件上傳，方法是將文件切成小片，例如4MB一個片段，服務器端每次接收一小片文件保存成一個臨時文件，等待所有片段傳輸完畢后，再執(zhí)行合并。筆者認為，如果原始文件足夠小，這種方式是可以的，但一旦文件有幾百兆或者幾個GB或者幾十個GB，則合并文件的時間會非常長，常常導致瀏覽器響應超時或服務器阻塞。

如果自己實現(xiàn)獨立客戶端（或瀏覽器的ActiveX插件）來上傳文件，則支持斷點續(xù)傳將是一件非常簡單的事情，只需在客戶端記錄文件上傳狀態(tài)。而支持瀏覽器斷點續(xù)傳（無需安裝第三方插件）一般來說是要比自己做獨立客戶端上傳難度大一些，但也不難。我的實現(xiàn)思路如下：

一、瀏覽器在上傳某個文件時候，先給這個文件生成一個HASH值，必須在瀏覽器端生成這個HASH值。

不能單循地依據(jù)文件名來查詢文件上傳記錄，文件名的重復性很大，文件名 + 文件尺寸組成的值重復性縮小，如果再加上文件修改時間，則重復性進一步縮小，如果再加上一個瀏覽器的 ID可以進一步縮小重復性沖突。最好的HASH值的計算方法是用文件的內容進行MD5計算，但計算量極大（其實也沒有必要這么做），過多的耗時會影響上傳的體驗。

基于上述理由，我的HASH值計算思路如下：

1. 首先給瀏覽器賦予一個ID，這個ID保存在Cookie里；
2. 瀏覽器的 ID+ 文件的修改時間 + 文件名 + 文件尺寸 的結果進行MD5來計算一個文件的HASH值；
3. 瀏覽器的ID 是系統(tǒng)在瀏覽器訪問文件上傳站點時自動給瀏覽器授予的。

//簡單的Cookie幫助函數(shù)??
function?setCookie(cname,cvalue,exdays)??
{??
??var?d?=?new?Date();??
??d.setTime(d.getTime()+(exdays*24*60*60*1000));??
??var?expires?=?"expires="+d.toGMTString();??
??document.cookie?=?cname?+?"="?+?cvalue?+?";?"?+?expires;??
}??
???
???
function?getCookie(cname)??
{??
??var?name?=?cname?+?"=";??
??var?ca?=?document.cookie.split(';');??
??for(var?i=0;?i??{??
????var?c?=?ca[i].trim();??
????if?(c.indexOf(name)==0)?return?c.substring(name.length,c.length);??
??}??
??return?"";??
}??
//??
//簡單的文件HASH值計算，如果您不是十分考究，應該可以用于產品。??
//由于計算文件HASH值用到了多種數(shù)據(jù)，因此在HYFileUploader系統(tǒng)范圍內發(fā)生HASH沖突的可能性應該非常小，應該可以放心使用。??
//獲取文件的ID可以用任何算法來實現(xiàn)，只要保證做到同一文件的ID是相同的即可，獲取的ID長度不要超過32字節(jié)??
//??
function?getFileId?(file)???
{??
????//給瀏覽器授予一個唯一的ID用于區(qū)分不同的瀏覽器實例（不同機器或者相同機器不同廠家的瀏覽器）??
????var?clientid?=?getCookie("HUAYIUPLOAD");??
????if?(clientid?==?"")?{??
????????//用一個隨機值來做瀏覽器的ID，將作為文件HASH值的一部分??
????????var?rand?=?parseInt(Math.random()?*?1000);??
????????var?t?=?(new?Date()).getTime();??
????????clientid?=rand+'T'+t;??
??????????
????????setCookie("HUAYIUPLOAD",clientid,365);??
????}??
??????
????var?info?=?clientid;??
????if?(file.lastModified)??
????????info?+=?file.lastModified;??
????if?(file.name)??
????????info?+=?file.name;??
????if?(file.size)??
????????info?+=?file.size;??
????//https://cdn.bootcss.com/blueimp-md5/2.10.0/js/md5.min.js??
????var?fileid?=?md5(info);??
????return?fileid;??
}??

筆者認為：不必通過讀取文件的內容來計算HASH值，這樣會非常慢的。如果確實需要實現(xiàn)HTTP秒傳，可能得這么做，這樣如果不同的人上傳的文件內容一致，就可避免重復上傳，直接返回結果即可。

之所以給瀏覽器賦予一個ID，這樣可以進一步避免別的計算機的同名同尺寸文件的HASH值沖突。

二、查詢文件的HASH值

在文件上傳支持，先通過文件的HASH值從上傳服務器查詢文件的上傳進度信息，然后從上傳進度位置開始上傳，代碼如下：

var?fileObj?=?currentfile;??
var?fileid?=?getFileId(fileObj);??
var?t?=?(new?Date()).getTime();??
//通過以下URL獲取文件的斷點續(xù)傳信息，必須的參數(shù)為fileid，后面追加t參數(shù)是避免瀏覽器緩存??
var?url?=?resume_info_url?+?'?fileid='+fileid?+?'&t='+t;??
??
var?ajax?=?new?XMLHttpRequest();??
??
ajax.onreadystatechange?=?function?()?{???
????if(this.readyState?==?4){??
????????if?(this.status?==?200){??
????????????var?response?=?this.responseText;??
??????????????
????????????var?result?=?JSON.parse(response);??
????????????if?(!result)?{??
????????????????alert('服務器返回的數(shù)據(jù)不正確，可能是不兼容的服務器');??
????????????????return;??
????????????}??
????????????//斷點續(xù)傳信息返回的文件對象包含已經上傳的尺寸??
????????????var?uploadedBytes?=?result.file?&&?result.file.size;??
????????????if?(!result.file.finished?&&?uploadedBytes?????????????????upload_file(fileObj,uploadedBytes,fileid);??
????????????}??
????????????else?{??
????????????????//文件已經上傳完成了，就不要再上傳了，直接返回結果就可以了??
????????????????showUploadedFile(result.file);??
????????????????//模擬進度完成??
????????????????//var?progressBar?=?document.getElementById('progressbar');??
????????????????//progressBar.value?=?100;??
????????????}??
??????????????
????????}else?{??
????????????alert('獲取文件斷點續(xù)傳信息失敗');??
????????}????
????}???
}??
??
ajax.open('get',url,true);??
ajax.send(null);??

以上是通過 jQuery-file-upload組件的實現(xiàn)，通過原始Javascript的實現(xiàn)代碼請參見demos目錄的h4resume.html樣本代碼。

三、執(zhí)行上傳

在查詢完文件的斷點續(xù)傳信息后，如果文件確實以前已經上傳，服務器將返回已經上傳過的文件尺寸，我們接著從已經上傳的文件尺寸位置開始上傳數(shù)據(jù)即可。

html5的File對象的 slice 可以用于從文件切取片段來上傳。

定義和用法

slice() 方法可提取字文件的某個部分，并以新的字符串返回被提取的部分。

語法

File.slice(start,end)

參數(shù) 描述

start 要抽取的片斷的起始下標。如果是負數(shù)，則該參數(shù)規(guī)定的是從字符串的尾部開始算起的位置。也就是說，-1 指字符串的最后一個字符，-2 指倒數(shù)第二個字符，以此類推。

end 緊接著要抽取的片段的結尾的下標。若未指定此參數(shù)，則要提取的子串包括 start 到原字符串結尾的字符串。另外，關注Java知音公眾號，回復“后端面試”，送你一份面試題寶典！

如果該參數(shù)是負數(shù)，那么它規(guī)定的是從字符串的尾部開始算起的位置。

實現(xiàn)分片文件上傳的代碼如下：

/*??
文件上傳處理代碼??
fileObj?:?html5?File?對象??
start_offset:?上傳的數(shù)據(jù)相對于文件頭的起始位置??
fileid:?文件的ID，這個是上面的getFileId?函數(shù)獲取的，??
*/??
function?upload_file(fileObj,start_offset,fileid)??
{??
?var?xhr?=?new?XMLHttpRequest();??
?var?formData?=?new?FormData();??
???
?var?blobfile;??
???
?if(start_offset?>=?fileObj.size){??
??return?false;??
?}??
???
?var?bitrateDiv?=?document.getElementById("bitrate");??
?var?finishDiv?=?document.getElementById("finish");??
?var?progressBar?=?document.getElementById('progressbar');??
?var?progressDiv?=?document.getElementById('percent-label');??
???
?var?oldTimestamp?=?0;??
?var?oldLoadsize?=?0;??
?var?totalFilesize?=?fileObj.size;??
?if?(totalFilesize?==?0)?return;??
???
?var?uploadProgress?=?function?(evt)?{??
??if?(evt.lengthComputable)?{??
???var?uploadedSize?=?evt.loaded?+?start_offset;???
???var?percentComplete?=?Math.round(uploadedSize?*?100?/?totalFilesize);??
???
???var?timestamp?=?(new?Date()).valueOf();??
???var?isFinish?=?evt.loaded?==?evt.total;??
???
???if?(timestamp?>?oldTimestamp?||?isFinish)?{??
????var?duration?=?timestamp?-?oldTimestamp;??
????if?(duration?>?500?||?isFinish)?{??
?????var?size?=?evt.loaded?-?oldLoadsize;??
???
?????var?bitrate?=?(size?*?8?/?duration?/1024)?*?1000;?//kbps??
?????if?(bitrate?>?1000)??
??????bitrate?=?Math.round(bitrate?/?1000)?+?'Mbps';??
?????else??
??????bitrate?=?Math.round(bitrate)?+?'Kbps';??
???
?????var?finish?=?evt.loaded?+?start_offset;??
???
?????if?(finish?>?1048576)??
??????finish?=?(Math.round(finish?/?(1048576/100))?/?100).toString()?+?'MB';??
?????else??
??????finish?=?(Math.round(finish?/?(1024/100)?)?/?100).toString()?+?'KB';??
???
?????progressBar.value?=?percentComplete;??
?????progressDiv.innerHTML?=?percentComplete.toString()?+?'%';??
?????bitrateDiv.innerHTML?=?bitrate;??
?????finishDiv.innerHTML?=?finish;??
???
?????oldTimestamp?=?timestamp;??
?????oldLoadsize?=?evt.loaded;??
????}??
???}??
??}??
??else?{??
???progressDiv.innerHTML?=?'N/A';??
??}??
?}??
???
?xhr.onreadystatechange?=?function(){??
????if?(?xhr.readyState?==?4?&&?xhr.status?==?200?)?{??
??????console.log(?xhr.responseText?);??
????????
????}??
??else?if?(xhr.status?==?400)?{??
?????
??}??
??};??
???
?var?uploadComplete?=?function?(evt)?{??
??progressDiv.innerHTML?=?'100%';??
???
??var?result?=?JSON.parse(evt.target.responseText);??
??if?(result.result?==?'success')?{??
???showUploadedFile(result.files[0]);??
??}??
??else?{??
???alert(result.msg);??
??}??
?}??
???
?var?uploadFailed?=?function?(evt)?{??
??alert("上傳文件失敗！");??
?}??
???
?var?uploadCanceled?=?function?(evt)?{??
??alert("上傳被取消或者瀏覽器斷開了連接！");??
?}??
???
?//設置超時時間,由于是上傳大文件，因此千萬不要設置超時??
?//xhr.timeout?=?20000;??
?//xhr.ontimeout?=?function(event){??
??//? alert('文件上傳時間太長，服務器在規(guī)定的時間內沒有響應！');??
??//}???????????
???
?xhr.overrideMimeType("application/octet-stream");???
???
?var?filesize?=?fileObj.size;??
?var?blob?=?fileObj.slice(start_offset,filesize);??
?var?fileOfBlob?=?new?File([blob],?fileObj.name);??
?//附加的文件數(shù)據(jù)應該放在請求的前面??
?formData.append('filename',?fileObj.name);??
?//必須將fileid信息傳送給服務器，服務器只有在獲得了fileid信息后才對文件做斷點續(xù)傳處理??
?formData.append('fileid',?fileid);??
?//請將文件數(shù)據(jù)放在最后的域??
?//formData.append("file",blob,?fileObj.name);??
?formData.append('file',?fileOfBlob);??
???
?xhr.upload.addEventListener("progress",?uploadProgress,?false);??
???
?xhr.addEventListener("load",?uploadComplete,?false);??
?xhr.addEventListener("error",?uploadFailed,?false);??
?xhr.addEventListener("abort",?uploadCanceled,?false);??
?xhr.open('POST',?upload_file_url);??
?//??
?xhr.send(formData);??
}??

為了驗證文件斷點續(xù)傳，筆者做了一個簡單的界面，用于顯示文件上傳的過程中的狀態(tài)信息，界面如下：

通過HTML可以計算文件上傳的進度，文件已經上傳的尺寸，文件上傳的位率等信息，如果在上傳過程中出現(xiàn)任何異常，則重新上傳即可，已經上傳的部分將不需要重新上傳。

為了驗證HTML5斷點續(xù)傳，可以通過 github來下載 這個文件上傳服務器來進行測試。

https://github.com/wenshui2008/UploadServer