IPFS分布式存儲市場持續(xù)爆發(fā),西部數(shù)據(jù)創(chuàng)新存儲架構如何助力?
自去年以來IPFS分布式存儲技術非常的熱,業(yè)界普遍認為,IPFS將補充甚至會取代HTTP超文本傳輸協(xié)議,成為Web 3.0時代的基礎協(xié)議。同時,IPFS還可以改變當下空耗硬盤資源的“挖礦”方式,能夠讓其變得更具社會價值。那么IPFS技術到底是有何不同之處呢?
什么是IPFS?有何優(yōu)勢?
IPFS(InterPlanetary File System,星際文件系統(tǒng))是一個去中性化的分布式存儲和共享文件的網(wǎng)絡傳輸協(xié)議,它集合了PTP網(wǎng)絡技術,BTcuabo傳輸技術,GIT版本控制,自證明文件系統(tǒng)等技術,而基于IPFS協(xié)議的各個節(jié)點則構成一個分布式網(wǎng)絡,它自2014年開始由Protocol Labs在開源社區(qū)的幫助下發(fā)展,并于2015年5月正式上線。該網(wǎng)絡中的參與者可以相互存儲、索取和傳輸可驗證的數(shù)據(jù)。

當用戶將文件放到IPFS節(jié)點中時,將會得到基于其內(nèi)容計算出的唯一哈希值地址,該哈希值將直接反映文件的內(nèi)容,隨后內(nèi)容會被分割成非常多的小的片段進行分布式存儲,每個片段都會對應一個哈希值,而這些哈希值將會按照數(shù)據(jù)排列,形成一個哈希值列表,當用戶向IPFS網(wǎng)絡請求一個文件哈希時,它會使用這個分布式哈希表找到文件所在的節(jié)點,取回文件并驗證文件數(shù)據(jù)。
相對于目前統(tǒng)治互聯(lián)網(wǎng)的基于域名尋址的HTTP超文本傳輸協(xié)議的中心化存儲來說,IPFS是基于內(nèi)容尋址的點對點的超媒體傳輸協(xié)議,用戶不需要關心服務器位置在哪,也不用考慮文件存儲的名字和路徑,更不用從服務器下載完整的網(wǎng)頁,再去找需要的內(nèi)容,更加的簡潔高效。
為了便于理解HTTP與IPFS的差異,星際大陸CMO兼聯(lián)合創(chuàng)始人熊昌舉例表示:“HTTP是域名尋址,IPFS則是內(nèi)容尋址,比如要用HTTP的方式到我們公司找我,你需要先到園區(qū)門口問一下保安,然后保安告訴你我們在A6棟,你到A6棟按電梯上10樓,然后問公司前臺,然后找到我的辦公室才找到我,它就是有個這樣的過程。IPFS的方式,就是你知道我電話,你直接打給我,你就知道我在哪,直接過去,它就是這樣的簡潔高效。”
而且,由于存儲于IPFS的網(wǎng)絡中的文件,是被分割成了非常多的小的塊,并被加密分散存儲于各個節(jié)點,不再依賴于中心化存儲所需的存儲服務器及主干網(wǎng),可以降低因不可抗力(比如各種自然災害或人為事故造成的服務器或傳輸線路故障、互聯(lián)網(wǎng)管制等 )造成的服務中斷或數(shù)據(jù)丟失的問題,可以更好的保障數(shù)據(jù)的安全。(補充一下,這里所說的數(shù)據(jù)安全,并不代表數(shù)據(jù)的加密安全,IPFS協(xié)議本身并未提供數(shù)據(jù)加密。)
同時,IPFS的網(wǎng)絡中的文件傳輸是以P2P的方式進行傳輸,可以從多個IPFS網(wǎng)絡節(jié)點同時下載,速度非常快。相比中心化的存儲來說,可以節(jié)省近60%的帶寬。
此外,IPFS還提供了文件的歷史版本回溯功能,可以很容易的查看文件的歷史版本,數(shù)據(jù)可以得到永久保存。相比之下,中心化存儲更容易出現(xiàn)因為存儲數(shù)據(jù)過多、存儲成本過高,而進行文件刪除, 無法永久保存。數(shù)據(jù)顯示,Web文件平均生命周期只有100天。
總結來說,相比目前的中心化存儲方案來說,IPFS分布式存儲具有數(shù)據(jù)存儲及訪問更安全、下載速度更快、成本更低等優(yōu)勢。
西部數(shù)據(jù)公司副總裁中國區(qū)業(yè)務總經(jīng)理劉鋼也表示,目前企業(yè)級存儲架構正面臨多方面的挑戰(zhàn):1、數(shù)據(jù)增長迅速(更多的數(shù)據(jù)來源,更多的容量需求);2、存儲性能需求倍增(更低延時,更高、更多帶寬);3、TCO成本負擔增加(需要更低的單位存儲成本、更低的管理維護成本);4、更綠色能耗體系標準(更低W/IO & W/TB,更低PUE)等。相比之下,IPFS分布式存儲架構則弱化了中心化存儲的極致需求,節(jié)省了服務提供成本。

正因為IPFS分布式存儲相對于中心化存儲所具備的天然優(yōu)勢,業(yè)界普遍認為,IPFS將補充甚至會取代HTTP超文本傳輸協(xié)議,成為Web 3.0時代的基礎協(xié)議。
IPFS面臨的挑戰(zhàn)
雖然IPFS項目看似前景無限,但是其也存在著很多值得考慮的問題。
首先,如果有大量的IFPS服務商及個人貢獻者提供存儲器資源,但是如果沒有足夠多的用戶來使用,那么收益就將無法保障,收益不及預期會打擊服務商及個人貢獻者的積極性,從而導致存儲資源的停止增長。
對于這個問題,西部數(shù)據(jù)公司副總裁中國區(qū)業(yè)務總經(jīng)理劉鋼引用IDC預測的數(shù)據(jù)表示,到2024年,以HDD為代表的大數(shù)據(jù)預計將增長到1.62ZB,年復合增長率高達30%左右。而以SSD為代表的快數(shù)據(jù)預計將達到333EB,年復合增長率達到了50%左右。但是每年如此龐大的數(shù)據(jù)量,也只有小于1.5%的數(shù)據(jù)被存儲了。顯然,未來隨著數(shù)據(jù)的爆炸式增長,以及對于數(shù)據(jù)價值的持續(xù)挖掘,需要存儲的數(shù)據(jù)也將會越來越多。

劉鋼強調,在數(shù)字經(jīng)濟時代,數(shù)據(jù)就是石油,就是社會發(fā)展的動力。那么多寶貴的石油或者資源為什么沒有被存儲下來,沒有進行挖掘、進行分析處理?很重要的一個原因是存儲的架構和存儲的技術沒有及時地跟上,以至于有很多數(shù)據(jù)被浪費掉了,沒有辦法被存儲下來并及時使用。所以我們需要創(chuàng)新存儲架構來為更多的數(shù)據(jù)提供海量的存儲,并且能夠快速的訪問。而相對于現(xiàn)在成本更高的中心化存儲方案來說,具備數(shù)據(jù)存儲及訪問更安全、下載速度更快、成本更低等優(yōu)勢的IPFS分布式存儲無疑有著更大的成長空間。
IPFS服務商星際大陸CMO兼聯(lián)合創(chuàng)始人熊昌告訴芯智訊,“互聯(lián)網(wǎng)它也是一種信息傳遞的這種方式,而區(qū)塊鏈加分布存儲其實它是一種價值存儲。它的發(fā)展真的很迅猛,F(xiàn)ilecoin主網(wǎng)從去年10月上線到現(xiàn)在的4月份才才半年時間,但現(xiàn)在的數(shù)據(jù)量已經(jīng)達到了4.4個EB左右。但是你再過半年再看,再過一年看,你會發(fā)現(xiàn)它的增長速度很快。我覺得IPFS這塊的數(shù)據(jù)存儲有可能是傳統(tǒng)的存儲增長速度兩倍、三倍,甚至會更大。”
對于IPFS的應用,雅典娜云池CMO、冰河分布式存儲實驗室秘書長 張曉航女士表示:“在加速商用應用方面,我們冰河分布式存儲實驗室也推出了一些計劃,去鼓勵所有的參與者存儲有效數(shù)據(jù)。我們的云池在實際的商業(yè)應用的落地推進過程當中,也已經(jīng)在無人機、大健康數(shù)據(jù),還有一些金融、遺囑等領域取得了相當不錯的進展。在C端的使用上面,其實現(xiàn)在也已經(jīng)有不少的應用在進行開發(fā),當然目前還比較初級,可能大家做的都是類似于像云盤這樣的一些應用。”
IPFS面臨的另外一個問題在于,隨著大量的IPFS服務商的涌入,大型中心化礦池成為了Filecoin網(wǎng)絡上的主力,真正接入的分散的、成本更低的個人或企業(yè)供應的硬盤資源微乎其微。這些IPFS服務商其實也已經(jīng)成為了另類的中心化存儲服務提供商,那么IPFS服務商的相比傳統(tǒng)的云服務提供商除了分布式存儲技術架構,還有其他優(yōu)勢嗎?
對此,張曉航女士表示:“目前分布式存儲技術服務商,在歸檔數(shù)據(jù)和冷數(shù)據(jù)的存儲成本上,以及安全隱私上是有明顯的優(yōu)勢的。比如無人機建模,它有大量的這種數(shù)據(jù)是需要進行存儲的;再比如說像醫(yī)療健康、基因數(shù)據(jù),還有一些金融領域的一些票據(jù),還有包括像廣電有很多影像數(shù)據(jù)等等,這些數(shù)據(jù)都是屬于對檢索頻率沒那么高,但是它又必須存儲在那里,所以對于這些數(shù)據(jù)來說的話,IPFS其實是一個非常完美的解決方案。”
劉鋼也表示,IPFS的服務商正在在以更快的速度進化,他們幾乎在過去四個季度就走完了云服務商過去四年硬盤的演進過程,對于硬盤的容量需求也快速的從8T進化到了18T。IPFS服務商用了四個季度走完了過去云服務商四年對存儲容量節(jié)點的進化。這也給IPFS服務商帶來了更強的市場競爭力。

“對于IFPS服務商來說,存儲盤從14T升級到18T,在保持同樣原本同樣存儲容量的情況下,服務器數(shù)量可以減少約22%。同時存儲密度提高了,單位功耗也可以降低了約21%,所以整體的部署成本和運維成本都降低了。”劉鋼進一步解釋到。

西部數(shù)據(jù)發(fā)力IPFS市場
眾所周知,作為全球知名的存儲技術廠商,西部數(shù)據(jù)不僅是全球第二大機械硬盤廠商,同時通過收購Sandisk以及旗下的NAND晶圓廠,西部數(shù)據(jù)也成為了全球第三大NAND Flash閃存廠商。
據(jù)了解,西部數(shù)據(jù)旗下合資工廠的NAND Flash的產(chǎn)能,約占全世界NAND Flash產(chǎn)能的33%。另外,不久前西部數(shù)據(jù)還發(fā)布了第6代3D閃存技術,推出了162層的3D閃存,進一步縮小芯片的尺寸,降低了成本、提高性能。據(jù)稱它的程序性能提高兩倍以上,讀取延遲縮短了10%,輸入輸出性能提高了約66%。
可以說,西部數(shù)據(jù)是目前為數(shù)不多的同時擁有完整的機械硬盤、閃存固態(tài)盤技術及產(chǎn)能的頭部存儲廠商。
相對于原來中心化的存算一體的存儲服務器,現(xiàn)在大型的IPFS服務商主要是異構的,即計算集群和存儲集群是分開的。其中計算集群是要求快速的進行數(shù)據(jù)的計算、封裝、上鏈,這個部分(主要是P盤過程)需要快速去完成,這個過程中對于SSD固態(tài)盤的性能要求就非常的高。當上鏈完成之后,存儲數(shù)據(jù)就需要長期的存儲,這個部分就需要低成本、高品質的大容量的硬盤。
針對IPFS服務商的需求和痛點,西部數(shù)據(jù)依托自身在機械硬盤及SSD固體盤兩大產(chǎn)品領域的技術優(yōu)勢以及市場優(yōu)勢,也提供了相應的產(chǎn)品及解決方案,助力IPFS服務商進一步優(yōu)化計算和存儲集群。

比如在高容量機械硬盤方面,西部數(shù)據(jù)擁有18TB硬盤(Ultrastar DC HC550)以及20TB SMR硬盤(Ultrastar DC HC650,單碟2.2TB業(yè)界最高容量),在高容量的SSD固態(tài)盤方面,西部數(shù)據(jù)可提供7.68TB的Ultrastar DC SN640 NVMe SSD以及15.36TB的Ultrastar DC SN840 NVMe SSD。可以在提供高性能、高密度存儲的同時,幫助IPFS服務商降低每TB擁有成本及運維成本。

△西部數(shù)據(jù)展示的存儲產(chǎn)品
“我們的存儲產(chǎn)品可以為IPFS服務商提供更好的可擴展性、高可靠性、低延時、高性能、高可維護性和最優(yōu)的總擁有成本。”劉鋼總結說到。
此外,西部數(shù)據(jù)還攜手浪潮、星辰天合、杉巖數(shù)據(jù)、長城云等合作伙伴,推出了IPFS解決方案。

劉鋼表示:“高速發(fā)展的人工智能在對數(shù)字經(jīng)濟產(chǎn)生巨大賦能和推動的同時,也推動整個計算產(chǎn)業(yè)往“智慧計算”方向演進,巨量模型和海量數(shù)據(jù),對算力和存儲的需求呈指數(shù)級增長。我們很高興能持續(xù)深化與浪潮等合作伙伴的合作,結合雙方前沿科技與產(chǎn)品的獨特優(yōu)勢,協(xié)力打造出高性能、低成本、且兼具穩(wěn)定性與擴展性等特點的卓越解決方案,優(yōu)化資源配置,賦能智慧計算。未來,西部數(shù)據(jù)將與浪潮等合作伙伴加強縱深合作,不斷以創(chuàng)新的數(shù)據(jù)存儲架構和解決方案,應對市場多樣化的需求,并攜手生態(tài)系統(tǒng)中的各方伙伴共同推動智能產(chǎn)業(yè)的轉型與發(fā)展,為行業(yè)用戶創(chuàng)造更多價值。”
作者:芯智訊-浪客劍
地平線征程5流片成功:算力128TOPS,支持L4級自動駕駛!
打造中國版“星鏈”?中國衛(wèi)星網(wǎng)絡集團正式成立
投資近250億美元!英特爾開啟新一輪建廠計劃!目標兩年追上臺積電
突發(fā)!臺灣禁止半導體人才赴大陸工作!遭島內(nèi)網(wǎng)友群嘲
28nm產(chǎn)能有多搶手?聯(lián)電宣布擴產(chǎn)2.75萬片,已被6家芯片廠包下3年基本產(chǎn)能
行業(yè)交流、合作請加微信:icsmart01
芯智訊官方交流群:221807116
