數(shù)據(jù)存儲(chǔ),下一代技術(shù)方向在哪?


進(jìn)入移動(dòng)互聯(lián)網(wǎng)時(shí)代,存儲(chǔ)應(yīng)用場(chǎng)景急劇變化,下一代數(shù)據(jù)存儲(chǔ)技術(shù)應(yīng)運(yùn)而生。下一代數(shù)據(jù)存儲(chǔ)技術(shù)主要指在存儲(chǔ)介質(zhì)、存儲(chǔ)架構(gòu)、存儲(chǔ)協(xié)議、應(yīng)用模式及運(yùn)維模式等方面迭代創(chuàng)新的一系列技術(shù)的集合,總體呈現(xiàn)出高性能、易于擴(kuò)展、服務(wù)化和智能化等特點(diǎn)。

本文參考自中國(guó)通信院“下一代數(shù)據(jù)存儲(chǔ)技術(shù)研究報(bào)告”,文章將從這五個(gè)方面對(duì)下一代數(shù)據(jù)存儲(chǔ)技術(shù)的演進(jìn)進(jìn)行梳理與分析。
來源:全棧云技術(shù)架構(gòu)
下載鏈接:下一代數(shù)據(jù)存儲(chǔ)技術(shù)研究報(bào)告
全閃存儲(chǔ)指全部由固態(tài)存儲(chǔ)介質(zhì)構(gòu)成的獨(dú)立存儲(chǔ)陣列或設(shè)備。全閃存儲(chǔ)的高速發(fā)展,既是新應(yīng)用對(duì)性能需求驅(qū)動(dòng)的結(jié)果,也是閃存技術(shù)不斷創(chuàng)新的成果。在需求側(cè),當(dāng)前數(shù)據(jù)爆炸式增長(zhǎng),云計(jì)算、物聯(lián)網(wǎng)、大數(shù)據(jù)、人 工智能、區(qū)塊鏈等新技術(shù)快速發(fā)展,驅(qū)動(dòng)人 臉識(shí)別、 自動(dòng)駕駛等新智能應(yīng)用不斷涌現(xiàn),業(yè)界已進(jìn)入智能驅(qū)動(dòng)的新數(shù)據(jù)時(shí)代。這一時(shí)代,數(shù)據(jù)存儲(chǔ)具有三大需求,分別是EB 級(jí)容量、億級(jí)IOPS(每秒進(jìn)行讀寫操作的次數(shù))和智能管理,億級(jí) IOPS 需求使得存儲(chǔ)介質(zhì)的變革勢(shì)在必行。
在技術(shù)側(cè),全閃存儲(chǔ)普遍被認(rèn)為是存儲(chǔ)行業(yè)的發(fā)展方向,其具備遠(yuǎn)高于傳統(tǒng)磁盤存儲(chǔ)的數(shù)據(jù)吞吐能力及更低的時(shí)延。數(shù)據(jù)顯示,固態(tài)硬盤對(duì)比機(jī)械硬盤,擁有更快的讀取速度、更低的功耗以及更低的故障幾率,實(shí)現(xiàn)了對(duì)機(jī)械硬盤性能的全面超越,為底層存儲(chǔ)介質(zhì)的替換提供了客觀條件。

在產(chǎn)品側(cè),各大存儲(chǔ)廠商均推出了全閃存儲(chǔ)產(chǎn)品。如華為的OceanStor Dorado 及浪潮的 HF 系列產(chǎn)品。以 OceanStor Dorado 為例,相較傳統(tǒng)機(jī)械存儲(chǔ),在存儲(chǔ)性能委員會(huì)(SPC)的 SPC-1 基準(zhǔn)下,業(yè)務(wù)性能提升了5倍;在數(shù)據(jù)庫(kù)場(chǎng)景下,業(yè)務(wù)性能提升了10 倍;在虛擬桌面場(chǎng)景下,在Word/PowerPoint/Excel應(yīng)用測(cè)試中,啟動(dòng)響應(yīng)時(shí)間縮短 80%。充分體現(xiàn)了全閃存儲(chǔ)產(chǎn)品優(yōu)異的性能。
非易失性內(nèi)存(Non-Volatile Memory,NVM)是指斷電后,存存的數(shù)據(jù)不會(huì)消失的存儲(chǔ)器,是存儲(chǔ)技術(shù)領(lǐng)域近十余年來最具革命性創(chuàng)新。依據(jù)技術(shù)原理,非易失性內(nèi)存介質(zhì)可分以下幾類。

為開發(fā)出比傳統(tǒng)非易失性存儲(chǔ)介質(zhì)更高速、更低功耗、更高密度、更可靠的新型非易失性存儲(chǔ)介質(zhì),研究者們把目光聚焦到一些特殊材料上,提出了一些存儲(chǔ)介質(zhì)模型。下表對(duì)這五種存儲(chǔ)介質(zhì)的存儲(chǔ)原理、優(yōu)缺點(diǎn)及發(fā)展?fàn)顩r進(jìn)行了簡(jiǎn)要介紹。

隨著存儲(chǔ)技術(shù)的發(fā)展和人們對(duì)存儲(chǔ)性能的不懈追求,高性能存儲(chǔ)的探索開始向內(nèi)存通道遷移。非易失性雙列直插式內(nèi)存模塊(Non-Volatile Dual In-Line Memory Module,NVDIMM)便在這中趨勢(shì)下應(yīng)運(yùn)而生。根據(jù)電子器件工程聯(lián)合委員會(huì)標(biāo)準(zhǔn)化組織的定義,有三種NVDIMM 的實(shí)現(xiàn)方式∶
(1)NVDIMM-N 指在一個(gè)模塊上同時(shí)放入動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器(DRAM)和閃存。通過使用一個(gè)小的后備電源,為掉電時(shí)數(shù)據(jù)從 DRAM 拷貝到閃存中提供足夠的電能,當(dāng)電力恢復(fù)時(shí),再重新加載到DRAM 中。
(2)NVDIMM-F指使用了DRAM的 DDR(雙倍速率,DoubleData Rate)總線 Flash 閃存,一定程度上減少協(xié)議帶來的延遲和開銷,但只支持塊尋址。
(3)NVDIMM-P是真正 DRAM和 Flash閃存的混合。它既支持塊尋址,也支持類似傳統(tǒng) DRAM 的按字節(jié)尋址。容量可以達(dá)到類似 NAND 閃存的 TB 級(jí),又能把延遲保持在102方納秒級(jí)。Intel 發(fā)布的基于 3D XPoint 技術(shù)的英特爾傲騰持久化內(nèi)存,可認(rèn)為是 NVDIMM-P 的一種實(shí)現(xiàn)。
非易失性內(nèi)存的出現(xiàn)填補(bǔ)了從硬盤到DRAM之間,存儲(chǔ)在性能、延遲、容量成本的鴻溝,為多樣化的解決方案奠定了堅(jiān)實(shí)的基礎(chǔ)。非易失性內(nèi)存技術(shù)能夠存儲(chǔ)不適用于DRAM 的龐大數(shù)據(jù)集,進(jìn)行快速計(jì)算,同時(shí)與其他存儲(chǔ)介質(zhì)共同組成多級(jí)存儲(chǔ)池,讓數(shù)據(jù)更加靠近處理器,提升存儲(chǔ)系統(tǒng)的整體性能表現(xiàn)。
大數(shù)據(jù)、云計(jì)算和虛擬化等技術(shù)的出現(xiàn),使得傳統(tǒng)的IT 架構(gòu)難以滿足企業(yè)日益增長(zhǎng)的數(shù)據(jù)存儲(chǔ)需求。為應(yīng)對(duì)這一挑戰(zhàn),軟件定義存儲(chǔ)(SDS,Software Defined Storage)和超融合基礎(chǔ)架構(gòu)(HCI,Hyper-Converged Infrastructure)應(yīng)運(yùn)而生,打破了傳統(tǒng) IT 系統(tǒng)復(fù)雜和繁冗的現(xiàn)狀,優(yōu)化了網(wǎng)絡(luò)的可擴(kuò)展性和管理方式。
企業(yè)對(duì)數(shù)據(jù)服務(wù)的需求變得更加復(fù)雜、精細(xì)和個(gè)性化,對(duì)數(shù)據(jù)存儲(chǔ)的高可靠性、高性能、高擴(kuò)展以及面向云架構(gòu)的延伸能力等層面提出了更高的要求。虛擬化和云技術(shù)的發(fā)展和成熟轉(zhuǎn)變了數(shù)據(jù)中心的設(shè)計(jì)、建造、管理和運(yùn)維方式,這種變革使軟件定義存儲(chǔ)越來越有吸引力。

軟硬解耦、易于擴(kuò)展、自動(dòng)化、基于策略或者應(yīng)用的驅(qū)動(dòng)是軟件定義存儲(chǔ)的特征。就業(yè)務(wù)應(yīng)用來說,即不限制上層應(yīng)用,不綁定下層硬件;除了提供塊存儲(chǔ),也可以在同一平臺(tái)提供文件、對(duì)象、HDFS 等存儲(chǔ)服務(wù),實(shí)現(xiàn)非結(jié)構(gòu)化數(shù)據(jù)的協(xié)議互通;同時(shí)應(yīng)具備完善的監(jiān)控能力,實(shí)現(xiàn)應(yīng)用感知。

軟件定義存儲(chǔ)產(chǎn)品在提供高可靠和高可用服務(wù)能力的同時(shí),集成了數(shù)據(jù)智能處理和分析能力, 簡(jiǎn)化了海量數(shù)據(jù)處理所需的基礎(chǔ)設(shè)施,幫助客戶實(shí)現(xiàn)數(shù)據(jù)互通、資源共享、彈性擴(kuò)展、多云協(xié)作,有效降低用戶的使用成本。Gartner 報(bào)告指出,通過使用 XSKY的 XEDP數(shù)據(jù)存儲(chǔ)平臺(tái),企業(yè)用戶實(shí)現(xiàn)整體使用成本降低 54%。
構(gòu)超融合基礎(chǔ)架構(gòu)是一種軟件定義的 IT 基礎(chǔ)架構(gòu),它可虛擬化常見"硬件定義"系統(tǒng)的所有元素。超融合基礎(chǔ)架構(gòu)包含的最小集合是∶ 虛擬化計(jì)算、虛擬存儲(chǔ)和虛擬網(wǎng)絡(luò); 超融合系統(tǒng)通常運(yùn)行在標(biāo)準(zhǔn)商用服務(wù)器上。

超融合基礎(chǔ)架構(gòu)除對(duì)計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)等基礎(chǔ)元素進(jìn)行虛擬化外,通常還會(huì)包含諸多 IT 架構(gòu)管理功能,多個(gè)單元設(shè)備可以通過網(wǎng)絡(luò)聚合起來,實(shí)現(xiàn)模塊的無縫橫向擴(kuò)展,形成統(tǒng)一資源池。
超融合基礎(chǔ)架構(gòu)通過為企業(yè)客戶提供一種基于通用硬件平臺(tái)的計(jì)算存儲(chǔ)融合解決方案,為用戶實(shí)現(xiàn)可擴(kuò)展的 IT 基礎(chǔ)架構(gòu),提供高效、靈活、可靠的存儲(chǔ)服務(wù)。
超融合由于其融合部署架構(gòu),可有效協(xié)調(diào)虛擬化和存儲(chǔ)高可用聯(lián)動(dòng)的問題,從而以非常簡(jiǎn)潔的架構(gòu)提供不同級(jí)別的高可用方案。

存儲(chǔ)系統(tǒng)整體性能的大幅提升。分布式架構(gòu)提升了系統(tǒng)整體的聚合性能,可以在不改變硬件配置下進(jìn)一步降低訪問延遲。
在存儲(chǔ)系統(tǒng)中,HDD 磁盤和早期 SSD 磁盤的傳輸協(xié)議一般采用AHCI(高級(jí)主機(jī)控制器接口,Advanced Host Controller Interface)。AHCI為單隊(duì)列模式,主機(jī)和 HDD/SSD 之間通過單隊(duì)列進(jìn)行數(shù)據(jù)交互。對(duì)于HDD 這種慢速設(shè)備來說,主要瓶頸在存儲(chǔ)設(shè)備,而非 AHCI協(xié)議。不同于 HDD的順序讀寫特點(diǎn),SSD可以同時(shí)從多個(gè)不同位置讀取數(shù)據(jù), 具有高并發(fā)性。AHCI 的單隊(duì)列模式成為限制 SSD并發(fā)性的瓶頸。隨著存儲(chǔ)介質(zhì)的演進(jìn),SSD盤的 IO 帶寬越來越大,訪問延時(shí)越來越低。AHCI 協(xié)議已經(jīng)不能滿足高性能和低延時(shí) SSD的需求,因此,存儲(chǔ)系統(tǒng)迫切需要更快、更高效的協(xié)議和接口,NVMe(NVM Express)協(xié)議應(yīng)運(yùn)而生。
NVMe協(xié)議旨在提高吞吐量和IOPS,同時(shí)降低延遲。基于NVMe的驅(qū)動(dòng)器可實(shí)現(xiàn)高達(dá) 16Gbps 的吞吐量,且當(dāng)前供應(yīng)商正在推動(dòng) 32Gbps 或更高的吞吐量產(chǎn)品的應(yīng)用。在 IO 方面,許多基于NVMe 的驅(qū)動(dòng)器,其 IOPS可以超過 50 萬,部分可提供 150 萬、200萬甚至1000 萬 IOPS。與此同時(shí),延遲持續(xù)下降,許多驅(qū)動(dòng)器的延遲低于20 微秒,部分低于10微秒。
憑借卓越的性能,NVMe SSD在 2018-2023 年間以 38%的復(fù)合年增長(zhǎng)率持續(xù)增長(zhǎng),2020 年占據(jù)企業(yè)級(jí) SSD出貨量的 55%以上,云客戶、OEM 廠商和企業(yè)均將NVMe SSD 作為存儲(chǔ)設(shè)備的首選。
在網(wǎng)絡(luò)協(xié)議層,30年來,存儲(chǔ)網(wǎng)絡(luò)都是以 SCSI(小型計(jì)算機(jī)系統(tǒng)接口,Small Computer System Interface)協(xié)議為基礎(chǔ)框架,前端傳輸網(wǎng)絡(luò)層一直以 FC(光纖通道,F(xiàn)iber Channel)網(wǎng)絡(luò)為主,后端則以 SAS(串行 SCSI技術(shù),Serial Attached SCSI)網(wǎng)絡(luò)為主,這構(gòu)成了服務(wù)器間以IP 為主要互聯(lián)手段的 IP 存儲(chǔ)網(wǎng)絡(luò)。

2010年后,隨著閃存介質(zhì)的普及,SCSI協(xié)議框架對(duì)性能的限制也越來越突顯出來。NVMe 和 NVMe Over Fabric(NVMe-oF)技術(shù)的出現(xiàn)打破了這些限制,面向高性能介質(zhì)設(shè)計(jì)的多隊(duì)列模型更能發(fā)揮閃存介質(zhì)的性能。NVMe-oF 推動(dòng)IP 化、低時(shí)延化,基于 IP 網(wǎng)絡(luò)的 NVMe-oF 技術(shù)不但使得前端存儲(chǔ)網(wǎng)絡(luò)可以基于 IP直接與本地局域網(wǎng)連接,甚至可以直連廣域網(wǎng);同時(shí),利用 NVMe-oF 技術(shù)小于10us 的超低附加時(shí)延,使得替換后端 SAS 網(wǎng)絡(luò)也成為了可能,整個(gè)數(shù)據(jù)中心可以基于統(tǒng)一的以太網(wǎng)來構(gòu)建; 一方面降低整個(gè)數(shù)據(jù)中心的建設(shè)成本,一方面降低獨(dú)立存儲(chǔ)網(wǎng)絡(luò)的運(yùn)維成本,同時(shí)有利于云及大數(shù)據(jù)應(yīng)用環(huán)境下的數(shù)據(jù)共享。

華為 NoF+存儲(chǔ)網(wǎng)絡(luò)是 NVMe-oF 技術(shù)一個(gè)典型應(yīng)用,在OLTP/OLAP(聯(lián)機(jī)事務(wù)/分析處理過程)場(chǎng)景,IOPS 最高提升 85%,擁塞時(shí)延最大降低 46%,端到端故障切換時(shí)間<1s,充分體現(xiàn)新協(xié)議對(duì)網(wǎng)絡(luò)性能的巨大提升。
云存儲(chǔ)是基于云計(jì)算相關(guān)技術(shù)延伸和發(fā)展而來的全新應(yīng)用模式。云存儲(chǔ)的內(nèi)核是應(yīng)用軟件與存儲(chǔ)設(shè)備相結(jié)合,通過應(yīng)用軟件來實(shí)現(xiàn)存儲(chǔ)設(shè)備向存儲(chǔ)服務(wù)的轉(zhuǎn)變。本質(zhì)上,云存儲(chǔ)是一種服務(wù),是由多個(gè)存儲(chǔ)設(shè)備和服務(wù)器所構(gòu)成的集合體。
通過解耦,計(jì)算與存儲(chǔ)可以在云數(shù)據(jù)中心獨(dú)立擴(kuò)展,提供調(diào)度和資源共享的靈活性,提高資源使用效率,降低成本。其次,計(jì)算和存儲(chǔ)可以更加靈活的針對(duì)不同負(fù)載進(jìn)行優(yōu)化。網(wǎng)絡(luò)技術(shù)的高速發(fā)展,個(gè)位數(shù)微秒的延時(shí)、百 G 級(jí)別的帶寬,使得計(jì)算和存儲(chǔ)分離、分布式存儲(chǔ)等架構(gòu)在穩(wěn)定性和性能等領(lǐng)域變得更加高效。對(duì)于行業(yè)用戶而言,云存儲(chǔ)的價(jià)值主要體現(xiàn)在以下三個(gè)方面∶
提供諸如塊存儲(chǔ)和文件存儲(chǔ)等標(biāo)準(zhǔn)化的存儲(chǔ)方式。云存儲(chǔ)提供標(biāo)準(zhǔn)化接口,使客戶能夠直接遷移數(shù)據(jù),避免應(yīng)用的大量修改。 存儲(chǔ)系統(tǒng)的服務(wù)化。在云計(jì)算時(shí)代,云存儲(chǔ)將存儲(chǔ)系統(tǒng)演化成一種云服務(wù),用戶只需要關(guān)心自己的業(yè)務(wù)邏輯即可。 存儲(chǔ)系統(tǒng)的開放化。云存儲(chǔ)服務(wù)提供眾多管理與控制的API,通過開放接口,使得用戶可以通過編程調(diào)用 API 管理與監(jiān)控存儲(chǔ)資源,實(shí)現(xiàn)跨平臺(tái)的管理。
云存儲(chǔ)在發(fā)展的過程中也面臨著諸多挑戰(zhàn),為滿足云時(shí)代發(fā)展的需求,新一代存儲(chǔ)需要不斷演進(jìn)。
未來云存儲(chǔ)技術(shù)主要呈現(xiàn)出集成設(shè)計(jì)能力不斷加強(qiáng),云上大規(guī)模運(yùn)維能力的不斷提升、云存儲(chǔ)產(chǎn)品形態(tài)不斷豐富三點(diǎn)趨勢(shì)。
隨著數(shù)字化轉(zhuǎn)型的加速,企業(yè)用戶需要更加敏捷地響應(yīng)快速變化的市場(chǎng)需求。不僅是業(yè)務(wù)模式,IT基礎(chǔ)架構(gòu)的革新在其數(shù)字化轉(zhuǎn)型中也是非常關(guān)鍵的一部分。現(xiàn)代化的應(yīng)用、多數(shù)據(jù)中心、多云及邊緣等趨勢(shì)在加速業(yè)務(wù)的同時(shí),也對(duì)運(yùn)營(yíng)管理帶來了巨大的壓力,靠人力投入完全管控存儲(chǔ)系統(tǒng)變得不可維系。運(yùn)維團(tuán)隊(duì)急需新技術(shù)協(xié)助,智能運(yùn)維平臺(tái)應(yīng)運(yùn)而生。
智能運(yùn)維指利用大數(shù)據(jù)和機(jī)器學(xué)習(xí)等方法提高運(yùn)維的自動(dòng)化、效率及故障自愈的技術(shù),同時(shí)利用機(jī)器智能從運(yùn)維數(shù)據(jù)中持續(xù)挖掘深層信息,是一種結(jié)合工程能力與算法能力的綜合性科學(xué)。智能運(yùn)維常用于集群自動(dòng)擴(kuò)縮容、服務(wù)變更、庫(kù)存管理等日常管理事務(wù)以及異常定位、根因分析、系統(tǒng)自愈等異常處理事務(wù)。
智能運(yùn)維架構(gòu)主要由兩部分組成,集成了眾多傳感器的服務(wù)器、存儲(chǔ)設(shè)備和基于云端的智能運(yùn)維平臺(tái)。通過數(shù)據(jù)收集、轉(zhuǎn)換及訓(xùn)練對(duì)基礎(chǔ)架構(gòu)中可能出現(xiàn)的問題做出預(yù)測(cè)并提供建議。智能運(yùn)維技術(shù)的主要特點(diǎn)有∶
主動(dòng)式問題處理∶ 智能運(yùn)維平臺(tái)能夠?qū)?jiǎn)單問題自動(dòng)進(jìn)行處理;對(duì)于復(fù)雜的問題,能夠自動(dòng)開具工單,通過支持中心分派工程師主動(dòng)聯(lián)系用戶,幫助用戶發(fā)現(xiàn)和解決問題。
智能需求預(yù)測(cè)∶ 通過人工智能、機(jī)器學(xué)習(xí)等技術(shù),實(shí)現(xiàn)對(duì)存儲(chǔ)未來容量、性能的提前預(yù)測(cè),便于客戶提前規(guī)劃。
智能風(fēng)險(xiǎn)預(yù)防∶ 除了預(yù)測(cè)分析外,領(lǐng)先的智能運(yùn)維平臺(tái)還能做到對(duì)風(fēng)險(xiǎn)的預(yù)防,主動(dòng)優(yōu)化 IT基礎(chǔ)架構(gòu),通過黑、白名單等功能特性預(yù)防已經(jīng)發(fā)現(xiàn)的問題,并給予可行的建議。
云上管理∶ 基于云創(chuàng)建的智能運(yùn)維平臺(tái),可以讓 IT 運(yùn)營(yíng)團(tuán)隊(duì)隨時(shí)隨地以任意終端訪問智能運(yùn)維平臺(tái),查看運(yùn)行狀態(tài);云端自動(dòng)升級(jí),在新特性上線時(shí),不會(huì)影響用戶的日常使用。
隨著下一代數(shù)據(jù)存儲(chǔ)技術(shù)的發(fā)展和成熟,性能不再是困擾用戶的首要難題,各存儲(chǔ)供應(yīng)商也逐漸將注意力放到智能運(yùn)維上,希望能夠提供更豐富的功能、更好的使用體驗(yàn)。未來智能運(yùn)維平臺(tái)的發(fā)展呈現(xiàn)出以下兩點(diǎn)趨勢(shì)。
一站式分析。存儲(chǔ)的智能運(yùn)維平臺(tái)將逐步成為整個(gè) IT 基礎(chǔ)架構(gòu)運(yùn)維平臺(tái)的核心。通過將服務(wù)器、網(wǎng)絡(luò)、虛擬化應(yīng)用逐步接入智能運(yùn)維平臺(tái),能夠提供更豐富的 IT 運(yùn)行狀態(tài)數(shù)據(jù),幫助智能運(yùn)維平臺(tái)判斷故障和瓶頸。
離線智能。由于監(jiān)管因素的限制,部分企事業(yè)單位無法使用基于云的智能運(yùn)維平臺(tái)。存儲(chǔ)廠商開始考慮提供離線智能運(yùn)維平臺(tái),通過集成智能運(yùn)維平臺(tái)知識(shí)庫(kù),提供基于本地的性能瓶頸分析、容量和性能的預(yù)測(cè)、硬盤故障預(yù)警等功能。
現(xiàn)今,智能運(yùn)維已成為熱 門存儲(chǔ)技術(shù),并在實(shí)踐中逐步應(yīng)用,提供更好的用戶體驗(yàn)。如新華三的InfoSight 智能運(yùn)維系統(tǒng),企業(yè)用戶通過使用智能運(yùn)維系統(tǒng),86%的問題得到自動(dòng)解決;平均給出解決方案的時(shí)間小于 1 分鐘;93%的問題能夠自動(dòng)提交 工單; 用戶滿意度高達(dá)到 98.2%。
來源:全棧云技術(shù)架構(gòu)
推薦閱讀:
相比數(shù)據(jù)中心,邊緣計(jì)算架構(gòu)差異在哪?

轉(zhuǎn)載申明:轉(zhuǎn)載本號(hào)文章請(qǐng)注明作者和來源,本號(hào)發(fā)布文章若存在版權(quán)等問題,請(qǐng)留言聯(lián)系處理,謝謝。
推薦閱讀
更多架構(gòu)相關(guān)技術(shù)知識(shí)總結(jié)請(qǐng)參考“架構(gòu)師全店鋪技術(shù)資料打包”相關(guān)電子書(37本技術(shù)資料打包匯總詳情可通過“閱讀原文”獲取)。
全店內(nèi)容持續(xù)更新,現(xiàn)下單“全店鋪技術(shù)資料打包(全)”,后續(xù)可享全店內(nèi)容更新“免費(fèi)”贈(zèng)閱,價(jià)格僅收198元(原總價(jià)350元)。
溫馨提示:
掃描二維碼關(guān)注公眾號(hào),點(diǎn)擊閱讀原文鏈接獲取“架構(gòu)師技術(shù)全店資料打包匯總(全)”電子書資料詳情。

