產(chǎn)業(yè)智能落地難，5G+Edge如何推進(jìn)AI工程化？
物聯(lián)網(wǎng)智庫(kù) 原創(chuàng)
轉(zhuǎn)載請(qǐng)注明來(lái)源和出處
導(dǎo) 讀
邊緣計(jì)算將作為不可或缺的配套基礎(chǔ)設(shè)施，實(shí)現(xiàn)行業(yè)數(shù)字化轉(zhuǎn)型，同時(shí)在5G和AI技術(shù)加持下，將不斷加速邊緣計(jì)算落地到豐富的應(yīng)用場(chǎng)景中。
自2019年工信部向三大運(yùn)營(yíng)商頒發(fā)“5G牌照”至今已兩年有余，國(guó)內(nèi)5G網(wǎng)絡(luò)建設(shè)取得的領(lǐng)先優(yōu)勢(shì)有目共睹，恰逢我國(guó)“十四五”開(kāi)局之年，《中華人民共和國(guó)國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》中明確提出，加快推動(dòng)數(shù)字產(chǎn)業(yè)化，構(gòu)建基于5G的應(yīng)用場(chǎng)景和產(chǎn)業(yè)生態(tài)，在智能交通、智慧物流、智慧能源、智慧醫(yī)療等重點(diǎn)領(lǐng)域開(kāi)展試點(diǎn)示范。
作為未來(lái)5-10年內(nèi)的主流移動(dòng)通信方式，5G網(wǎng)絡(luò)建設(shè)如火如荼推進(jìn)的同時(shí)，隨著越來(lái)越多的終端設(shè)備接入5G網(wǎng)絡(luò)，隨之而來(lái)的數(shù)據(jù)量也與日俱增，無(wú)疑對(duì)后端計(jì)算提出了更大的挑戰(zhàn)。
然而，正所謂“危機(jī)共生”，激增的數(shù)據(jù)規(guī)模也極大推動(dòng)了5G、IoT、AI三大細(xì)分領(lǐng)域走向融合，進(jìn)而為傳統(tǒng)行業(yè)的智能化轉(zhuǎn)型注入驅(qū)動(dòng)力。而在后端計(jì)算領(lǐng)域，5G的發(fā)展不僅沒(méi)有使數(shù)據(jù)直達(dá)入云，反而憑借其大帶寬、低時(shí)延、高可靠特性進(jìn)一步促進(jìn)了邊緣計(jì)算的崛起，根據(jù)相關(guān)市場(chǎng)機(jī)構(gòu)預(yù)測(cè)，到2024年邊緣計(jì)算市場(chǎng)規(guī)模將達(dá)到90億美元，到2027年則有望達(dá)到183億美元。
在7月22日舉辦的2021摯物·AIoT產(chǎn)業(yè)領(lǐng)袖峰會(huì)（簡(jiǎn)稱“摯物大會(huì)”）上，創(chuàng)通聯(lián)達(dá)副總裁楊新輝在“5G To B”分論壇上為觀眾帶來(lái)了題為《5G+Edge驅(qū)動(dòng)行業(yè)智慧化轉(zhuǎn)型》的精彩演講，分享了其對(duì)于5G、邊緣計(jì)算、AI在產(chǎn)業(yè)應(yīng)用中的深度觀察，以及創(chuàng)通聯(lián)達(dá)在“5G+Edge”領(lǐng)域的落地成果。除此之外，北京創(chuàng)通聯(lián)達(dá)智能技術(shù)有限公司還榮獲“2021‘摯物獎(jiǎng)’·5G技術(shù)應(yīng)用先鋒企業(yè)獎(jiǎng)”。
突破AI工程化桎梏
邊緣計(jì)算有效彌補(bǔ)了云計(jì)算在時(shí)效性、傳輸距離、安全性等方面的不足，可以在靠近用戶的邊緣節(jié)點(diǎn)進(jìn)行數(shù)據(jù)處理，大大緩解后端計(jì)算壓力的同時(shí)也保障了計(jì)算的即時(shí)性。而5G與邊緣計(jì)算的結(jié)合更是相得益彰，一方面，5G網(wǎng)絡(luò)通信保障了數(shù)據(jù)本地化處理的實(shí)時(shí)性與穩(wěn)定性；另一方面，通過(guò)將計(jì)算從數(shù)據(jù)中心向邊緣下沉，可以更好地將低時(shí)延特性作用到終端設(shè)備上，加之AI的助力使得邊緣節(jié)點(diǎn)的運(yùn)算具備了智能分析能力。
創(chuàng)通聯(lián)達(dá)副總裁楊新輝表示，邊緣計(jì)算將作為不可或缺的配套基礎(chǔ)設(shè)施，實(shí)現(xiàn)行業(yè)數(shù)字化轉(zhuǎn)型，同時(shí)在5G和AI技術(shù)加持下，將不斷加速邊緣計(jì)算落地到豐富的應(yīng)用場(chǎng)景中。
功過(guò)參半，AI將邊緣計(jì)算推向更高階層的同時(shí)，其自身存在的技術(shù)門檻高、流程復(fù)雜、業(yè)務(wù)產(chǎn)出比低、敏捷響應(yīng)度低等諸多挑戰(zhàn)，貫穿從AI模型開(kāi)發(fā)到部署應(yīng)用的整個(gè)環(huán)節(jié)，也在某種程度上限制了邊緣智能在產(chǎn)業(yè)中的落地。正如楊新輝所述，制約產(chǎn)業(yè)智能化進(jìn)程的最大因素便是AI的工程化。
在數(shù)據(jù)開(kāi)發(fā)階段需要綜合考慮數(shù)據(jù)安全性、工具友好性、管理有效性；
在模型開(kāi)發(fā)階段，則要面臨成本高、難度大、技術(shù)要求高等問(wèn)題；
在AI工程化階段存在碎片化、效率低、邊緣能力弱等挑戰(zhàn)。
針對(duì)于此，創(chuàng)通聯(lián)達(dá)從流程化出發(fā)，開(kāi)發(fā)了ModelFarm AI平臺(tái)以解決AI工程化難題。
創(chuàng)通聯(lián)達(dá)的ModelFarm平臺(tái)能夠提供全流程的AI開(kāi)發(fā)部署能力，提供4個(gè)易用的標(biāo)注工具，50個(gè)SOTA預(yù)訓(xùn)練模型，可支持包括SNPE、TensorFlow Lite,、Tensor RT,、Open VINO在內(nèi)的不同推理引擎，同時(shí)可通過(guò)量化訓(xùn)練，提升邊緣側(cè)推理能力，在實(shí)現(xiàn)設(shè)備管理的同時(shí)，支持遠(yuǎn)程算法及應(yīng)用部署?；贛odelFarm平臺(tái)，企業(yè)整體開(kāi)發(fā)成本降低70%，同時(shí)開(kāi)發(fā)效率提升10%以上，有效加速了智慧工業(yè)、智慧樓宇、智慧交通、智慧作業(yè)等領(lǐng)域AI項(xiàng)目的落地。
軟硬結(jié)合，全面賦能“5G+Edge”
創(chuàng)通聯(lián)達(dá)積極布局5G和邊緣計(jì)算領(lǐng)域，從開(kāi)發(fā)、調(diào)試、交付到運(yùn)維，保障企業(yè)能夠利用人工智能改善盈利空間。據(jù)楊新輝介紹，創(chuàng)通聯(lián)達(dá)采用“DevOps”理念，實(shí)現(xiàn)一體化的開(kāi)發(fā)與智慧運(yùn)維：
其中，ModelFarm平臺(tái)可實(shí)現(xiàn)AI模型訓(xùn)練，IoT Harbor平臺(tái)可實(shí)現(xiàn)設(shè)備管理、FOTA、規(guī)則引擎、數(shù)據(jù)管理、應(yīng)用管理，邊緣側(cè)的OS組件可快速滿足邊緣操作系統(tǒng)的功能要求。
Osware.connect：支持邊云協(xié)同與邊緣自治，邊緣設(shè)備能在與云端斷開(kāi)連接后繼續(xù)保持工作，且邊緣設(shè)備恢復(fù)云端連接后可以與云端進(jìn)行同步，以保持狀態(tài)一致、數(shù)據(jù)一致；支持算力組網(wǎng)，算力任務(wù)自動(dòng)調(diào)配到最佳計(jì)算節(jié)點(diǎn)進(jìn)行處理，還可以通過(guò)增加算力使得計(jì)算效率大幅提升；支持多設(shè)備協(xié)同工作，包括工業(yè)領(lǐng)域內(nèi)多機(jī)器人協(xié)同工作與工業(yè)領(lǐng)域內(nèi)質(zhì)檢設(shè)備和機(jī)械臂設(shè)備協(xié)同工作等。
Osware.edgey：可通過(guò)提供鏡像管理、接口定義、持續(xù)部署等關(guān)鍵能力，簡(jiǎn)化微服務(wù)的交付模式，加速邊緣應(yīng)用交付；可通過(guò)屏蔽分布式開(kāi)發(fā)的復(fù)雜性，在開(kāi)發(fā)、服務(wù)、數(shù)據(jù)、運(yùn)行、運(yùn)維等多個(gè)層面進(jìn)行能力聚合；可在層級(jí)模塊之間使用基于標(biāo)準(zhǔn)化的數(shù)據(jù)接口和指令接口構(gòu)建API生態(tài)；可整合業(yè)界主流技術(shù)架構(gòu)體系，建立分布式架構(gòu)的技術(shù)基線；支持基于客戶的需求實(shí)現(xiàn)高度的定制化能力。
在硬件方面，創(chuàng)通聯(lián)達(dá)推出了融合“5G+AI+Edge”技術(shù)的軟硬件一體化產(chǎn)品——EB5邊緣智能站：
在硬件設(shè)計(jì)上，它提供了最高主頻為2.84GHz的8核CPU 15T算力， 8GB LPDDR5內(nèi)存，能夠支持24路全高清視頻解碼及多種AI推理模型并發(fā)，支持5G 和WiFi6 連接，同時(shí)采用工業(yè)級(jí)無(wú)風(fēng)扇散熱設(shè)計(jì)，使該產(chǎn)品能夠完美應(yīng)對(duì)各種苛刻的使用環(huán)境要求；
在軟件方面， EB5邊緣智能站內(nèi)置智能邊緣操作系統(tǒng)，邊緣計(jì)算平臺(tái)架構(gòu)，基于EdgeX開(kāi)源框架，增加對(duì)垂直領(lǐng)域內(nèi)設(shè)備接入和控制協(xié)議的支持，增加對(duì)k3s等編排框架的支持；基于邊云協(xié)同，對(duì)接主流云廠商的服務(wù)，支持設(shè)備管理，系統(tǒng)升級(jí)，應(yīng)用分發(fā)等；提供邊緣側(cè)系統(tǒng)級(jí)關(guān)鍵服務(wù)；支持實(shí)時(shí)處理。
除此之外，創(chuàng)通聯(lián)達(dá)還推出了EB5智能魔方（Edge AI Cube）幫助企業(yè)快速實(shí)現(xiàn)智能化轉(zhuǎn)型，以及高性價(jià)比的TurboX CT4350 5G智能通信模組，集成了Qualcomm? Snapdragon? 480 5G移動(dòng)平臺(tái)，可完美適用于手持終端、行車記錄儀、智能POS機(jī)、無(wú)人機(jī)等領(lǐng)域。
在“摯物大會(huì)”的“5G To B”分論壇圓桌對(duì)話環(huán)節(jié)，創(chuàng)通聯(lián)達(dá)副總裁楊新輝與中國(guó)信息通信研究院專家趙小飛以及騰訊游戲技術(shù)運(yùn)營(yíng)部高級(jí)工程師馬嘯虎、有方科技副總裁羅偉、鼎橋通信技術(shù)預(yù)研部總監(jiān)佟學(xué)儉、吾愛(ài)易達(dá)聯(lián)合創(chuàng)始人李亞春、北京中微普業(yè)5G市場(chǎng)營(yíng)銷總經(jīng)理袁為化等行業(yè)專家就5G產(chǎn)業(yè)新趨勢(shì)展開(kāi)了精彩的思想碰撞。
楊新輝提出，5G發(fā)展主要是由應(yīng)用驅(qū)動(dòng)的，無(wú)論是國(guó)家層面，還是模組廠商都是在鋪設(shè)管道和基礎(chǔ)設(shè)施，當(dāng)閾值達(dá)到一定規(guī)模的時(shí)候，應(yīng)用就會(huì)爆發(fā)。
寫在最后
創(chuàng)通聯(lián)達(dá)基于深度技術(shù)積累，為企業(yè)級(jí)客戶提供了貫穿芯片層、驅(qū)動(dòng)層、操作系統(tǒng)層、算法層及應(yīng)用層的一站式解決方案，基于“5G+Edge”架構(gòu)，在AI工程化的加持下，正成為物聯(lián)網(wǎng)行業(yè)的賦能者。
點(diǎn)擊文末【閱讀原文】可查看2021摯物大會(huì)——5G ToB分論壇直播回放~
點(diǎn)擊即可下載2020摯物大會(huì)演講PPT
往期精選
