云邊端一體化的異構(gòu)AI計(jì)算
中國人工智能市場快速增長，其中邊緣計(jì)算占比越來越高，業(yè)務(wù)場景的碎片化以及底層硬件的多樣性的問題給邊緣計(jì)算的開發(fā)部署帶來較大的挑戰(zhàn)。
本次分享主要介紹阿里云AI異構(gòu)計(jì)算編譯框架HALO以及面向深度學(xué)習(xí)的異構(gòu)硬件統(tǒng)一接口規(guī)范ODLA，通過具體的實(shí)例說明如何利用異構(gòu)編譯和硬件架構(gòu)抽象實(shí)現(xiàn)上層應(yīng)用在異構(gòu)計(jì)算資源上的平滑遷移。后半部分介紹ODLA.CV (多媒體Pipeline自動(dòng)生成)技術(shù)，以及多媒體+AI的相關(guān)探索和應(yīng)用。
通過HALO總體框架介紹，以及異構(gòu)硬件統(tǒng)一接口規(guī)范ODLA，通過靜態(tài)全編譯的方式可以讓業(yè)務(wù)模型跟框架解耦合，通過ODLA實(shí)現(xiàn)和具體硬件解耦合，實(shí)現(xiàn)平滑遷移；通過具體的例子來說明Halo和ODLA的工作流程。
介紹多媒體Pipeline自動(dòng)生成技術(shù)，解決上層業(yè)務(wù)場景的碎片化定制化的問題。
首先，通過HALO靜態(tài)全編譯的方式可以讓業(yè)務(wù)模型跟框架解耦合，同時(shí)提升性能，避免框架開銷；通過ODLA統(tǒng)一抽象的方式實(shí)現(xiàn)和具體硬件解耦合，實(shí)現(xiàn)平滑遷移，產(chǎn)生一次，隨處執(zhí)行；通過HALO/ODLA實(shí)現(xiàn)AI的平滑遷移。
其次，通過多媒體Pipeline自動(dòng)生成技術(shù)解決上層業(yè)務(wù)場景的碎片化（需要高度定制）帶來的開發(fā)效率問題。
最后，介紹多媒體+AI相關(guān)的一些探索和優(yōu)化工作，以及相關(guān)的應(yīng)用落地，和未來的思考。
來源：智能計(jì)算芯世界
來源：智能計(jì)算芯世界
2021年AI在工業(yè)領(lǐng)域的研究報(bào)告
轉(zhuǎn)載申明：轉(zhuǎn)載本號(hào)文章請注明作者和來源，本號(hào)發(fā)布文章若存在版權(quán)等問題，請留言聯(lián)系處理，謝謝。
推薦閱讀
更多架構(gòu)相關(guān)技術(shù)知識(shí)總結(jié)請參考“架構(gòu)師全店鋪技術(shù)資料打包”相關(guān)電子書(37本技術(shù)資料打包匯總詳情可通過“閱讀原文”獲取)。
全店內(nèi)容持續(xù)更新，現(xiàn)下單“全店鋪技術(shù)資料打包(全)”，后續(xù)可享全店內(nèi)容更新“免費(fèi)”贈(zèng)閱，價(jià)格僅收198元(原總價(jià)350元)。
溫馨提示：
掃描二維碼關(guān)注公眾號(hào)，點(diǎn)擊閱讀原文鏈接獲取“架構(gòu)師技術(shù)全店資料打包匯總(全)”電子書資料詳情。
