Tengine-Lite開源了!新一代AI端側(cè)推理框架

OPEN AI LAB（開放智能）于7月6日正式開源擁有自主知識產(chǎn)權(quán)的全新下一代AI端側(cè)推理框架Tengine-Lite。作為Tengine整體軟件架構(gòu)重構(gòu)的全新下一代產(chǎn)品，Tengine-Lite的推出不僅為開發(fā)者提供了整套便捷的MCU AI開發(fā)工具，還為嵌入式AI軟件產(chǎn)業(yè)建立了開放的開發(fā)生態(tài)平臺。

基于純C代碼重新搭建的更簡潔、高效、代碼可讀性更好的Tengine-Lite，可以說將輕量化無依賴做到了極致。特別適合在各種軟硬件資源受限的嵌入式環(huán)境下使用部署輕量的AI算法模型，并可用于語音、視覺等多種場景。

AI風口下，新秀Tengine-Lite C位出道，都有哪些不容錯過的看點呢？

Tengine-Lite，驅(qū)動最強大腦

越來越多的手機市場用戶，會在意APP的大小。當然，IoT領(lǐng)域用戶也不例外。在低功耗的浪潮下，芯片越來越傾向于片上SRAM與Flash的結(jié)構(gòu)。Tengine-Lite二進制文件庫(包括.a靜態(tài)庫與.so的動態(tài)庫)大小急劇減小，以.so動態(tài)庫為例，Tengine-Lite庫文件大小相較Tengine，較小非常顯著。項目鏈接如下：

Tengine-Lite，獨具高效思維

Tengine-Lite采用前后端松耦合設(shè)計，框架和計算庫采用Plug-in，可以更好地保證后續(xù)異構(gòu)后端的靈活掛載。同時，Tengine-Lite高效的運作思維，使得源代碼編譯時間大幅縮減，極大的增強了用戶代碼編譯的體驗感。

Tengine-Lite，給你“穩(wěn)穩(wěn)的幸福”

性能抖動會對嵌入式平臺和手機平臺的系統(tǒng)性能設(shè)計、用戶使用體驗帶來較大影響。考慮到這一點，Tengine-Lite在單核、雙核、多核的性能穩(wěn)定性方面，相較Tengine有明顯提升。

Tengine-Lite，用智慧“流暢運行”

架構(gòu)重構(gòu)后兼容性方面，也是用戶比較關(guān)心的。現(xiàn)有以下四點說明：

1、NNIR模型格式保留現(xiàn)有tmfile格式，兼容當前應(yīng)用，用戶現(xiàn)有tmfile模型可以無縫切換到新的Tengine-Lite上運行；

2、編譯方式統(tǒng)一，采用CMake進行編譯管理，并將新增一些編譯配置選項（新功能和新特性）；

3、依舊提供.so動態(tài)庫和.a靜態(tài)庫形式，若想不修改代碼可以通過rename庫文件的方式進行代碼復用；

4、保留絕大多數(shù)常用API不變，會增減部分API。原則是刪減對用戶無效或極少使用的API，新增API主要是功能性的，更改的API是提升用戶反饋的易用性；當然也會提供API修改對比文檔。

如果您想了解更多Tengine-Lite的功能、應(yīng)用信息，請掃描下面的二維碼加入技術(shù)交流QQ群，有數(shù)位行業(yè)大佬坐鎮(zhèn)，隨時與我們溝通。

全新下一代AI端側(cè)推理框架

Tengine-Lite GitHub開源鏈接?

https://github.com/OAID/Tengine/tree/tengine-lite

歡迎大家Star、Watch、Fork三部曲

▼

整理不易，請給CVer點贊和在看！