ggml機(jī)器學(xué)習(xí)的張量庫
ggml 是一個(gè)用于機(jī)器學(xué)習(xí)的張量庫。該項(xiàng)目正在開發(fā)中,尚未準(zhǔn)備好用于生產(chǎn)。一些開發(fā)工作目前正在 whisper.cpp repo中進(jìn)行。
特性:
- 用 C 編寫
- 16 位浮點(diǎn)數(shù)支持
- 自動(dòng)微分(WIP 進(jìn)行中)
- ADAM 和 L-BFGS 優(yōu)化器
- 通過 NEON 內(nèi)在函數(shù)和 Accelerate 框架針對(duì) Apple 芯片進(jìn)行了優(yōu)化
- 在 x86 架構(gòu)上使用 AVX 內(nèi)在函數(shù)
- 無第三方依賴
- 運(yùn)行時(shí)零內(nèi)存分配
評(píng)論
圖片
表情
