當(dāng)LiteOS遇上Mindspore，為物聯(lián)網(wǎng)插上AI的翅膀

來源：嵌入式資訊精選

9月10日，在2020年中國嵌入式技術(shù)大會(huì)，嵌入式人工智能技術(shù)與應(yīng)用分論壇上，華為MindSpore端側(cè)開發(fā)專家翟智強(qiáng)做了精彩分享，演講主題為《MindSpore在LiteOS端側(cè)AI技術(shù)實(shí)踐及探索》。講解了在物聯(lián)網(wǎng)端側(cè)資源受限、硬件種類繁多、指令差異化較大等多種挑戰(zhàn)下，MindSpore結(jié)合LiteOS在模型壓縮、性能優(yōu)化、流水線處理等方面的一些工程化實(shí)踐，以及在混合精度量化、硬件平臺(tái)自適應(yīng)等方向的技術(shù)探索

MindSpore是華為自研的全場(chǎng)景訓(xùn)練推理一體化深度學(xué)習(xí)框架和平臺(tái)，覆蓋了云、手機(jī)、IoT等各個(gè)領(lǐng)域AI技術(shù)，LiteOS是輕量級(jí)物聯(lián)網(wǎng)操作系統(tǒng)。

在過去，一些AI算法的訓(xùn)練和推理都是在云上或者服務(wù)器上去實(shí)現(xiàn)的，但是隨著手機(jī)、可穿戴、物聯(lián)網(wǎng)等終端設(shè)備硬件計(jì)算能力的不斷提升，以及算法模型設(shè)計(jì)本身的演進(jìn)，大小更小、能力更強(qiáng)的模型逐漸能夠部署到端上運(yùn)行。在最貼近數(shù)據(jù)源頭的設(shè)備側(cè)實(shí)現(xiàn)機(jī)器學(xué)習(xí)，減少了端側(cè)與云（服務(wù)）側(cè)的數(shù)據(jù)傳輸，降低了響應(yīng)時(shí)延，可以大大提升用戶的體驗(yàn)。

端側(cè)AI及其面臨的挑戰(zhàn)

為了解決端側(cè)AI及其面臨的挑戰(zhàn)，我們推出了LiteOS+ MindSpore Lite 面向物聯(lián)網(wǎng)端側(cè)的輕量級(jí)AI解決方案，突破端側(cè)設(shè)備資源受限、算力低等限制，設(shè)計(jì)提供超輕量級(jí)AI推理解決方案，幫助開發(fā)者快速部署AI模型，滿足智能設(shè)備端側(cè)AI應(yīng)用需求，提升Mobile& IoT解決方案的競(jìng)爭(zhēng)力。

基于LiteOS的端側(cè)AI框架圖

LiteOS 現(xiàn)已集成 MindSpore 輕量級(jí)AI推理框架，在LiteOS Studio中輸入模型文件，例如人臉識(shí)別、指紋識(shí)別等模型文件，MindSpore進(jìn)行模型解析、優(yōu)化，生成模型AI代碼，再鏈接預(yù)置算子庫后與LiteOS工程進(jìn)行編譯，即可將AI模型快速部署到端側(cè)實(shí)現(xiàn)端側(cè)AI推理。

LiteOS Studio開發(fā)流程