蘇勇（Andrew SU）是瑞薩電子中國市場部的在AI產品方向上的高級技術專家，負責瑞薩電子的AI相關產品和技術方案面向中國市場的產品定義和運營。

什么是RUHMI？

伴隨著瑞薩新推出了集成了Ethos-U55 NPU和Arm Cortex-M85 CPU內核的全新高性能RA8P1微控制器，瑞薩提供了一套用于將常用AI模型部署到高性能計算平臺的工具，以充分利用目標平臺的硬件AI計算加速單元完成AI計算任務，這就是RUHMI。

RUHMI的全稱是“Robust Unified Heterogenous Model Integration”，意為“健壯的、通用的、可適配異構芯片平臺的模型轉換器”。如圖1所示。

圖 1：RUHMI的全稱

使用RUHMI工具集，可將常用機器學習開發(fā)平臺，例如TensorFlow、PyTorch開發(fā)的以及ONNX格式保存的模型轉換成可直接部署在瑞薩處理器平臺（例如RA8P1）上的C源碼（由CPU執(zhí)行）和二進制可執(zhí)行程序（由NPU執(zhí)行）。

特別對于集成了Ethos-U55這樣的專用NPU的硬件平臺，使用RUHMI工具集完成部署的機器學習模型執(zhí)行效率，要遠高于使用通用工具實現同樣的功能。

熟悉瑞薩AI產品家族的開發(fā)者可能會想到為支持瑞薩自主研發(fā)DRP-AI硬件加速引擎而開發(fā)的DRP-AI TVM工具，可以將一些視覺AI模型部署到RZ/V芯片平臺上（Arm Cortex-A55+DRP-AI），實際上，RUHMI的設計就借鑒了DRP-AI TVM的關鍵技術。

RUHMI面向不同階段的開發(fā)者提供了命令行和圖形化界面兩種使用方式，用以為用戶提供更好的AI編譯器/轉換器開發(fā)體驗。并且隨著RUHMI后續(xù)支持更多瑞薩的芯片產品，將會整合MCU和MPU的AI開發(fā)工具鏈，將硬件的差異性同模型開發(fā)分離出來，讓AI應用開發(fā)者更專注于模型的設計和開發(fā)，而硬件層面上始終可以受益于最優(yōu)化的執(zhí)行效率。

RUHMI的技術細節(jié)

RUHMI是一個工具集，內部包含一系列可以單獨完成任務的工具。例如，RUHMI使用模型解析器（Model Importer/Parser）將多種開源的模型結構文件轉換成中間層代碼（Intermediate Representation），然后通過模型優(yōu)化器（Model Optimizer）對模型進行優(yōu)化，包括量化（將FT32量化成INT8）、微調和剪枝，然后將能夠被硬件加速單元（NPU）處理的計算過程和需要軟件處理（CPU）的計算過程分割開來，分別生成適用于專用硬件單元和CPU的源碼或可執(zhí)行二進制文件。

圖 2：RUHMI的功能框圖

開始使用RUHMI開發(fā)

使用RUHMI的開發(fā)流是非常簡單的。對于開發(fā)者，先通過瑞薩的RUHMI產品主頁訪問到RUHMI在GitHub上的項目主頁，然后下載對應的工具軟件包并安裝到本地主機，運行工具轉換，然后將轉換后的代碼/二進制文件集成到嵌入式工程的源碼工程中，編譯下載，即可完成部署。如圖3所示。

圖 3：使用RUHMI的開發(fā)流

其中，RUHMI在GitHub上的項目主頁如圖4-5所示。

左右滑動查看圖4-5

RUHMI在GitHub站點的項目主頁

使用RUHMI對模型進行轉換，有兩種方式，命令行和圖形用戶界面。圖形界面適合對模型轉換器進行簡單試用，對于資深開發(fā)者建議使用命令行方式，以使用更多功能的API，并方便集成至自動化工作流中。另外，命令行開發(fā)方式還可適用于Linux系統(tǒng)平臺。如圖6所示。

圖 6：RUHMI的命令行和圖形用戶界面

RUHMI的圖形用戶界面工具是集成至瑞薩的e2Studio集成開發(fā)環(huán)境中，生成的源文件和二進制文件最終在e2Studio環(huán)境中編譯生成部署在目標芯片的固件文件，可以下載至芯片中運行。

樣例和性能

實際上，首次發(fā)布的RUHMI工具包中已經包含了兩個用例，基于瑞薩官方的EK-RA8P1電路板，分別實現了人臉識別和圖像分類兩個模型在RA8P1芯片上的部署。設計程序的系統(tǒng)框圖，如圖7所示。

圖 7：RUHMI的兩個樣例工程：人臉識別和圖像分類

通過分別運行這兩個用例，啟用NPU（Ethos-U55）的情況下，相對于不使用NPU的，執(zhí)行推理提速將近20倍。如圖8所示。

圖 8：RUHMI使用NPU明顯提速

樣例和性能

目前，RUHMI在GitHub站點上的產品主頁已經對公眾開放，提供充分的文檔、軟件工具以及樣例工程，開發(fā)者可以前往下載，安裝并試用。

瑞薩電子將面向中國的開發(fā)者組織線上和線下的培訓和技術交流。