當(dāng)你拿到性能強(qiáng)大的RK3568核心板，是否曾對(duì)那顆標(biāo)稱1Tops的NPU感到無(wú)從下手？特別是在Android系統(tǒng)上，如何繞過(guò)復(fù)雜的環(huán)境配置，快速部署AI模型？本文將拋開(kāi)理論，直擊實(shí)戰(zhàn)，手把手帶你利用迅為提供的完整資料，在Android系統(tǒng)上點(diǎn)亮NPU，讓你的AI應(yīng)用跑得更快、更穩(wěn)。

為什么選擇迅為的官方工具鏈？

RK3568的NPU確實(shí)強(qiáng)大，但對(duì)許多開(kāi)發(fā)者而言，它就像一座“鎖住的金礦”。從零開(kāi)始交叉編譯、解決依賴、適配系統(tǒng)……這個(gè)過(guò)程不僅繁瑣，還極易因版本問(wèn)題無(wú)法發(fā)揮硬件最佳性能。

迅為提供的RKNPU2工具鏈，其核心價(jià)值在于：

·開(kāi)箱即用：工具已預(yù)編譯，與Android系統(tǒng)內(nèi)核、驅(qū)動(dòng)深度適配，省去大量環(huán)境配置時(shí)間。
·性能最優(yōu)：針對(duì)迅為硬件進(jìn)行了底層參數(shù)調(diào)優(yōu)，確保NPU算力被高效利用。
·生態(tài)完整：從模型轉(zhuǎn)換、示例代碼到部署指南，提供了詳情手冊(cè)。

接下來(lái)，我們將進(jìn)入最核心的實(shí)戰(zhàn)環(huán)節(jié)。

讓NPU跑起來(lái)-在Android系統(tǒng)中使用NPU

下載rknpu2并拷貝到虛擬機(jī)Ubuntu，如下圖所示，RKNPU2提供了訪問(wèn)

rk3568芯片NPU的高級(jí)接口。

下載地址為“iTOP-3568開(kāi)發(fā)板\02_【iTOP-RK3568開(kāi)發(fā)板】開(kāi)發(fā)資料\11_NPU

使用配套資料\01_rknpu2工具”

Android平臺(tái)有倆種方式來(lái)調(diào)用RKNN API

第一種：AI應(yīng)用直接鏈接RKNN SDK庫(kù)文件librknnrt.so

第二種：應(yīng)用鏈接Android平臺(tái)HIDL實(shí)現(xiàn)的librknn_api_android.so，HIDL

是用于指定Android HAL和其用戶之間的接口的一種接口描述語(yǔ)言。

如果需要通過(guò)CTS/VTS測(cè)試(兼容性測(cè)試套件/供應(yīng)商測(cè)試套件)的安卓設(shè)

備，可以使用基于Android平臺(tái)HIDL實(shí)現(xiàn)的RKNN API。

如果不需要通過(guò)CTS/VTS測(cè)試的安卓設(shè)備，建議直接使用librknnrt.so，這

樣對(duì)各個(gè)調(diào)用接口流程的鏈路更短，可以提供改好的性能。

對(duì)于使用Android HIDL實(shí)現(xiàn)的RKNN API的代碼位于RK356x Android系統(tǒng)

SDK的vendor/rockchip/hardware/interfaces/neuralnetworks目錄下。當(dāng)編譯完

Android系統(tǒng)時(shí)，會(huì)生成一些NPU相關(guān)的庫(kù)，如下所示，但是對(duì)于應(yīng)用只需要鏈

接使用librknn_api_android.so即可。

/system/lib/librknn_api_android.so

/system/lib/librknnhal_bridge.rockchip.so

/system/lib64/librknn_api_android.so

/system/lib64/librknnhal_bridge.rockchip.so

/vendor/lib64/rockchip.hardware.neuralnetworks@1.0.so

/vendor/lib64/rockchip.hardware.neuralnetworks@1.0-adapter-helper.so

/vendor/lib64/librknnrt.so

/vendor/lib64/hw/rockchip.hardware.neuralnetworks@1.0-impl.so

在RKNN SDK中提供了Android平臺(tái)的MobileNet圖像分類、SSD目標(biāo)檢

測(cè)、YOLOv5目標(biāo)檢測(cè)示例。這些Demo能夠?yàn)榭蛻艋赗KNN SDK開(kāi)發(fā)自己

的AI應(yīng)用提供參考。在rknpu2/examples中還有很多例子，如下圖所示：

下面以rknn_yolov5_demo在RK3568 Android 64位平臺(tái)上運(yùn)行為例，來(lái)講

解如何快速上手運(yùn)行。整體思路分為三步：

1在虛擬機(jī)Ubuntu18.04上交叉編譯demo程序rknn_yolov5_demo（demo

已經(jīng)默認(rèn)是rknn，無(wú)需進(jìn)行模型轉(zhuǎn)換）

2部署到iTOP-RK3568開(kāi)發(fā)板

3在開(kāi)發(fā)板上運(yùn)行demo

3.2.1 下載編譯所需工具

1 Android系統(tǒng)編譯需要下載NDK，Android NDK下載地址為如下所示：

https://developer.android.google.cn/ndk/downloads/older_releases#ndk-17c-download

s

將下載地址復(fù)制到瀏覽器，并打開(kāi)網(wǎng)頁(yè)，如下圖所示：

2點(diǎn)擊“我同意這些條款”，

3往下滑動(dòng)網(wǎng)頁(yè)，找到Android NDK r17c（建議的版本），下載Linux 64位（x86）

的軟件包，

4下載完畢，在Ubuntu的/opt/tool_chain目錄下新建tool_chain文件夾，然后將android-ndk-r17c-linux-x86_64.zip拷貝到ubuntu的/opt/tool_chain路徑下，然后解壓，

3.2.2 修改編譯工具路徑

1因?yàn)榇苏鹿?jié)以rknn_yolov5_demo在RK3568 Android11 64位平臺(tái)上運(yùn)行為

例，所以修改examples/rknn_yolov5_demo/build-XXX.sh的編譯工具路徑，如下

圖所示：

2修 改build-android_RK356X.sh文 件 ， 將ANDROID_NDK_PATH修 改 為android-ndk-r17c的保存路徑，

NDK在ubuntu上的路徑為/opt/tool_chain/android-ndk-r17c/，如下圖所示。注

意?。?！ANDROID_NDK_PATH修改的路徑要和實(shí)際的路徑一致。

3.2.3 更新 RKNN 模型

RKNN是Rockchip NPU平臺(tái)(也就是開(kāi)發(fā)板)使用的模型類型，是以.rknn結(jié)

尾的模型文件。

RKNN SDK提供的demo程序中默認(rèn)自帶了RKNN模型，在RKNN SDK的

examples/rknn_yolov5_demo/model/RK356X/目錄下，

如使用自己的模型需要轉(zhuǎn)換成rknn模型，轉(zhuǎn)換方法可以參考第5章節(jié)。

在得到RKNN模型之后，demo程序使用C接口在RK3568平臺(tái)開(kāi)發(fā)應(yīng)用，

3.2.4 編譯 demo

1在終端命令窗口進(jìn)入rknn_yolov5_demo文件夾，輸入以下命令：

cd examples/rknn_yolov5_demo/

2運(yùn)行build-android_RK356X.sh腳本編譯程序

./build-android_RK356X.sh

3此例子為編譯RK3568的安卓11 64位平臺(tái)。若需要編譯其他平臺(tái)請(qǐng)選擇相應(yīng)

的腳本。詳情可參考/rknpu2/examples/rknn_yolov5_demo/README.md。 若在編

譯時(shí)出現(xiàn)cmake錯(cuò)誤，可執(zhí)行“apt install cmake”命令安裝cmake后再運(yùn)行編

譯腳本。

4編譯完成之后，編譯好的程序一般放在install目錄，

5我們可以編譯生成Android或Linux Demo（需要交叉編譯環(huán)境）。也可以直

接 下 載 編 譯 好 的Demo， 可 以 在 網(wǎng) 盤 資 料 資 料“iTOP-3568開(kāi) 發(fā) 板\02_

【iTOP-RK3568開(kāi) 發(fā) 板 】 開(kāi) 發(fā) 資 料\11_NPU使 用 配 套 資 料\02_NPU

demo\Android”下載。

3.2.5 開(kāi)發(fā)板運(yùn)行 demo

1開(kāi)發(fā)板上要燒寫Android11系統(tǒng)，并連接好usb線。

接著使用命令sudo apt install android-tools-adb在虛擬機(jī)Ubuntu上安裝adb工

具。

2開(kāi)發(fā)板系統(tǒng)啟動(dòng)之后，我們將開(kāi)發(fā)板連接到虛擬機(jī)Ubuntu18.04上。

3開(kāi)發(fā)板被ubuntu識(shí)別之后，在demo目錄下輸入“adb devices”命令可以查看到

開(kāi)發(fā)板設(shè)備。

4推送拷貝rknn_server到開(kāi)發(fā)板,輸入以下命令：

adb push runtime/RK356X/Android/rknn_server/arm64/rknn_server /vendor/bin/

5推送拷貝librknnrt.so到開(kāi)發(fā)板，輸入以下命令：

adb push runtime/RK356X/Android/librknn_api/arm64-v8a/librknnrt.so /vendor/lib64

6使用adb推送拷貝rknn_yolov5_demo_Android（上一小節(jié)編譯好的程序）到開(kāi)

發(fā)板的/data目錄，注意！因?yàn)閍ndroid系統(tǒng)權(quán)限問(wèn)題，只能拷貝到data目錄。輸

入以下命令拷貝：

adb push rknn_yolov5_demo_Android /data/

如果拷貝失敗，要在串口終端上輸入以下命令，然后再進(jìn)行push操作

su

chmod 777 /data

7然后我們進(jìn)入開(kāi)發(fā)板所在的系統(tǒng)，輸入“adb shell”命令。

8進(jìn)入程序所在的目錄，輸入以下命令：

cd /data/rknn_yolov5_demo_Android/

9設(shè)置庫(kù)文件的路徑，輸入以下命令：

export LD_LIBRARY_PATH=./lib

10 運(yùn)行程序來(lái)識(shí)別相應(yīng)的圖片中物體，輸入以下命令：

用法Usage: ./rknn_yolov5_demo

./rknn_yolov5_demo ./model/RK356X/yolov5s-640-640.rknn ./model/bus.jpg

11打開(kāi)一個(gè)新的窗口終端，下載識(shí)別后的圖片out.jpg到虛擬機(jī)ubuntu18.04上

查看，輸入以下命令：

adb pull /data/rknn_yolov5_demo_Android/out.jpg ./

查看out.jpg如下圖所示：