Skip to main content

RKNN Toolkit Lite2

1 Toolkit Lite2安装​

RKNN Toolkit Lite2 是Rockchip NPU平台的编程接口（Python），用于在板端部署RKNN模型。

测试环境​

• 系统版本：Debian 12 • 工具版本：RKNN-Toolkit2 2.3.0 • 驱动版本： npu驱动0.8.8

安装步骤​

Toolkit-lite2适用于板卡端部署模型，更多依赖和使用信息请查看下 Rockchip_RKNPU_User_Guide_RKNN_SDK

板卡上获取RKNN Toolkit Lite2，可以直接从 官方github 下载

  1. 获取安装文件：

    git clone https://github.com/airockchip/rknn-toolkit2.git
    cd rknn_toolkit_lite2/

  2. 安装依赖：

    sudo apt update
    sudo apt-get install python3-dev python3-pip gcc
    sudo apt install -y python3-opencv python3-numpy python3-setuptools

  3. 安装工具包：



    # Debian 12 (Python 3.10)
    pip3 install packages/rknn_toolkit_lite2-2.3.0-cp310-cp310-manylinux_2_17_aarch64.manylinux2014_aarch64.whl

  4. 验证安装：

    from rknnlite.api import RKNNLite  # 无报错表示安装成功

2 Toolkit Lite2接口使用​

部署流程​

  1. 创建 RKNNLite 对象
  2. 调用 load_rknn 导入模型（需匹配硬件平台）
  3. 调用 init_runtime 初始化运行时环境
  4. 调用 inference 进行推理
  5. 处理推理结果
  6. 调用 release 释放资源

接口文档​

参考 rknn_toolkit_lite2/docs 目录下的用户手册。

3 板端推理测试​

注意事项​

• 确保板端已安装 librknnrt.so 运行时库（默认路径：/usr/lib） • 版本需与RKNN-Toolkit2匹配，避免兼容性问题（如报错 Invalid RKNN model version）

3.1 resnet18推理测试​

  1. 运行示例： 
    cd examples/inference_with_lite
    python3 test.py
  2. 输出示例： 
    --> Load RKNN model done
    --> Init runtime environment done
    --> Running model
    resnet18
    -----TOP 5-----
    [812]: 0.9996760487556458
    [404]: 0.00024927023332566023
    ...

4 参考​

https://github.com/airockchip/rknn-toolkit2

https://github.com/rockchip-linux/rknn-toolkit2

https://github.com/rockchip-linux/rknpu2

注意
确保RKNN模型与运行时库版本一致，避免兼容性问题。