RKNN Toolkit2快速上手指南

在线商城/产品订购

(+86)15396128591(微信同号)

简体中文

support@nnewn.com

访问XNIUPI小牛派开发板

首页 >> 服务与支持 >> 技术分享 >> 【官方开发文档】RKNN Toolkit2快速上手指南

点击头像，立即联系微信客服

福州牛新牛科技有限公司是一家专业的嵌入式人工智能物联网（Embedded AIoT）产品供应商和技术方案商，同时也是一家集设计、研发、生产和销售于一体的国家级高新技术企业。公司批量供应AI核心板、工控板、AIoT智能网关、AI边缘计算终端等产品，并提供定制开发服务和一站式AIoT解决方案。NNEWN提供免费技术方案咨询和项目评估，有需要的读者可以点击右侧图标跳转到需求提交页面提交您的项目需求：

【官方开发文档】RKNN Toolkit2快速上手指南

来源: | 作者:NNEWN | 发布时间: 2023-02-05 | 3639 次浏览 | 分享到:

RKNN-Toolkit2 是为用户提供在PC、Rockchip NPU 平台上进行模型转换、推理和性能评估的开发套件，用户通过该工具提供的Python 接口可以便捷地完成以下功能：

模型转换：支持Caffe、TensorFlow、TensorFlow Lite、ONNX、DarkNet、PyTorch 等模型转为RKNN 模型，并支持RKNN 模型导入导出，RKNN 模型能够在Rockchip NPU 平台上加载使用。

量化功能：支持将浮点模型量化为定点模型，目前支持的量化方法为非对称量化（ asymmetric_quantized-8 及asymmetric_quantized-16 ），并支持混合量化功能。asymmetric_quantized-16 目前版本暂不支持。

模型推理：能够在PC 上模拟Rockchip NPU 运行RKNN 模型并获取推理结果；或将RKNN模型分发到指定的NPU 设备上进行推理并获取推理结果。

性能和内存评估：将RKNN 模型分发到指定NPU 设备上运行，以评估模型在实际设备上运行时的性能和内存占用情况。

量化精度分析：该功能将给出模型量化前后每一层推理结果与浮点模型推理结果的余弦距离，以便于分析量化误差是如何出现的，为提高量化模型的精度提供思路。

发布版本：V1.3.0

日期：2022-04-22

概述：

RKNN-Toolkit2 是为用户提供在PC、Rockchip NPU 平台上进行模型转换、推理和性能评估的开发套件，用户通过该工具提供的Python 接口可以便捷地完成以下功能：

模型转换：支持Caffe、TensorFlow、TensorFlow Lite、ONNX、DarkNet、PyTorch 等模型转为RKNN 模型，并支持RKNN 模型导入导出，RKNN 模型能够在Rockchip NPU 平台上加载使用。
量化功能：支持将浮点模型量化为定点模型，目前支持的量化方法为非对称量化（ asymmetric_quantized-8 及asymmetric_quantized-16 ），并支持混合量化功能。asymmetric_quantized-16 目前版本暂不支持。
模型推理：能够在PC 上模拟Rockchip NPU 运行RKNN 模型并获取推理结果；或将RKNN模型分发到指定的NPU 设备上进行推理并获取推理结果。
性能和内存评估：将RKNN 模型分发到指定NPU 设备上运行，以评估模型在实际设备上运行时的性能和内存占用情况。
量化精度分析：该功能将给出模型量化前后每一层推理结果与浮点模型推理结果的余弦距离，以便于分析量化误差是如何出现的，为提高量化模型的精度提供思路。

中文版

英文版

福州牛新牛科技有限公司（简称“NNEWN”）是一家专注于智能设备核心平台研发与制造、面向行业客户提供一站式嵌入式技术及产品解决方案的高新技术企业。我们拥有成熟的研发团队、丰富的项目经验，可以承接基于瑞芯微全系列芯片的板卡及智能终端类产品软硬件定制开发，并且可以根据客户需求进行软硬件全国产化适配，感兴趣的小伙伴可以扫描右边栏微信二维码联系我司微信客服获取免费技术咨询及进行项目评估！

上一篇：【官方开发文档】Rockchip Linux IOMMU开发指南

下一篇：【官方开发文档】RKNN API 用户使用指南

热门文章推荐

[未分类] 瑞芯微旗舰级8KSoC芯片RK3588规格参数简介及Datasheet下载

2022-10-29
[行业应用] 基于瑞芯微RK3588的AR/VR智能眼镜及智能头盔类产品主板方案

2022-11-04
[行业应用] RK3588已适配银河麒麟操作系统，助力用户应用快速落地

2023-02-07
[行业资讯] 2023年瑞芯微开发者大会落幕，多项技术应用方案已落地

2023-02-28
[行业资讯] RK3399/RK3588成功适配Hailo-8的AI加速模块M.2计算卡，最高算力可达26TOPs

2023-03-09
[行业资讯] 瑞芯微RK3576 AIoT芯片规格及应用场景介绍

2024-01-02
[行业应用] 高度集成化模块化的RK3568和RK3588无人机AI控制主板方案

2022-10-29
[行业应用] NNEWN-RK3588系列产品已全面适配银河麒麟kylinOS、统信UOS、鸿蒙OpenHarmonyOS等国产操作系统

2022-11-07
[技术分享] 【官方开发文档】RKNN SDK 快速上手指南（RV1106/RV1103）

2023-02-05
[行业应用] 基于瑞芯微RK3588S的高性能移动设备及商用平板解决方案

2022-11-21
[行业应用] 基于瑞芯微RK3568的智能NVR/NAS服务器主板方案

2022-11-22
[技术分享] 瑞芯微RK3588/RK3568等芯片DDR SDRAM支持列表_2022.08.18更新

2022-11-09
[技术分享] 瑞芯微RK3588/RK3568等芯片Camera Sensor支持列表_2022.11.09更新

2022-11-09
[行业应用] 基于瑞芯微RK3588的智能NVR/NAS服务器主板方案

2022-11-18
[行业资讯] 瑞芯微RK628D视频接口转换芯片简介及Datasheet下载

2021-08-28
[资料下载] 瑞芯微平台RK芯片Datasheet合集

2022-11-11
[技术分享] 瑞芯微RK3588/RK3568等芯片eMMC支持列表_2022.10.31更新

2022-11-09
[资料下载] 瑞芯微RK平台软件开发通用文档合集

2022-11-10
[技术分享] 【官方开发文档】Rockchip SDK申请及同步指南

2023-02-03
[资料下载] 瑞芯微RK平台Linux开发文档合集

2022-11-11

12 3

热门产品推荐

RK3588核心板 | NXN-CORE-3588-BTB-5060-V2

核心板

市场价:0.00

价格:0.00

Size：50mm×60mm SoC：Rockchip RK3588 CPU：8核64位高性能处理器，4×A76+4×A55，最高主频2.4GHz GPU：Mali-G610 MC4，512GFLOPS，高效率2D引擎 NPU：三核架构，6.0TOPs RAM：8GB LPDDR4X（可选4GB/12GB/16GB) ROM：32GB eMMC（可选64GB/128GB/256GB） Decoder：8K 60FPS H.265/H.264/AV1 Encoder：8K 30FPS H.265/H.264 ISP：2×16M ISP 显示接口：2×HDMI2.1/eDP1.3，2×DP1.4 in TypeC，2×MIPI DSI D/C PHY 视频输入：HDMI2.0 4K@60，4×MIPI CSI，最多4路MIPI摄像头输入 USB接口：2×USB3.0 Type-C OTG，1×USB3.0 HOST，2×USB2.0 HOST 其他高速接口：PCIe3.3 4lane/3×PCIe2.1 or Sata3.0/2×GMAC 软件系统：Android12，Linux5.10 Debian11/Ubuntu20.04，KylinOS/UOS/OpenHarmony国产操作系统 产品定制：支持软硬件定制开发，支持100%国产化定制开发
RK3588核心板 | NXN-CORE-3588-BTB-6080-V2

核心板

市场价:20000.00

价格:2799.00

主板编号：NXN-CORE-3588-BTB-6080-V2 主控芯片：RK3588 运行内存：LPDDR4X，最高可选32GB 内置存储：eMMC，最高可选256GB 电源输入：4V 主板尺寸：50mm×60mm 操作系统：支持Android/Linux，支持根适配银河麒麟/开放鸿蒙等国产操作系统 项目状态：已打板验证 技术支持：软硬件设计资料齐全，可提供硬件设计源文件和软件SDK源代码，可提供有偿技术支持，可根据客户需求进行定制开发
RK3588核心板 | NXN-CORE-3588-MXM-7082-V2

核心板

市场价:20000.00

价格:2799.00

主板编号：N-CORE3588_BTB400_5287 主控芯片：RK3588 运行内存：LPDDR4X，最高可选16GB 内置存储：eMMC，最高可选256GB 电源输入：4V 主板尺寸：52mm×87mm 操作系统：支持Android/Linux，支持根适配银河麒麟/开放鸿蒙等国产操作系统 项目状态：已打板验证 技术支持：软硬件设计资料齐全，可提供硬件设计源文件和软件SDK源代码，可提供有偿技术支持，可根据客户需求进行定制开发
RK3576核心板 | NXN-CORE-3576-260-5070-V1

核心板

市场价:0.00

价格:0.00

Size：50×69.6mm SoC：Rockchip RK3568 CPU：Quad-core Cortex-A55 up to 2.0GHz GPU：Mali-G52 NPU：0.8TOPs RAM：2GB/4GB LPDDR4 ROM：16GB/32GB/64GB/128GB eMMC Decoder：4K 60FPS H.265/H.264/VP9 Encoder：1080P 100FPS H.265/H.264 Interface：HDMI OUT×1/MIPI DSI×2/LVDS×1/eDP×1；MIPI CSI×2；SATA3.0×1；USB3.0×2；USB2.0×2；PCIe3.0×1；G-Ethernet GMAC×2；SDIO3.0×2（for WIFI and SD）；I2S×1/Speaker×1/Mic×1/Hearphone×1；UART/SPI/I2C/GPIO×n
RK3568核心板 | NXN-CORE-3568-MXM-5282-V2

核心板

市场价:0.00

价格:0.00

Size：50×65mm SoC：Rockchip RK3568 CPU：Quad-core Cortex-A55 up to 2.0GHz GPU：Mali-G52 NPU：0.8TOPs RAM：2GB/4GB LPDDR4 ROM：16GB/32GB/64GB/128GB eMMC Decoder：4K 60FPS H.265/H.264/VP9 Encoder：1080P 100FPS H.265/H.264 Interface：HDMI OUT×1/MIPI DSI×2/LVDS×1/eDP×1；MIPI CSI×2；SATA3.0×1；USB3.0×2；USB2.0×2；PCIe3.0×1；G-Ethernet GMAC×2；SDIO3.0×2（for WIFI and SD）；I2S×1/Speaker×1/Mic×1/Hearphone×1；UART/SPI/I2C/GPIO×n
RV1126核心板 | NXN-CORE-1126-BTB-4045-V2

核心板

市场价:699.00

价格:699.00

RV1126核心板
一种多通道视频采集及拼接显示的应用程序

应用开发

市场价:20000.00

价格:2799.00

功能简介：该应用程序基于开源多媒体框架Gstreamer来实现多通道音视频采集、编码、解码、渲染、滤镜、截屏、录屏、直播推流、存储等功能，并可在屏幕指定区域输出指定视频源从而实现多路视频源拼接显示。 操作系统：Linux Bulidroot 硬件平台：NNEWN-RK3588开发板 开发语言：Python 3.10.5 开发工具：DJANGO 1.9.7 网络软件：PYCHARM 5.0.1
一种基于RK3588的通用型开发板

产品中心

市场价:20000.00

价格:2799.00

EVB-NSR3588B是一款基于NNEWN-NSR3588B核心板开发的支持8K视频的功能全面的高性能AI开发板。基于开箱即用的产品设计理念，EVB-NSR3588B开发板采用模块化设计理念，开发板由核心板+底板构成，核心板和底板之间通过高性能板对板连接器对接，即插即用，高度互换。另外我们还为该开发板适配了Android12、Debian11、Ubuntu20.04等产品级主流操作系统，而且支持KylinOS、UOS、OpenHarmony等国产操作系统适配。为了方便开发者快速入门，我们精心编写了非常详细实用的开发者入门指南，通过阅读该指南，您可以轻松地将您的应用程序移植到我们为您准备的稳健的硬件平台及操作系统上并快速完成功能验证及产品原型搭建。
物联网云平台

应用开发

市场价:0.00

价格:0.00