在线商城/产品订购
简体中文
首页 >> 服务与支持 >> 技术分享 >> 【官方开发文档】RKNN Toolkit2快速上手指南
点击头像，立即联系微信客服​​
       福州牛新牛科技有限公司​是一家专业的嵌入式人工智能物联网（Embedded AIoT）产品供应商和技术方案商，同时也是一家集设计、研发、生产和销售于一体的国家级高新技术企业。公司批量供应AI核心板、工控板、AIoT智能网关、AI边缘计算终端等产品，并提供定制开发服务和一站式AIoT解决方案。NNEWN提供免费技术方案咨询和项目评估，有需要的读者可以点击右侧图标跳转到需求提交页面提交您的项目需求：​
【官方开发文档】RKNN Toolkit2快速上手指南
来源: | 作者:NNEWN | 发布时间: 2023-02-05 | 5381 次浏览 | 分享到:
RKNN-Toolkit2 是为用户提供在PC、Rockchip NPU 平台上进行模型转换、推理和性能评估的开发套件，用户通过该工具提供的Python 接口可以便捷地完成以下功能：

模型转换：支持Caffe、TensorFlow、TensorFlow Lite、ONNX、DarkNet、PyTorch 等模型转为RKNN 模型，并支持RKNN 模型导入导出，RKNN 模型能够在Rockchip NPU 平台上加载使用。

量化功能： 支持将浮点模型量化为定点模型， 目前支持的量化方法为非对称量化（ asymmetric_quantized-8 及asymmetric_quantized-16 ） ， 并支持混合量化功能。asymmetric_quantized-16 目前版本暂不支持。

模型推理：能够在PC 上模拟Rockchip NPU 运行RKNN 模型并获取推理结果；或将RKNN模型分发到指定的NPU 设备上进行推理并获取推理结果。

性能和内存评估：将RKNN 模型分发到指定NPU 设备上运行，以评估模型在实际设备上运行时的性能和内存占用情况。

量化精度分析：该功能将给出模型量化前后每一层推理结果与浮点模型推理结果的余弦距离，以便于分析量化误差是如何出现的，为提高量化模型的精度提供思路。

发布版本：V1.3.0

日期：2022-04-22

概述：

RKNN-Toolkit2 是为用户提供在PC、Rockchip NPU 平台上进行模型转换、推理和性能评估的开发套件，用户通过该工具提供的Python 接口可以便捷地完成以下功能：

  1. 模型转换：支持Caffe、TensorFlow、TensorFlow Lite、ONNX、DarkNet、PyTorch 等模型转为RKNN 模型，并支持RKNN 模型导入导出，RKNN 模型能够在Rockchip NPU 平台上加载使用。

  2. 量化功能： 支持将浮点模型量化为定点模型， 目前支持的量化方法为非对称量化（ asymmetric_quantized-8 及asymmetric_quantized-16 ） ， 并支持混合量化功能。asymmetric_quantized-16 目前版本暂不支持。

  3. 模型推理：能够在PC 上模拟Rockchip NPU 运行RKNN 模型并获取推理结果；或将RKNN模型分发到指定的NPU 设备上进行推理并获取推理结果。

  4. 性能和内存评估：将RKNN 模型分发到指定NPU 设备上运行，以评估模型在实际设备上运行时的性能和内存占用情况。

  5. 量化精度分析：该功能将给出模型量化前后每一层推理结果与浮点模型推理结果的余弦距离，以便于分析量化误差是如何出现的，为提高量化模型的精度提供思路。


中文版

英文版



福州牛新牛科技有限公司（简称“NNEWN”）是一家专注于智能设备核心平台研发与制造、面向行业客户提供一站式嵌入式技术及产品解决方案的高新技术企业。我们拥有成熟的研发团队、丰富的项目经验，可以承接基于瑞芯微全系列芯片的板卡及智能终端类产品软硬件定制开发，并且可以根据客户需求进行软硬件全国产化适配，感兴趣的小伙伴可以扫描右边栏微信二维码联系我司微信客服获取免费技术咨询及进行项目评估！


热门文章推荐
123 
热门产品推荐
  • 一种多通道视频采集及拼接显示的应用程序

    一种多通道视频采集及拼接显示的应用程序

    应用开发

    20000.00

    2799.00

  • 一种基于RK3588的通用型开发板

    一种基于RK3588的通用型开发板

    产品中心

    20000.00

    2799.00

  • 物联网云平台

    物联网云平台

    应用开发

    0.00

    0.00

  • 嵌入式操作系统SDK

    嵌入式操作系统SDK

    系统定制

    0.00

    0.00

  • 5.5英寸触摸显示屏 MIPI接口

    5.5英寸触摸显示屏 MIPI接口

    配件

    0.00

    0.00

  • 10.1英寸触摸显示屏 MIPI接口

    10.1英寸触摸显示屏 MIPI接口

    配件

    0.00

    0.00

  • NNEWN-NSR3568A评估底板

    NNEWN-NSR3568A评估底板

    产品中心

    0.00

    2799.00

  • NNEWN-NSR3568开发套件

    NNEWN-NSR3568开发套件

    产品中心

    0.00

    0.00

  • NNEWN-RK3588开发板/评估板

    NNEWN-RK3588开发板/评估板

    工控板

    0.00

    2799.00

1

Copyright © 2021-2024 福州牛新牛科技有限公司 All rights reserved. |