DNP-PTQ:一种针对YOLO嵌入式部署的模型量化方法

摘要： 针对现有各类YOLO模型无法满足在典型飞行平台边缘端部署的问题，以YOLO模型为基础，基于C语言开发的Darknet框架，提出一种基于模型网络参数分布的训练后量化（DNP-PTQ）方法。与传统训练后量化（PTQ）方法不同，DNP-PTQ针对网络中不同层及激活函数的数据分布，设计差异化的模型参数量化策略。针对卷积层，采用按通道量化方法消除各通道数据分布差异带来的量化参数误差；针对... （共12页）