midasklr / yolov5ncnn

ncnn of yolov5 v5.0 branch

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

yolov5s v4.0版本int8量化之后精度降低很多

zhvn100 opened this issue · comments

使用的是5000张coco训练的数据集,按照你的这个ncnn2table的参数,使用KL的放法去calibration。对比bus.jpg和一张测试集的图片,精度下降很厉害,不知道是什么原因微信截图_20210712141902

微信截图_bus

试了您的KL方法量化后的param和bin,发现精确度并没有下降这么多,我用的是官方预训练的yolov5s.pt转的onnx