rockchip-linux / rknn-toolkit2

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

rknntoolkits2.0.0导出yoloworld模型,量化的过程报错

divided7 opened this issue · comments

onnx模型及导出的rknn模型如下网盘:

链接:https://pan.baidu.com/s/1qm7Q6Dr1yD8CBq9yzoYsvQ?pwd=rknn 
提取码:rknn

onnx导出fp16的rknn模型没有出现报错;在do_quantization的时候出现Error,但仍能导出int8模型,报错如下:
715ca31db4cbc450440dde11cc2451a1
但是报错仍然能导出int8的模型;
在3588上进行推理,发现该模型似乎能够推理出正确的输出形状,但速度相当慢,并报错算子问题:
image