关于yolov8l 1280*1280尺寸网络转化出错的问题

zhyy2345

rk3588s yolov8l 1280*1280 尺寸的onnx（opset=12）模型转rknn模型出错，如下和图中所示
E RKNN: [17:01:46.306] REGTASK: The bit width of field value exceeds the limit, target: v2, offset: 0x5048, shift = 19, limit: 0x1fff, value: 0x7fc0
E RKNN: [17:01:46.306] REGTASK: The bit width of field value exceeds the limit, target: v2, offset: 0x4038, shift = 0, limit: 0x1fff, value: 0x7fc0
E RKNN: [17:01:46.306] REGTASK: The bit width of field value exceeds the limit, target: v2, offset: 0x4038, shift = 16, limit: 0x1fff, value: 0x7fc0
E RKNN: [17:01:46.306] REGTASK: The bit width of field value exceeds the limit, target: v2, offset: 0x5010, shift = 16, limit: 0x1fff, value: 0x7fc0
done
--> Export RKNN model: ./rknn_models/yolov8l-1280-1280_fans_rk3588s.rknn
done
同样模型640*640的没有问题，可以正常推理得出目标框，1280*1280尺寸转换虽然也可以得出rknn模型，推理出来是错误的 ，目标类型和目标框都是错误的
麻烦看下

monark

我试过1280*1280的yolov8模型，没有遇到这个问题，，，你试下tooklit2  1.6.0版本，参考下rk官方的仓库https://github.com/airockchip/ultralytics_yolov8，，以及https://doc.embedfire.com/linux/ ... ple/yolov8.html#id4。

zhyy2345

monark 发表于 2023-12-25 10:20
我试过1280*1280的yolov8模型，没有遇到这个问题，，，你试下tooklit2  1.6.0版本，参考下rk官方的仓库http ...

你是用pt->torchscript->rknn,还是pt->onnx->rknn?

陈书兴

你好，请问你最后解决这个问题了吗？是怎么解决的呢，我遇到了同样的问题。384x640规格的yolo8模型可以得到正常推理结果。但是使用736x1280的yolov8模型就无法得到正确检测框了。

陈书兴

我这边是pt—>onnx—>rknn