关于yolov8l 1280*1280尺寸网络转化出错的问题

zhyy2345

rk3588s yolov8l 1280*1280 尺寸的onnx（opset=12）模型转rknn模型出错，如下和图中所示
E RKNN: [17:01:46.306] REGTASK: The bit width of field value exceeds the limit, target: v2, offset: 0x5048, shift = 19, limit: 0x1fff, value: 0x7fc0
E RKNN: [17:01:46.306] REGTASK: The bit width of field value exceeds the limit, target: v2, offset: 0x4038, shift = 0, limit: 0x1fff, value: 0x7fc0
E RKNN: [17:01:46.306] REGTASK: The bit width of field value exceeds the limit, target: v2, offset: 0x4038, shift = 16, limit: 0x1fff, value: 0x7fc0
E RKNN: [17:01:46.306] REGTASK: The bit width of field value exceeds the limit, target: v2, offset: 0x5010, shift = 16, limit: 0x1fff, value: 0x7fc0
done
--> Export RKNN model: ./rknn_models/yolov8l-1280-1280_fans_rk3588s.rknn
done
同样模型640*640的没有问题，可以正常推理得出目标框，1280*1280尺寸转换虽然也可以得出rknn模型，推理出来是错误的 ，目标类型和目标框都是错误的
麻烦看下

monark

我试过1280*1280的yolov8模型，没有遇到这个问题，，，你试下tooklit2  1.6.0版本，参考下rk官方的仓库https://github.com/airockchip/ultralytics_yolov8，，以及https://doc.embedfire.com/linux/ ... ple/yolov8.html#id4。

zhyy2345

monark 发表于 2023-12-25 10:20
我试过1280*1280的yolov8模型，没有遇到这个问题，，，你试下tooklit2  1.6.0版本，参考下rk官方的仓库http ...

你是用pt->torchscript->rknn,还是pt->onnx->rknn?