关于GroundingDINO的tensorrt加速问题
xiyangyang99 opened this issue · comments
Motivation
mmdetection先目前是支持groundingDINO最好的框架，但是目前无法通过tensorrt来加速，来对groundingDINO快速部署。听说mmdeploy团队会在1月份开发出tensorrt加速。现目前我们团队已经尝试将groundingDINO加速了，在RTX3090上完美实现onnx2trt的转换，推理速度在40ms左右，目前在3060和3080TI显卡上还无法支持tensorrt的加速。
Related resources
no
Additional context
no