ONNX Runtime笔记&踩坑
·
- 下载ONNX Runtime GPU 版本
-
官方 Release 下载页:https://github.com/microsoft/onnxruntime/releases
-
下载
onnxruntime-win-x64-gpu-<version>.zip,里面已经包含 CUDA 支持库。
- 版本号高的ONNX Runtime需要C++17支持,VS2017不能完全支持C++17
- 要么选择低版本ONNX Runtime,要么提高VS版本。可能降低ONNX Runtime版本会对新版模型不支持
- ONNX Runtime GPU 版本需要适配cuda版本
-
适用于 CUDA 11.6 / 11.7 / 11.8 的最后一个 GPU 版本是:onnxruntime-win-x64-gpu-1.14.1。新的版本(1.15+ 到 1.23.2) 都 只支持 CUDA 12.x。
- yolov8对于大分辨率图,会产生大量预测框(上万),预测框处理需要cpu进行,实时性不好。
- yolov5的实时性是系列最好的。
- 链接
更多推荐



所有评论(0)