TensorRT 部署 YOLO11 目标检测、关键点检测、实例分割、目标跟踪

一. 项目简介

• 基于 TensorRT-v8 ，部署YOLO11 目标检测、关键点检测、实例分割、目标跟踪 4 项任务；

• 支持在 Jetson 系列、 Linux x86_64 服务器上部署；

• 无需安装支持cuda的OpenCV，前后处理的张量操作都是作者通过cuda编程实现；

• 模型转换方式：.pth -> .onnx -> .plan(.engine)；

• 作者使用 Python 和 C++ 2 种 api 分别做了实现；

• 均采用了面向对象的方式，便于结合到其他项目当中；

• C++ 版本的还会编译为动态链接库，便于在其他项目种作为接口调用；

二. 项目效果

| 原图 | 目标检测 | | :-------------------------------: | :-----------------------------------: | | | | | 关键点检测 | 实例分割 | | | |

• ByteTrack目标跟踪

三. 推理速度

| | detect | pose | segment | | :----: | :----: | :---: | :-----: | | C++ | 3 ms | 4 ms | 6 ms | | python | 10 ms | 13 ms | 45 ms |

• 这里的推理时间包含前处理、模型推理、后处理
• 这里基于 x86_64 Linux 服务器，Ubuntu系统，显卡为GeForce RTX 2080 Ti

四. 环境配置

1. 基本要求：

• TensorRT 8.0+
• OpenCV 3.4.0+

如果基本要求已满足，可直接进入各目录下运行各任务

环境构建可以参考下面内容：

2. 如果是 Linux x86_64 服务器上，建议使用 docker

• 具体环境构建，可参考这个链接 构建TensorRT环境 的环境构建部分，也是作者的项目

3. 如果是边缘设备，如：Jetson Nano

• 烧录 Jetpack 4.6.1 系统镜像，网上烧录镜像的资料还是很多的，这里就不赘述了
• Jetpack 4.6.1 系统镜像原装环境如下：

| CUDA | cuDNN | TensorRT | OpenCV | | ---- | ----- | -------- | ------ | | 10.2 | 8.2 | 8.2.1 | 4.1.1 |

五. 项目运行

• 本项目Python和C++目录下均包含detect、pose 和 segment；

• 按照各自目录下的 README 分别实现目标检测、关键点检测、实例分割 、目标跟踪 4 种任务。

• C++ api detect

• C++ api pose

• C++ api segment

• C++ api track

• Python api detect

• Python api pose

• Python api segment

• Python api track