Skip to content

Latest commit

 

History

History
90 lines (49 loc) · 2.12 KB

README.md

File metadata and controls

90 lines (49 loc) · 2.12 KB

Track-trt

Language Language Language Language Language

Introduction

基于 TensorRT 的 C++ 高性能 单目标跟踪 推理,支持单目标跟踪算法 OSTrack、LightTrack。

其中 OSTrack 为ViT模型,适用于服务端计算设备,LightTrack 为NAS搜索出来的轻量CNN架构,适用于边缘端计算设备。请按需使用。

更多 TensorRT 部署模型,请移步仓库 github

Project Build and Run

  1. install cuda/tensorrt/opencv

    cuda/tensorrt/opencv

  2. compile engine

    1. 下载onnx模型 google driver 或者 跟踪教程自己导出

    2. cd Track-trt/workspace
      bash compile_engine.sh
  3. build

    # 修改CMakeLists.txt中 cuda/tensorrt/opencv 为自己的路径
    cd Track-trt
    mkdir build && cd build
    cmake .. && make -j4
  4. run

    视频文件输入:

    cd Track-trt/workspace
    ./pro 0 "bag.avi"

    摄像头输入:

    cd Track-trt/workspace
    ./pro 1 0

    图片序列输入:

    cd Track-trt/workspace
    ./pro 2 "Woman/img/%04d.jpg"

Speed Test

在 Jetson Orin Nano 8G 上进行测试,包括整个流程(即预处理+推理+后处理)

Method Precision Resolution Average Latency
LightTrack fp16 256x256 11ms
OSTrack fp16 256x256 27ms

onnx导出

LightTrack

OSTrack

Reference

tensorRT_Pro