今天看啥  ›  专栏  ›  arXiv每日学术速递

TensorRT手写封装,轻松接入多任务!

arXiv每日学术速递  · 公众号  ·  · 2023-11-19 22:40
写在前面&个人理解本文是我在学习韩博《CUDA与TensorRT部署实战课程》输出的个人学习笔记,欢迎大家一起讨论学习!这里主要介绍TensorRT手写封装内容,轻松接入多任务,为拓展检测分割算法做好充足准备!如果你正在学习相关内容,强烈建议收藏!1. 前言我们把整体进行框架性的封装, 最后实现下面的使用方法// 创建一个worker的实例, 在创建的时候就完成初始化auto worker   = thread::create_worker(onnxPath, level, params);// 根据worker中的task类型进行推理worker->inference("data/cat.png");2. 封装loggerlogger的作用是用于记录和打印日志的工具, 跟之前一样是继承了nvinfer1::ILogger的, 这个里面是封装了6个不同的级别的严重程度,在写的时候可以定义说,这里的DEBUG可以换成很多不同的,如LOGF、LOGE、LOGW、LOG、LOGV和LOGDlogger::Level::DEBUG;根据日志级别返回对应的严重性级别, ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照