tensorRT程序设计框架_4

一。设计框架

　　1.1 CaffeToGIEModel  函数中 先创建一个builder ->  createInferBuilder()

　　1.2 利用builder 创建一个Network（createNetwork()）

　　1.3 解析caffe model

　　1.4 指明哪一个tensor是输出

　　1.5 创建引擎

　　1.6 序列化引擎

　　2.1 反序列化引擎

　　2.2 创建run_time

　　2.3 创建上下文

　　做数据处理

　　3.1 在gpu创建一个buffer（cudaMalloc(&buffers)）

　　3.2 把数据送到gpu buffer

　　3.3 调用context.enqueue对数据进行处理

　　4。做收尾工作，销毁之前创建的一些结构

tensorRT程序设计框架_4

原文：http://www.cnblogs.com/lvxiaoning/p/7774636.html