五分鐘搞定VS2017+TensorRT環(huán)境搭建

下載路徑：

https://developer.nvidia.com/TensorRT

首先需要下載TensorRT的ZIP格式文件到本地，然后解壓縮到

D:\TensorRT-7.0.0.11

然后打開VS2017，新建一個空項目，分別配置

1. 包含目錄

D:\TensorRT-7.0.0.11\include

2. 庫目錄

D:\TensorRT-7.0.0.11\lib

3. 鏈接器

myelin64_1.libnvinfer.libnvinfer_plugin.libnvonnxparser.libnvparsers.lib

4. 環(huán)境變量

D:\TensorRT-7.0.0.11\lib

然后在系統(tǒng)的環(huán)境變量中添加：

重啟VS即可。

2020年初，我寫過的pytorch程序有個Hello Wrold的版本的模型就是mnist.onnx，我來測試一下是否可以通過TensorRT來實現(xiàn)對ONNX格式模型加載。重啟VS2017之后在原來的空項目上然后添加一個cpp文件，把下面的代碼copy到cpp文件中:

#include <fstream>
#include <iostream>
#include <sstream>

#include "NvInfer.h"
#include "NvOnnxParser.h"

using namespace nvinfer1;
using namespace nvonnxparser;

class Logger : public ILogger
{
    void log(Severity severity, const char* msg) override
    {
        // suppress info-level messages
        if (severity != Severity::kINFO)
            std::cout << msg << std::endl;
    }
} gLogger;

int main(int argc, char** argv) {
    std::string onnx_filename = "D:/python/pytorch_tutorial/cnn_mnist.onnx";
    IBuilder* builder = createInferBuilder(gLogger);
    nvinfer1::INetworkDefinition* network = builder->createNetworkV2(1U << static_cast<uint32_t>(NetworkDefinitionCreationFlag::kEXPLICIT_BATCH));
    auto parser = nvonnxparser::createParser(*network, gLogger);
    parser->parseFromFile(onnx_filename.c_str(), 2);
    for (int i = 0; i < parser->getNbErrors(); ++i)
    {
        std::cout << parser->getError(i)->desc() << std::endl;
    }
    printf("tensorRT load onnx mnist model...\n");
    return 0;
}

編譯運行直接運行輸出：

恭喜你！TensorRT在Windows10下開發(fā)環(huán)境配置成功了！絕對在5分鐘內(nèi)搞定，前提是先預裝好前面說的那些依賴軟件與相關的庫！

還不清楚，看B站視頻：

https://www.bilibili.com/video/BV1Bf4y167Ty