有关前向推断的问题

[beizhengren]

作者您好,

1.在创建engine的过程

我看您是把所有层都解析完成之后, 才判断是否有已经产生好的engine. 可不可以把这个判断放在最前面?

yolo-tensorrt/modules/yolo.cpp

Line 475 in 91455c6

if (fileExists(m_EnginePath))

2.关于前向推断

我想直接读取保存好的engine 然后进行推断. 也就是直接

detector_->detect(mat_temp, res);

而不进行初始化去创建engine

detector_->init(config_v4_tiny);

但是这样做是有错的

Process finished with exit code 139 (interrupted by signal 11: SIGSEGV)

请问这里我应该如何实现比较好?

感谢!

[enazoe]

1.可以放到最前面
2.程序会根据你的模型自动去找对应的engine，如果没有才会生成engin，有的话会直接加载。再就是engin文件是和平台绑定的并不是所有平台通用的

[beizhengren]

@enazoe
作者您好, 我放到了

yolo-tensorrt/modules/yolo.cpp

Line 177 in 91455c6

trtWeights.push_back(divWeights);

的后面, 即:

    trtWeights.push_back(divWeights);

    if (fileExists(m_EnginePath))
    {
        std::cout << "Using previously generated plan file located at " << m_EnginePath
                  << std::endl;
        destroyNetworkUtils(trtWeights);
        return;
    }

会报以下错误:

ERROR: yolo-trt: ~/yolo-tensorrt/modules/yolo.cpp:578: 
void Yolo::allocateBuffers(): Assertion `(tensor.bindingIndex != -1) && "Invalid output binding index"' failed.

[beizhengren]

@enazoe
作者您好,我找到原因了,是因为对输出的内存分配和确认问题导致的.
现在解决了,谢谢~