欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  网络运营

docker容器内安装TensorRT的问题

程序员文章站 2023-03-24 21:57:37
ubuntu上卸载已安装的版本:如果想把安装文件都删掉以释放空间,执行:查看到安装包名,假如是nv-tensorrt-repo-ubuntu1804-cuda11.1-trt7.2.1.6-ga-20...

ubuntu上卸载已安装的版本:

如果想把安装文件都删掉以释放空间,执行:

查看到安装包名,假如是nv-tensorrt-repo-ubuntu1804-cuda11.1-trt7.2.1.6-ga-20201007,则执行:

这样就把/var/nv-tensorrt-repo-ubuntu1804-cuda11.1-trt7.2.1.6-ga-20201007_1-1这样的目录文件删掉了。

在ubuntu主机上安装tensorrt按照https://docs.nvidia.com/deeplearning/tensorrt/install-guide/index.html#installing-debian 做即可,下载安装repo的deb文件后执行下面的步骤即可,假如安装适配cuda10.2的tensorrt7.2.1版,执行:

如果是在docker容器内安装就不能使用上面的步骤了,否则在安装最后一步时总是会遇到类似如下的错误:

the following packages have unmet dependencies:
 tensorrt : depends: libnvinfer-dev (= 7.2.1-6+cuda10.2) but 8.0.0-1+cuda11.3 is to be installed
            depends: libnvinfer-plugin-dev (= 7.2.1-6+cuda10.2) but 8.0.0-1+cuda11.3 is to be installed
            depends: libnvparsers-dev (= 7.2.1-6+cuda10.2) but 8.0.0-1+cuda11.3 is to be installed
            depends: libnvonnxparsers-dev (= 7.2.1-6+cuda10.2) but 8.0.0-1+cuda11.3 is to be installed
            depends: libnvinfer-samples (= 7.2.1-6+cuda10.2) but it is not going to be installed
e: unable to correct problems, you have held broken packages.

容器内分明安装的是cuda10.2,tensorrt也是7.2.1.6+cuda10.2版的,但是就总是报上面类似的错误,换成其他版本也是一样的继续报类似错,折腾得很郁闷,后来仔细看nvidia的文档发现

docker容器内安装TensorRT的问题

看来在docker容器内安装tensorrt得用另外的办法,但是呢,用network repo方式安装去指定安装一堆libnvinfer*库(根据需要修改8为7)是在是麻烦:

docker容器内安装TensorRT的问题

而且装完后后来编译程序时发现还有这样那样的问题,哪怕是指定版本的方式也是同样有问题:

docker容器内安装TensorRT的问题

又来回折腾了一阵还是有错,最后往下看发现了这个最简单可靠的方式:

docker容器内安装TensorRT的问题

也就是说,最前面报那种莫名其妙的错,其实是因为docker容器内配置有nvidia cuda network repository,而手工下载安装nv-tensorrt-repo-ubuntu1804-cuda10.2-trt7.2.1.6-ga-20201006_1-1_amd64.deb这样的tensorrt local repository后,使用sudo apt-get install tensorrt安装的话由于有两种源会导致包冲突,只需要在/etc/apt/preferences.d/下增加个文件local-repo,内容是:

然后执行

就顺利安装完成local repo对应的版本cuda10.2-trt7.2.1.6,然后编译程序也没见什么错误了!

感觉nvidia的文档有的地方写得真的是烂,不能针对每种环境安装分别清楚无误完整地说明白么,非要把很多搅合在一起让用户自己去蹚一个个坑

另外,如果是使用的rtx30序列的gpu,cuda版本需要 >= 11.1,不然,虽然tensorrt可以安装,但是实际运行时可能会报下面这样的错误:

[w] [trt] half2 support requested on hardware without native fp16 support, performance will be negatively affected.
[e] [trt] ../rtsafe/cuda/caskutils.cpp (98) - assertion error in trtsmtocask: 0 (unsupported sm.)

11.1.0虽然可以用,但是编译caffe或darknet等某些程序时可能会有下面的错误:

    nvcc fatal: unsupported gpu architecture 'compute_86'

所以对于rtx30序列的gpu,最好安装cuda的版本 >= 11.1.1

以上就是docker容器内安装tensorrt的问题的详细内容,更多关于docker安装tensorrt的资料请关注其它相关文章!