windows11下安装Tensor RT,并在conda虚拟环境下使用

建议仔细读一读NVIDIA官方出的安装教程,里面有windows、linux等安装教程,非常详细,这里再做一下简要总结。

TensorRT主要有三种安装模式、五种安装方式

毫无疑问,在windows系统中,我们只能选择zip安装。

安装tensorRT之前确保电脑安装好了英伟达显卡驱动、cudaToolkit,cuDNN的话不是必须得可以不用安装(官方多次提到目前的TensorRT对cuDNN的依赖很少了)

我的电脑CUDA版本为11.7  cuDNN版本为8.7.0,我这里选择安装TensorRT 8.x ,进入官网下载页面(需要登录)

我这里选择安装TensorRT 8.6 GA for x86_64 Architecture。注意ARM架构的不一样,需要进入 页面仔细确认到底应该下载哪个文件。特别注意,要与自己本地电脑的CUDA版本对应

 

下载zip文件之后,解压,我这里解压到 C:\Program Files\TensorRT-8.6.1.6 ,解压后的文件目录如下图所示:

 下面重点来了,按照官方的说法,我们有两种方式可选

第一种方式:把 C:\Program Files\TensorRT-8.6.1.6\lib文件中所有的DLL文件复制到CUDA的安装目录下bin目录下(比如:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\vX.Y\bin),不过我并不推荐这种方式,会使文件结构混乱。

第二种方式:直接配置TensorRT的环境变量。具体做法是把 C:\Program Files\TensorRT-8.6.1.6\lib 目录添加到系统环境变量中

之后我们就可以在虚拟环境中安装TensorRT了,比如我的anaconda中有一个torch_work虚拟环境(python==3.10)。

下面为该虚拟环境安装TensorRT,首先命令行切换到 C:\Program Files\TensorRT-8.6.1.6\python 目录下并切换到torch_work虚拟环境中

选择跟虚拟环境匹配的python版本,我这里选择 full installation 的安装模式 

然后执行pip安装命令

 之后我们还需要安装 uff, graphsurgeon, onnx_graphsurgeon 这三个python包,它们就在解压目录下

 

 我们切换到对应的目录,pip安装

 至此,在conda环境下安装tensorRT就全部完成了,接下来验证一下是否安装成功。

进入该虚拟环境中导入 tensorrt 包,如果控制台没有报错,即为安装成功,接下来就可以在conda虚拟环境下使用 tensorrt。

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/210555.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

轻松记录收支明细,一键打印,财务无忧!

作为现代人,管理好个人财务是非常重要的。但是,如何记录收支明细并打印出来呢?今天,我们向您推荐一款财务软件,帮助您轻松解决这个问题。 首先第一步,我们要打开【晨曦记账本】,并登录账号。 第…

Jmeter 分布式压测

为什么要分布式 jmeter是100%纯java开发的程序,虚拟用户是以线程实现的,在大量并发情况下,很容易出现CPU、内存消耗过大的问题,甚至会出现java内存溢出。一般一台电脑设置500-600线程数即可,如果超过1000线程&#xf…

词向量笔记

一、词向量的世界排名比赛MTEB MTEB: Massive Text Embedding Benchmark 二、词向量的维数 词向量的维数d1一般取20~500之间 三、向量索引SOTA 构建向量索引,就用这个吧:hnsw

【MySQL】宝塔面板结合内网穿透实现公网远程访问

文章目录 前言1.Mysql服务安装2.创建数据库3.安装cpolar3.2 创建HTTP隧道4.远程连接5.固定TCP地址5.1 保留一个固定的公网TCP端口地址5.2 配置固定公网TCP端口地址 前言 宝塔面板的简易操作性,使得运维难度降低,简化了Linux命令行进行繁琐的配置,下面简单几步,通过宝塔面板cpo…

springcloud宿舍管理系统源码

开发技术: jdk1.8,mysql5.7,idea,vscode springcloud springboot mybatis vue elementui 功能介绍: 用户端: 登录注册 首页展示轮播,公告,报修,晚归登记&#xff0…

安卓手机便签APP用哪个,手机上好用的便签APP是什么

在日常生活及工作方面,总是有许多做不完的事情需要大家来处理,当多项任务堆叠交叉在一起时,很容易漏掉一些项目,这时候大家会借助经常携带的手机来记录容易忘记的事情,如手机上的闹钟、定时提醒软件都可以用来记录待办…

2023.11.22 IDEA Spring Boot 项目热部署

目录 引言 操作步骤 1. 在 pom.xml 中添加热部署框架支持 2. Setting 开启项目自动编译 3. 以后创建的新项目进行同步配置 4. 重复 配置 步骤2 的内容 5. 开启运行中的热部署 引言 Spring Boot 的热部署是一种在项目正在运行的时候修改代码,却不需要重新启动…

亚马逊防关联要注意什么?看这一篇,防关联有技巧!

亚马逊账号关联的问题,对于跨境电商来说都不陌生,店铺的安全问题往往和账号关联有关,一旦亚马逊账号被关联就很可能导致我们的店铺被封,对于被亚马逊封店的卖家都会有申诉机会,如果无法成功申诉,那将永久被…

HarmonyOS 属性动画开发示例(ArkTS)

介绍 利用 ArkUI 组件不仅可以实现属性变化引起的属性动画,也可以实现父组件状态变化引起子组件产生动画效果,这种动画为显式动画。效果如图所示: 相关概念 显式动画:提供全局 animateTo 显式动画接口来指定由于闭包代码导致的…

算法复杂度分析

文章目录 有数据范围反推算法复杂度以及算法内容一般方法递归 有数据范围反推算法复杂度以及算法内容 c一秒可以算 1 0 7 10^7 107~ 1 0 8 10^8 108次 一般方法 看循环 有几层循环就可以初步分析O( n i n^i ni) 双指针算法除外O(n) 递归 公式法 根据公式的形式&#xff0…

服务号可以迁移到订阅号吗

服务号和订阅号有什么区别?服务号转为订阅号有哪些作用?首先我们要看一下服务号和订阅号的主要区别。1、服务号推送的消息没有折叠,消息出现在聊天列表中,会像收到消息一样有提醒。而订阅号推送的消息是折叠的,“订阅号…

TikTok美区本土店铺如何做好IP隔离?

为什么要进行IP隔离呢?因为我们无法在国内直接运营Shopee、TikTok、Lazada等平台的本土店,平台识别出店铺登录IP非本土IP,则容易导致店铺风控、被标记为伪本土店,影响店铺经营。 TikTok美区店铺的IP隔离方法和Shopee本土店一致&a…