当前位置: 首页 > news >正文

torch版本应该跟cuda、cudacnn的版本一致

今天执行脚本:
from transformers import HfArgumentParser
莫名奇妙就报了:
ImportError: libcudnn.so.9: cannot open shared object file: No such file or directory

实际上是对整个llm架构不了解:
+-----------------------------+
|        transformers         |  ← 你直接调用的库
| (BertModel, GPT2Tokenizer)  |
+-----------------------------+↓
+-----------------------------+
|           torch             |  ← 实际执行计算的引擎
| (Tensor, nn.Module, Adam)   |
+-----------------------------+↓
+-----------------------------+
| CUDA / cuDNN / CPU / MPS    |  ← 硬件加速(GPU/Metal等)
+-----------------------------+j
即使transformers的版本对上了,那如果torch和cuda的版本没对上,还是不行。
所以把已经成功的环境保存一下,以便查阅:
torch                    2.3.1+cu118
torchaudio               2.3.1+cu118
torchvision              0.18.1+cu118
transformers             4.44.2
cuda            11.8                    /data/cuda/cuda-11.8/cuda  
cudnn           v8.8.1.3+cuda-11.8      /data/cuda/cuda-11.8/cudnn/v8.8.1.3   
nccl            v2.15.1+cuda-11.8       /data/cuda/cuda-11.8/nccl/v2.15.1      
tensorrt        v8.6.0.12+cuda-11.8     /data/cuda/cuda-11.8/tensorrt/v8.6.0.12 

  


 
http://www.rkmt.cn/news/1792.html

相关文章:

  • 安装mysql数据库,从下载到配置的详细教程
  • [BJOI2018] 染色 题解
  • 金蝶云星空学习记录1
  • (简记)虚树
  • AI测试平台自动遍历:低代码也能玩转全链路测试
  • Cesium Shader内置变量 czm_*
  • IDA Pro 9.2 发布 - 强大的反汇编程序、反编译器和多功能调试器
  • Java 那些基础又关键的事儿
  • Codeforces Round 1047 (Div. 3)
  • 设计模式-策略
  • 数据库基本查询语句
  • 《Python数据结构与算法分析》代码
  • jmeter测试mysql
  • Docker容器
  • models中integer、char、Boolean、text、datetime字段类型的常用参数设置
  • PVE跨集群迁移虚机
  • 告别资料混乱!PJMan 让项目文件管理,简单到不用找
  • CRMEB标准版PHP订单列表功能解析与实战应用
  • vue3不允许缓存组件keep-alive直接包裹router-view
  • Python中的枚举类
  • Hall 定理相关
  • docker save load 案例
  • 数据结构与算法-25.红黑树
  • Python 虚拟环境使用和打包成exe程序
  • linux调优工具的简单介绍
  • 多线程同步问题-从语法到硬件
  • JWT攻击详解与CTF实战
  • MyEMS:开源能源管理的破局者
  • github拉项目报Failed to connect to github.com port 443失败解决方法
  • 第9章 STM32 TCP配置和测试