具体问题如下:
环境:windows 11 + conda
pytorch 已经安装,但 cude 不可用,可用gpu数量为0
使用whisper时提示错误信息:
... ...
AssertionError: Torch not compiled with CUDA enabled
原因:
gpu驱动程序支持pytorch版本有上限,而并不是越新越好。
运行nvidia-smi结果右上角的CUDA Version
就是版本上限。
要安装小于此版本号的torch而不是最新版。
具体方法参考下文python注释。
# pytorch_check.pyimport torchif torch.cuda.is_available():print(f"{torch.cuda.device_count()}个GPU 可用:", torch.cuda.get_device_name(0))
else:print("未检测到N卡GPU")print("""## 检查NVIDIA驱动状态
运行 nvidia-smi 确认驱动是否正常安装且支持CUDA。若命令无输出,需重新安装或更新驱动。
驱动版本需与PyTorch要求的CUDA版本兼容(如驱动支持的最高CUDA版本需≥PyTorch所需版本)。## 验证CUDA工具包安装
通过 nvcc --version 检查CUDA编译器版本是否与PyTorch匹配。
若未安装CUDA工具包,需从 [Nvidia官网](https://developer.nvidia.com/cuda-toolkit-archive) 下载对应版本。## 具体方法
运行 `nvidia-smi` 查看你的显卡驱动支持的**最高**CUDA版本, 不一定是实际安装的CUDA Toolkit版本
如果显示12.6,就要安装小于等于12.6版本的torch (目前PyTorch稳定版支持的CUDA版本主要为 11.8 和 12.1,而CUDA 12.6可能尚未被官方支持)`conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia`或使用pip安装:`pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121`可能需要先清理之前的版本:`conda uninstall pytorch torchvision torchaudio`""")