Bitsandbytes 找不到 cuda 118 的某个库文件

EpicMo

2023 年 09 月 18 日

22 次浏览

暂无评论

1181字数

折腾日志

> 我也不知道 bitsandbytes 这逼玩意为啥与 cuda 118 强制绑定了，我也不支持这逼 bitsandbytes 在手动编译的情况下为什么使用 cuda 12x

# 卸载

首先，先卸载你的逼 cuda 12x

```bash
sudo apt remove nvidia*
sudo apt remove cuda*
sudo apt remove cudnn*
```

如果是 deb 包安装的，需要删除 key

```bash
sudo apt-key list | grep cuda
```

然后得到：

```bash
pub   rsa4096 2016-06-24 [SC]
      AE09 FE4B BD22 3A84 B2CC  FCE3 F60F 4B3D 7FA2 AF80
uid           [ 未知 ] cudatools <cudatools@nvidia.com>
```

然后删了它：

```bash
sudo apt-key del 7FA2AF80
```

最后自动清除：

```bash
sudo apt autoremove
```

# 安装 Cuda 118

根据 Nvidia 的安装方法，你只需要：

```bash
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda-repo-ubuntu2204-11-8-local_11.8.0-520.61.05-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2204-11-8-local_11.8.0-520.61.05-1_amd64.deb
sudo cp /var/cuda-repo-ubuntu2204-11-8-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda
```

如果你发现 `nvidia-smi` 提示你的 driver 版本不对，just `reboot` your server.

最后修改：2023 年 09 月 18 日