天來(lái)將由《藍(lán)創(chuàng)精英團(tuán)隊(duì)》帶來(lái)一個(gè)Ubuntu 顯卡環(huán)境的安裝，主要是想記錄下來(lái)，方便以后快捷使用。

主要的基礎(chǔ)環(huán)境

1. 1. 顯卡驅(qū)動(dòng) (nvidia-smi)

2. 2. CUDA (nvidia-smi 可查看具體版本)

3. 3. cuDNN (cuda 深度學(xué)習(xí)加速庫(kù))

4. 4. Conda python環(huán)境管理(Miniconda3)

Nvidia 驅(qū)動(dòng)安裝

先更新一下基礎(chǔ)環(huán)境信息

sudo apt update
sudo apt-get install g++
sudo apt-get install gcc
sudo apt-get install make

查看當(dāng)前服務(wù)器的可用驅(qū)動(dòng)版本

ubuntu-drivers devices

我們選擇 標(biāo)記有 recommended（建議安裝） 的驅(qū)動(dòng)來(lái)進(jìn)行安裝。

sudo apt install nvidia-driver-535

安裝完畢后，執(zhí)行 nvidia-smi 是看不到結(jié)果的，這個(gè)時(shí)候是需要重啟電腦的.

reboot

重啟后，執(zhí)行命令，就可以看到顯卡驅(qū)動(dòng)安裝完成了。

nvidia-smi 

從圖上也可以看到顯卡驅(qū)動(dòng)已經(jīng)安裝，也能看到CUDA 版本是需要 12.2版本的

CUDA 安裝

打開(kāi)官網(wǎng)

https://developer.nvidia.com/cuda-toolkit-archive

選擇下列跟上圖看到的CUDA 版本

然后，選擇 本地安裝相關(guān)選項(xiàng)。

只需要執(zhí)行紅色圈內(nèi)的命令就可以了.

wget https://developer.download.nvidia.com/compute/cuda/12.2.0/local_installers/cuda-repo-ubuntu2204-12-2-local_12.2.0-535.54.03-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2204-12-2-local_12.2.0-535.54.03-1_amd64.deb
sudo cp /var/cuda-repo-ubuntu2204-12-2-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda

cuDNN安裝

打開(kāi)官網(wǎng)并登錄賬號(hào)

https://developer.nvidia.com/rdp/cudnn-download

選擇跟CUDA版本一樣的版本進(jìn)行下載。

也可以 自己服務(wù)器直接 wget 下載鏈接在服務(wù)器進(jìn)行下載。(下載會(huì)直接下載到當(dāng)前路徑下)

下載完畢后，在當(dāng)前目錄下執(zhí)行腳本

執(zhí)行Shell 腳本
sudo dpkg -i cudnn-local-repo-ubuntu2204-8.9.7.29_1.0-1_amd64.deb

會(huì)提示要安裝公鑰

sudo cp /var/cudnn-local-repo-ubuntu2204-8.9.7.29/cudnn-local-08A7D361-keyring.gpg /usr/share/keyrings/

然后，繼續(xù)安裝

sudo dpkg -i cudnn-local-repo-ubuntu2204-8.9.7.29_1.0-1_amd64.deb 
sudo apt-get update

安裝完畢后，繼續(xù)安裝cuDNN庫(kù)和cuDNN示例

也可以在上面執(zhí)行的命令里看到此路徑

cd /var/cudnn-local-repo-ubuntu2204-8.9.7.29/

此路徑下有相應(yīng)的安裝包

sudo dpkg -i libcudnn8_8.9.7.29-1+cuda12.2_amd64.deb
sudo dpkg -i libcudnn8-dev_8.9.7.29-1+cuda12.2_amd64.deb
sudo dpkg -i libcudnn8-samples_8.9.7.29-1+cuda12.2_amd64.deb

至此 cuDNN就安裝完畢了

Miniconda3 安裝

這個(gè)安裝就簡(jiǎn)單了，直接執(zhí)行命令即可

wget -c https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
chmod 755 Miniconda3-latest-Linux-x86_64.sh
sh Miniconda3-latest-Linux-x86_64.sh

然后，慢慢的回車，輸入yes，輸入yes，最后還要退出登錄，重新登錄，即可。

conda 常用命令

conda create --name test python=3.8 //創(chuàng)建環(huán)境
conda activate test //切換環(huán)境
conda deactivate //退出環(huán)境
conda env remove -n test //移除環(huán)境
conda env list //查看環(huán)境列表 

結(jié)束

一個(gè)基本的ubuntu 顯卡環(huán)境就部署完成了，可以部署開(kāi)源的大模型，清華的ChatGLM3大模型或者LangChain模型，以及其他的AI相關(guān)的項(xiàng)目。