docker GPU安装

docker 离线安装

docker下载地址：https://download.docker.com/linux/static/stable/x86_64/

解压：

tar xzvf docker-24.0.6.tgz

移动解压后的内容

sudo mv docker/* /usr/local/bin/

创建 docker.service配置文件

sudo vim /etc/systemd/system/docker.service

把下面的内容复制到配置文件中并保存退出

[Unit]
Description=Docker Application Container Engine
After=network-online.target firewalld.service
Wants=network-online.target[Service]
Type=notify
ExecStart=/usr/local/bin/dockerd
ExecReload=/bin/kill -s HUP $MAINPID
Restart=always
RestartSec=2
StartLimitBurst=3
StartLimitInterval=60s
LimitNOFILE=infinity
LimitNPROC=infinity
LimitCORE=infinity
Delegate=yes
KillMode=process[Install]
WantedBy=multi-user.target

依次添加配置文件权限、加载配置文件、启动Docker，命令如下：

sudo chmod +x /etc/systemd/system/docker.service
sudo systemctl daemon-reload
sudo systemctl start docker

查看Docker是否已在运行

sudo systemctl status docker

查看Docker版本号以进一步验证Docker是否安装成功

sudo docker --version

将Docker服务设置为开机自启动

sudo systemctl enable docker

离线安装NVIDIA Container Toolkit

想要使用GPU,需要安装这个
NVIDIA Container Toolkit下载地址：https://github.com/NVIDIA/libnvidia-container/tree/gh-pages/stable/deb/amd64


查询对应版本进行安装：

安装命令示例：

sudo dpkg -i ./xxx.deb

查看NVIDIA Container Toolkit的版本以验证是否安装成功

nvidia-ctk --version

设置Docker默认使用NVIDIA runtime

sudo nvidia-ctk runtime configure --runtime=docker

重启Docker

sudo systemctl restart docker

参考：https://zhuanlan.zhihu.com/p/15194336245