安装Docker CE及NVIDIA Container Toolkit

使用

验证Docker CE

如果出现下面的内容,说明安装成功。
$ sudo docker run hello-world

# 在官方CUDA镜像上测试 nvidia-smi
$ sudo docker run –gpus all nvidia/cuda:9.0-base nvidia-smi

# 启动支持双GPU的容器
$ sudo docker run –gpus 2 nvidia/cuda:9.0-base nvidia-smi

# 指定GPU 1,运行容器
$ sudo docker run –gpus device=0 nvidia/cuda:9.0-base nvidia-smi

下图是 容器–docker –cuda –nvidiagpus– server的关系图

docker使用举例

docker run --gpus '"device=3"'  -p38099:8088 --restart always -dit fffmo/modelserver:v181109

制定使用第三块gpu 将本地38099端口映射到容器8088端口,并制定docker服务重启后容器也跟着启动,指定使用 fffmo/modelserver:v181109 版本的镜像