Skip to content

GPU FAQ

Jump to bottom
Qingsong Liu edited this page Nov 29, 2016 · 10 revisions

nvidia-docker

  • 为什么需要 nvidia-docker：

    docker 使用的出发点是平台无关，而使用 GPU 又是平台相关，为了解决这个问题，一种做法是在每个任务 images 里包含 nvidia drivers，但是这必须要求镜像中的 nvidia 驱动版本和主机上的版本一致，为了解决这一冲突，提出 nvidia-docker，nvidia-docker 是对 docker 命令的封装，除了 run 和 create 对 docker 命令做了修改外，其他子命令和原始 docker 命令没差别。

  • nvidia-docker 使用需要先在主机上安装对应的 Nvidia drivers, 换句话说， nvidia-docker = docker + --volume drivers + --device /dev/nvidia*，nvidia-docker 通过 plugin 实现对主机上 nvidia drivers 的加载和 GPU 硬件设备的管理。

nvidia/cuda image

  • 从 Dockerfile 看，cuda 镜像提供 cuda 相关的动态库和二进制命令文件，比如 nvidia-smi
  • 运行 cuda image 镜像只需要 Nvidia driver 和相应的 GPU 硬件
  • cuda 镜像包含四个 tag:
tag description
runtime 提供简单的 CUDA 运行环境
devel 提供开发环境，包括工具链，调试工具等
cuDNN + runtime 额外提供 cuDNN
cuDNN + devel 额外提供 cuDNN

CUDA 与 Nvidia driver

  • CUDA 的版本和 Nvidia driver 有一定的依赖关系，如表所示：
CUDA toolkit version Driver version GPU architecture
6.5 >= 340.29 >= 2.0 (Fermi)
7.0 >= 346.46 >= 2.0 (Fermi)
7.5 >= 352.39 >= 2.0 (Fermi)
8.0 == 361.93 == 6.0 (P100)
8.0 >= 367.48 >= 2.0 (Fermi)

cuDNN 的版本

  • cuDNN 的版本 cuda 的版本有一定的对应关系：
NVIDIA cuDNN is a GPU-accelerated library of primitives for deep neural networks.
Please check your framework documentation to determine the recommended version of cuDNN.
If you are using cuDNN with a Pascal (GTX 1080, GTX 1070), version 5 or later is required.

cuDNN v5.1 has different versions for CUDA 7.5 and CUDA 8.0
cuDNN v5   has different versions for CUDA 7.5 and CUDA 8.0
cuDNN v4 and v3 both require CUDA 7.0
cuDNN v2 and v1 both require CUDA 6.5
All cuDNN versions require compute capability >= 3.0 devices

参考

Clone this wiki locally