如何优雅的管理你的GPU

使用nvidia-smi管理你的GPU卡

nvidia-smi命令是NVIDIA系统管理接口,之前提到使用nvidia-docker实际上底层也是调用的该接口。该接口可以查看到当前主机上的相关GPU设备,任务以及当前状态等信息,熟练使用该接口能够更好的管理好GPU系统资源。

GPU环境下玩转Docker(一)

背景:

随着大数据、人工智能以及机器学习等技术的发展,CPU计算资源已经不能满足很多计算场景,而随着硬件技术的发展,越来越多的人工智能以及机器学习领域开始使用GPU进行计算任务。而GPU环境以及具体的应用方式又给真正做人工智能相关的同学造成了很多困扰,本系列文章将分为三篇,将介绍如何搭建部署GPU环境,使用Docker进行管理GPU容器,使用Kubernetes来调度GPU容器。

从GPU到GPGPU CPU与GPU