« 上一篇下一篇 »

什么是GPU云服务器,GPU云主机能做什么事情,应该如何正确的选购GPU服务器

什么是GPU云服务器

  GPU云服务器是基于GPU应用的计算服务,目前新睿云有NVIDIA Tesla P100 GPU、NVIDIA Tesla P40 GPU型号GPU云服务器,适用的场景有视频处理、3D图形渲染、深度学习、科学计算等场景。

 GPU服务器有什么作用?
   GPU 加速计算可以提供非凡的应用程序性能,能将应用程序计算密集部分的工作负载转移到 GPU,同时仍由 CPU 运行其余程序代码。从用户的角度来看,应用程序的运行速度明显加快.
理解 GPU 和 CPU 之间区别的一种简单方式是比较它们如何处理任务。CPU 由专为顺序串行处理而优化的几个核心组成,而 GPU 则拥有一个由数以千计的更小、更高效的核心(专为同时处理多重任务而设计)组成的大规模并行计算架构。
 GPU服务器的主要应用场景
 海量计算处理
 GPU 服务器超强的计算功能可应用于海量数据处理方面的运算,如搜索、大数据推荐、智能输入法等:
 • 原本需要数天完成的数据量,采用 GPU 服务器在数小时内即可完成运算。
 • 原本需要数十台 CPU 服务器共同运算集群,采用单台 GPU 服务器可完成。
 深度学习模型
 GPU服务器可作为深度学习训练的平台:
 1.GPU 服务器可直接加速计算服务,亦可直接与外界连接通信。
 2.GPU 服务器和云服务器搭配使用,云服务器为 GPU 云服务器提供计算平台。
 3.对象存储 COS 可以为 GPU 服务器提供大数据量的云存储服务。
 

GPU计算与CPU计算的区别

应用程序开发人员使用NVIDIA发明的名为“CUDA”的并行编程模型来利用并行GPU架构的性能。所有NVIDIA GPU - GeForce®,Quadro®和Tesla® - 均支持NVIDIA®CUDA®并行编程模型。

Tesla GPU设计为计算加速器或配套处理器,针对科学和技术计算应用进行了优化。最新的Tesla 20系列GPU基于CUDA平台的最新实现,称为“Fermi架构”。 Fermi具有关键的计算功能,例如500 + gigaflops的IEEE标准双精度浮点硬件支持,L1和L2缓存,ECC内存错误保护,分布在整个GPU中的共享内存形式的本地用户管理数据缓存,合并内存访问等等。

2.GPU计算的历史

图形芯片起初是固定功能的图形管道。多年来,这些图形芯片变得越来越可编程,这导致NVIDIA推出了第一款GPU。在1999-2000时间框架内,计算机科学家以及医学成像和电磁学等领域的研究人员开始使用GPU加速一系列科学应用。这是称为GPGPU或通用GPU计算的运动的出现。

挑战在于GPGPU需要使用OpenGL和Cg等图形编程语言来编程GPU。开发人员必须使他们的科学应用程序看起来像图形应用程序,并将它们映射到绘制三角形和多边形的问题。这限制了GPU对科学的巨大性能的可访问性。

NVIDIA意识到了将这种性能带给更大的科学界的潜力,并投资于修改GPU以使其完全可编程用于科学应用。此外,它还增加了对C,C ++和Fortran等高级语言的支持。这导致了GPU的CUDA并行计算平台。

3.科学计算GPU云服务器配置选择:数据量不大,选用P40是明智之举,如果数据量大建议用P100。


如何正确选择GPU服务器?
 
  选择GPU服务器时首先要考虑业务需求来选择适合的GPU型号。在HPC高性能计算中还需要根据精度来选择,比如有的高性能计算需要双精度,这时如果使用P40或者P4就不合适,只能使用V100或者P100;同时也会对显存容量有要求,比如石油或石化勘探类的计算应用对显存要求比较高;还有些对总线标准有要求,因此选择GPU型号要先看业务需求。
 当GPU型号选定后,再考虑用什么样GPU的服务器。这时我们需要考虑以下几种情况:
 第一、 在边缘服务器租用上需要根据量来选择T4或者P4等相应的服务器,同时也要考虑服务器的使用场景,比如火车站卡口、机场卡口或者公安卡口等;在中心端做Inference时可能需要V100的服务器,需要考虑吞吐量以及使用场景、数量等。
 第二、 需要考虑客户本身使用人群和IT运维能力,对于BAT这类大公司来说,他们自己的运营能力比较强,这时会选择通用的PCI-e服务器;而对于一些IT运维能力不那么强的客户,他们更关注数字以及数据标注等,我们称这类人为数据科学家,选择GPU服务器的标准也会有所不同。
 第三、 需要考虑配套软件和服务的价值。
 第四、 要考虑整体GPU集群系统的成熟程度以及工程效率,比如像DGX这种GPU一体化的超级计算机,它有非常成熟的从底端的操作系统驱动Docker到其他部分都是固定且优化过的,这时效率就比较高。
   数据吧云计算作为国内品牌服务器提供商,服务器在线GPU机架式服务器拥有大规模并行处理能力和无与伦比的灵活性。它主要应用于为计算密集型应用提供足够的处理能力。GPU加速运算的优势就在于它可以一边由CPU运行应用程序代码,一边由图形处理单元(GPU)处理大规模并行架构的计算密集型任务。服务器在线GPU服务器是医疗成像、广播、视频转码市场的理想选择。