新闻动态

怎么做服务器?教你如何打造深度学习服务器!

发布日期:2020-11-26 15:50 | 文章来源:YINGSOO

  【内容声明】本文收集整理于互联网,不确保内容真实性和质量度,仅供参考!若有服务器产品相关问题,请咨询[YINGSOO]在线客服,获取专业解答!

  【推荐产品】香港云服务器香港物理服务器美国云服务器推荐美国物理服务器

  【精选文章】 物理服务器和云服务器的区别是什么?如何区分

  怎么做服务器?最近我在学习了一些深度学习方面的知识和教程后,决定自己搭一个服务器用来训练机器学习模型,不再用现在所用的AWS p2虚拟机和存储器。我意识到,后面我会用到规模大得多的数据集,不想因为处理能力不足而花上几小时训练我的模型,所以搭建自己的深度学习服务器是个不错的选择,因为从长远来看,能给我省下不少钱和时间,也能让自己有更丰富的搭建服务器的经验。

  注意:本文更多的是想关注服务器设置,以及让多个用户同时协同工作,所以软件安装过程写的相对简单一些。想看更详细的版本,可参见这篇文章

  列出各部分清单

  在将各个部分组装在一起之前,你需要想好自己想要什么样的机器。就我个人而言,想达到如下标准:

  比亚马逊P2虚拟机要更强大

  有空间可以添加GPU,RAM,存储器以及自定义冷却系统

  硬件至少能撑上几年

  预算不超过3000美元左右

  我用http://pcpartpicker.com这个网站将所需的全部明细列出,因为这样能让我很容易的比较各个部件。后面我会详细说说为何我选择每个部件,以及是怎样和系统作为一个整体工作的。怎么做服务器,作为参考,点击这里查看我的服务器部件明细。YINGSOO免费热线:400_630_3752

  GPU:GTX 1080 Ti Hybrid

  GPU是你搭建深度学习服务器中最重要的部分,因为你是在用你的显卡训练模型,所以你的GPU越强,处理大型数据集的速度就越快。更高的GPU内存等于更高的处理速度(比如更快的训练速度,更大的批次,等等)。我选了两个GPU用于我的服务器,因为对GPU的预算还算充足,而且这样能让我用一个GPU训练模型,同时让其他人可以用另一个训练别的模型。这部分看你自己的需要和预算情况选择合适的GPU就行。

  Hybrid 1080 GPU性能不错,因为它除了大部分GPU内置的风扇冷却系统外,还带了水冷系统。 1080 Ti在全负荷情况下运行起来会很热,所以高质量的冷却系统才能保证显卡的使用寿命和训练模型的效果。如果想了解更多关于深度学习环境下的显卡选择知识,可以参考这篇文章,对我帮助很大。

  CPU: AMD Threadripper 1900x

  虽然我们是在用显卡训练神经网络,但是CPU也很重要,因为它用于计算操作,比如数据预处理,因此内核更高的CPU能加快计算速度。我使用的是Treadripper,因为它是市面上非常新的CPU,有数量很多的内核(32核,TR2’!),另外它的价格比英特尔系列的同类产品也稍低一些。

  另外提醒一点,在你选择CPU的时候,确保为PCI-E x16或PCI-E x8 显卡插槽,因为在服务器低负荷或你想限制系统时,它们性能良好。如果你的服务器有4个显卡,应该用更高端的CPU,能保证为你提供足够多的PCI-E卡槽。

怎么做服务器

  主板:MSI X399 SLI Plus

  选择这款主板,是因为它是完整的ATX主板,能够放置4个GPU,另有最大128G的RAM。因为我前面提过,我的主要目标就是让服务器将来还有升级空间。

  内存:32 GB 海盗船复仇者 LPX DDR4 (2 x 16GB)

  更多的内存能让我更容易的处理大型数据集。未来我的升级计划是再添加2个16G的内存条,这也是我为何没有选4通道RAM(4 x 8GB)的原因,虽然运行效果会稍微好一点。

  存储器:256GB 三星 SSD & 2TB HDD

  我将Ubuntu,所有的库还有数据集都放在了SSD存储器上,其余数据则存储在了2TB HDD上。

  散热器:海盗船H100i v2水冷散热器

  Threadrippers没有常备的散热器,所以我想一种能24/7使用、便宜且易于维护的适用散热器。我选的这款一体化散热器非常容易安装,也很实用,而且无噪声。

  电源:EVGA EVGA SuperNOVA 1000w 80+ 金牌

  一定要记得始终保证电源功率大于你的技术需要。如果不确定你需要多少功率(我的是824w),怎么做服务器,可以用PCPartpicker的功率计算器帮你获得一个大致的数字,而且最好把这里弄的保险一点再开机。

  机箱:海盗船 760T 全塔式机箱

  我选了这款机箱是因为其内部空间充足,价格适中。虽然它没法让你的模型训练更快些,但干净的侧板,红色的LED灯,还是能让你看着酷炫多了!

  一年的省吃俭用全都在这张图上了

  组装各个部件

  如果你没有组装电脑的经验,把这些部件组到一起很像是在玩一套很昂贵的乐高玩具。刚开始都很容易脑子被搞得一团乱。我下面就快速说一下自己的组装过程,不过我高度建议你跟着一个完整的组装视频学习组装过程,比如这个视频。

  步骤1:安装CPU

  这可能是组装电脑中最可怕的部分,因为必须遵循一定的操作步骤,稍有不慎就有可能搞坏一块CPU(幸运的是你可以拥有一颗高逼格的钥匙扣)。

  这部分,还是建议到网上搜一个仔细讲解的视频,一步步跟着做。Threadripper的安装过程有点不一样,不是把处理器“加固”在主板上,而是有个类似滑轨的拉伸式装置。

  步骤2:安装电源

  这部分没有绝对的标准顺序,不过我个人喜欢先把电源放进机箱,因为有些机箱需要你将电源放在卡槽里,这就导致有时候得经过主板,不太妙。

  步骤3:把其它部分组装在一起

  一旦主板安装好了,其它地方就很容易组装了。我的安装顺序如下:美国云服务器推荐

  安装RAM。操作非常简单,只要在正确的方向滑动内存条,放在主板上正确的卡槽里即可(记得看手册,因为根据内存条数量不同,有些卡槽有特定用途)。

  安装CPU散热器。这部分唯一的小麻烦是我得换掉支架,这样才能和散热器兼容,费了一番力气才搞定。

  安装显卡。只需将它们推入在主板上的各自卡槽里即可(和内存条一样,查看手册看看哪些卡插入哪些卡槽里),将散热器固定在机箱里。确保散热器在GPU上面。在上图中我犯了个错误,我得将重新它放在机箱的前板才行。

  安装存储器。我移除了其中一个驱动器,让空气流通更好一些,所以将SSD和HDD一起放在了右下方底部的一个驱动器上。

  步骤4:成功了吗?

  这个时候就可以开机了。刚开始我这没打开,因为将机箱的电源键的正负极线路搞反了。重新弄了一遍后看到了久违的闪亮的白色、红色光晕。如果你一切顺利,应该在电脑后面也能看到这一幕,然后去找启动设备就好了。

  设置服务器

  安装操作系统

  下一步是安装你的操作系统。我是用的Linux,因为大部分深度学习框架都是面向Linux设计的。我选了Ubuntu Desktop v16.04 LTS,然后用U盘上下载了所有东西。可以下载很多免费的工具,比如UNetbootin或Rufus(只有Windows版本),准备你的拇指驱动器。在Mac上创建一个引导USB的完整过程,可以参考这篇教程。如果用的是Windows,参考这篇。

  关键词:怎么做服务器,深度学习服务器

  YINGSOO提供优质的香港云服务器以及其他境外服务器产品,品类包括站群服务器、高防服务器、云主机等,配置齐全,有多种套餐可供选择,企业可以按照自身的业务需求来选择相应的服务器租用和套餐,YINGSOO服务器机房线路稳定可靠,提供7*24小时技术服务,如您有需求,欢迎在页面右方咨询在线QQ客服。全国统一服务热线:400-630-3752

  香港cn2—选知名品牌YINGSOO

  香港cn2?9年香港云服务器租用业务运营经验,1200家企业客户共同选择;CN2专线连接中国大陆,延迟低至10ms,支持免费测试,5大数据中心可选

  https://www.yingsoo.com/products/dedicated-hk.html

  YINGSOO国外好的服务器_免备案_可试用_品质看得见

  国外好的服务器,选YINGSOO,自主平台更可靠,海外知名云服务品牌,可在线免费试用,专业国外好的服务器,1200家企业共同的选择,高达95%的续约率印证YINGSOO品质

  https://www.yingsoo.com/products/dedicated-us.html

版权声明:本站文章来源标注为YINGSOO的内容版权均为本站所有,欢迎引用、转载,请保持原文完整并注明来源及原文链接。禁止复制或仿造本网站,禁止在非www.yingsoo.com所属的服务器上建立镜像,否则将依法追究法律责任。本站部分内容来源于网友推荐、互联网收集整理而来,仅供学习参考,不代表本站立场,如有内容涉嫌侵权,请联系alex-e#qq.com处理。

相关文章

实时开通

自选配置、实时开通

免备案

全球线路精选!

全天候客户服务

7x24全年不间断在线

专属顾问服务

1对1客户咨询顾问

在线
客服

在线客服:7*24小时在线

客服
热线

400-630-3752
7*24小时客服服务热线

关注
微信

关注官方微信
顶部