社区所有版块导航
Python
python开源   Django   Python   DjangoApp   pycharm  
DATA
docker   Elasticsearch  
aigc
aigc   chatgpt  
WEB开发
linux   MongoDB   Redis   DATABASE   NGINX   其他Web框架   web工具   zookeeper   tornado   NoSql   Bootstrap   js   peewee   Git   bottle   IE   MQ   Jquery  
机器学习
机器学习算法  
Python88.com
反馈   公告   社区推广  
产品
短视频  
印度
印度  
Py学习  »  机器学习算法

如何花3400配置一台室内无噪音,48GB显存的深度学习服务器?

CV技术指南 • 10 月前 • 256 次点击  

前言 22 年配置了一套 X299 主板加双 3090 显卡服务器,发现除了显卡,其它性能都远远过剩,完全没有体现出性价比,加上最近大模型比较火,就想着配置一套能跑和微调通义千问的服务器玩玩。

Pytorch训练营,花两个星期彻底掌握代码实现

CV各大方向专栏与各个部署框架最全教程整理

CV全栈指导班、基础入门班、论文指导班 全面上线!!

作者:wenjtop
来源:PaperWeekly
仅用于学术分享,若侵权请联系删除

配置

目前配置一共花了 3400(双 P40 显卡),不追求完美 3000 应该也能配下来。p40 性能大约在 1080ti 左右,3090 的 1/2,4090 的 1/4。去年 23 年底大约 650 一张,现在(24 年初)涨到到900左右。

▲ 购买记录

注意事项:


  1. 机箱一定要买大板机箱,插7显卡槽的。

  2. 购买 e5 一定要看 CPU 能支持内存的频率。

  3. cpu 够用就行,不用花大价钱,对模型训练和推理影响不大。

  4. 显卡需要两个 4p 转化成 8p 的转换线,需要购买转接线。

  5. p40 是主动散热,不改水冷,可以加风扇。

  6. p40 显卡不支持视频输出,需要购买亮机卡,后期 4 卡需要拆掉。

  7. 亮机器一般只支持 1080p,如果你显示器 2K,4K,就需要支持 2K,4K 的显示器。

  8. 华南金牌 X99-f8 支持 3 显卡,一定要提前计算显卡厚度和主板卡槽之间的宽度。

  9. 针对老的架构的主板,一定要看主板是否支持 above 4g,支持才能用大显存显卡。


组装

2.1 更换电源风扇

重新购买的电源风扇更换,更换流程,拆掉 8 个螺丝,去掉保护罩,断开风扇供电线,更换风扇,组装电源。

2.2 主板接线方式

https://www.bilibili.com/video/BV1y34y1G7cq/?spm_id_from=333.337.search-card.all.click

2.3 内存插入方式

优先:1358 卡槽,可以组成多通道。

2.4 显卡供电方式

具体接线方式见下图,转接线可以在淘宝购买。

2.5 开机Bios设置

开机按 del 键,选择 Advanced 选项,打开 above 4g,才能正常开机、识别显卡。



系统

3.1 下载 Ubuntu 20.04 LTS

https://ubuntu.com/download/desktop

3.2 制作 u 盘启动,

常用的两个 u 启动制作工具 UltraISO(https://cn.ultraiso.net/xiazai.html) 和 Rufus(https://rufus.ie/zh/),把 Ubuntu 系统烧录在 U 盘后插需要安装的电脑。

3.3 安装 ubuntu

一键 u 启动(以主板为准,安装过程省略)。

▲ 以主板为准



环境

4.1 判断有误识别P40显卡

sudo lshw -C display

4.2 禁用 nouveau

自带显卡驱动会和我们需要安装的驱动发生冲突,需要禁用 nouveau。

sudo gedit /etc/modprobe.d/blacklist_nouveau.conf

输入下面内容,保存重启:

blacklist nouveau
options nouveau modeset=0

4.3 其它深度学习环境参考下文,非常详细:

安装过程中如果出现缺少 gcc 或者 gcc 冲突,可尝试下面命令:
sudo apt update
sudo apt-get install build-essential

https://zhuanlan.zhihu.com/p/496107394



展示

▲ 通义千问生成小故事

若觉得还不错的话,请点个 “赞” 或 “在看” 吧

CV基础入门班

课程内容:深度学习基础、机器学习基础、数字图像处理、网络设计、模型分析与改进、代码实践等。

课程形式:10次左右的直播(每次大概2小时讲内容)+持续3-4个月的学习反馈、指导、代码实践。


网上机构

CV技术指南入门班

授课形式

老师单方面授课为主,无法保证所有人学习有效,脑子会了手不会

20%直播+80%指导实践,脑子会了,手也得会

  学习重点

所有学员学习任务一致

根据学员的情况调整

  课程价格

偏高

实惠,性价比高

  学习内容

单一、不成体系

系统全面

   人数100+,无法兼顾所有人
10人以内,充分考虑每个学员的学习效果

相信大家都深有体会,很多东西都是视频看完了,脑子学会了,但自己上手,就啥也不会。网上辅导机构90%讲内容、10%答疑,且上百人的大班无法有效保证学习效果,而我们仅做小班指导,每个班的人数限制在10人以内,不仅讲具体内容,还包括学习效果的反馈与保证,基本做到讲内容占20%,保证学到位、学明白的反馈占80%,确保大家手也会了。

报名请扫描下方二维码了解详细情况,备注:“入门班报名”。


Python社区是高质量的Python/Django开发社区
本文地址:http://www.python88.com/topic/170875
 
256 次点击