6*RTX4090+静音---2022年最强深度学习工作站/集群硬件配置方案
下列是2022年11月30日最新深度学习基准配置报价,新增RTX4090,intel第13代酷睿超频、AMD 霄龙EPYC 7773X处理器等,提供了更完整架构和不同计算规模、不同应用场景的的台式、便携式、机架式、多机集群等应用解决方案
RTX4090可选配置方案和问题
最新上市的显卡RTX4090,其单精度浮点性能指标FP16/FP32: 82.58Tflops, 比上一代RTX3090Ti (FP32 40Tflops),算力高出一倍,与Nvidia A100(FP32:19Tflops,FP16:77.97Tflops)FP16性能相当,但价格便宜很多
因此,做深度学习计算GPU选型,RTX4090是最优选项了
但是RTX4090功耗达到450w,已经无法再用2个8pin供电了,需要3个8pin供电口(3*150w=450w),另外其卡的厚度达到3个PCI挡板,再加上一个PCI挡板空隙散热,
目前可选机箱结构:
(1)机架式---最大4块RTX4090+噪音巨大
![]() |
由于其机箱宽度在400mm左右,最大装4块,
现在市场上期待RTX4090涡轮散热产品上市,这样RTX4090厚度就只有2个PCI槽宽度,进而,实现8块RTX4090配置方案, 之前产品RTX3090ti(450w功耗),就从来没有见过用热管+涡轮风扇的解决方案,指望RTX4090能用上热管+涡轮风扇,散热难度非常大。 我们曾经对各种各个时代CPU超频计算多年大量测试,CPU功耗达到400W以上(例如:Xeon W-3175X,28核@4.6GHz全核计算),只有用2个360一体式水冷散热模块才能压住,用热管导热方式,其散热效果很差 RTX4090已经达到450W,如果3块RTX4090,功耗3*450W=1350W,全速计算其功耗相当于一个电炉子,做深度学习GPU全速计算,会产生非常巨大热量,双槽并排插法,这么狭窄空间,无法用热管+涡轮的方案快速散热,将来面临机器着火的隐患。 |
(2)常规塔式工作站---最大1块RTX4090+静音
![]() |
常规塔式工作站标配7个PCI挡板, 只能装1块RTX4090, 装2块需要调整机箱,双卡间距狭窄,散热也有隐患 |
(3)UltraLAB GX650M机箱---最大6块RTX4090,还是静音级
![]() |
从后背板结构看, GX650M机型提供了一个21+9 的PCI插槽, 保证RTX4090有非常巨大的散热空间, 这是市场上目前唯一能支持最高6块RTX4090, 基于办公静音环境, 保证长时间高速稳定运行。 |
(一)深度学习科研超值型硬件配置方案
计算架构:intel第13代高频处理器(5.7GHz),2块PCIe 4.0 GPU卡
计算特点:1块RTX4090性能超2块RTX3090,
报价日期:2022年11月30日
No
产品型号
主要配置
显存
CUDA处理器FP32性能指标
理想算法
价格
1.1
UltraLAB GA320i 14932-MAT
intel第13代高频处理器(14核,其中6核4.9Ghz
/8核3.8GHz)/32GB DDR5 /RTX3090/1TB PCIe
SSD
/6TB SATA/微塔式(2000w) /24"2K图显
24GB
35.58T
CNN
¥41,500
1.2
UltraLAB GA320i 15364-MAT
intel第13代高频处理器(14核,其中6核5.0Ghz/8核3.8GHz) /64GB DDR5 /RTX4090/ 1TB PCIe SSD/8TB SATA /微塔式(2000w)/24"2K图显
24GB
82.58T
全能型
¥49,990
1.3
UltraLAB GA320i 157128-PCT
intel第13代高频处理器(24核,其中8核5.7Ghz /16核4.0GHz)/128GB DDR5
/RTX4090/3.84TB
PCIe SSD/16TB SATA /微塔式(2000w) /24"2K图显
24GB
82.58T
CNN+ RNN
多用途
¥63,500
1.4
UltraLAB GA320i 15364-MA2D
intel第13代高频处理器(16核,其中8核5.3Ghz/8核4.0GHz)/64GB DDR5/
2*A5000 24G/2TB
PCIe SSD/16TB SATA /微塔式(2000w) /24"2K图显
48GB
55T
CNN超4*2080ti
¥69,990
1.5
UltraLAB GA320i 157128-PC2E
intel第13代高频处理器(24核,其中8核5.7Ghz/16核4.2GHz)/128GB DDR5
/2*RTX A6000 /3.84TB
SSD/16TB SATA/微塔式(2000w) /24"2K图显
96GB
80T
CNN+RNN超4块Titan RTX
¥118,000
(二)深度学习高性能工作站硬件配置方案
---超DGX Station A100、最大7块GPU+静音
AMD计算结构:最大64核CPU+7个PCIe4.0 x16 GPU计算卡
Intel计算结构:最大40核CPU+6块PCIe 4.0 x16 GPU计算卡
报价日期:2022年11月30日
No
产品型号
主要配置
显存
CUDA处理器FP32性能指标
理想算法
价格
2.1
UltraLAB
GT420M 12864-MB2T
Xeon银牌4314处理器(16核2.8Ghz) /64GB DDR4/ 2*RTX4090/2TB
M2NVME+8TB SATA/双塔式(2000w) /27"-4K图显
36GB
165T
CNN+RNN
¥79,990
2.2
UltraLAB
GT420M 128128-MB4T
Xeon银牌4316处理器(20核2.8Ghz) /128GB DDR4/ 4*RTX3090三风扇/960GB SSD /2TB M2.SSD/16TB SATA /双塔式(2000w)/27"-4K图显
96GB
142T
高性能多用途
¥108,000
2.3
UltraLAB
GT420M 128128-PC4T
Xeon银牌4316处理器(20核2.8Ghz) /128GB DDR4/
4*RTX4090/3.84TB
U2.NVME/16TB SATA
/双塔式(双2000w)
/27"-4K图显
96GB
330T
CNN+RNN
¥135,000
2.4
UltraLAB
GR420M 125192-PD6T
AMD霄龙7773x(64核2.5GHz)/192GB DDR4/6*RTX3090/7.68TB
U2.NVME /3块16TB SATA/双塔式(双2000w)/27"-4K图显
144G
213T
全能+极致
¥179,990
2.5
UltraLAB
GR420M 125256-PD6T
AMD霄龙7773x(64核2.5GHz)/256GB DDR4/6*RTX4090/7.68TB
U2.NVME /3块16TB SATA/双塔式(双2000w)/27"-4K图显
144GB
495T
性能超14块TitanRTX
¥223,000
2.6
UltraLAB
GT420M 128256-PC5T
Xeon银牌4314处理器(16核2.8Ghz) /256GB DDR4/4*A5000/960GB
SSD /3.84TB U2.SSD/18TB SATA /双塔式(双2000w)
/27"-4K图显
96GB
111T
高性价比多用途
¥126,500
2.7
UltraLAB
GT420M 130256-80T4E
Xeon铂金8358(32核3.0GHz)/256GB DDR4/4*A6000/1.9TB SSD /7.68TB U2.SSD
/80TB并行存储/双塔式(双2000w)/27"-4K图显
192GB
160T
超高性价比海量计算
¥269,000
2.8
UltraLAB
GR420M 125512-PE6E
AMD霄龙7773X(64核2.5GHz)/512GB DDR4/6* A6000/1.9TB SSD /15.36TB U2.SSD
/80TB并行存储/双塔式(双2000w)/27"-4K图显
288G
240T
超DGX Station A100
¥365,000
(三) 地球最强GPU超算平台--人工智能工作站配置推荐
---市场唯一支持6块RTX4090(495Tflops)+静音级
计算架构:CPU最大128核,8/10块全速PCIe 4.0 16X,双/三槽GPU卡通吃,最大300T高速存储
计算特点: 6块RTX4090性能超12块3090ti,与6块A100性能一样
报价日期:2022年11月30日
No
产品型号
主要配置
显存
CUDA处理器FP32性能指标
理想算法
价格
3.1
UltraLAB GX650M
228128-PC2T
2*Xeon银4314(32核2.8GHz)/128GB DDR4
/2*RTX4090/960GB SSD/3.84TB PCIeSSD /16TB SATA/双塔式(2000w)/27"-4K图显
48GB
165T
CNN
¥99,990
3.2
UltraLAB GX650M
228192-PC4T
2*Xeon银4314(32核2.8GHz)/192GB DDR4 /4*RTX3090/960GB SSD/3.84TB PCIeSSD /2*16TB
SATA/双塔式(双2000w)
/27"-4K图显
96GB
142T
CNN
¥131,000
3.3
UltraLAB GX650M
225256-PC6T
2*Xeon银4316(40核2.8GHz)/256GB DDR4 /6*RTX3090/3.84TB PCIeSSD/4*16TB SATA
/双塔式(双2000w)/27"-4K图显
144GB
213T
计算机视觉完美型
¥179,990
3.4
UltraLAB GX650M
233256-PC4T
2*Xeon金6326(32核3.3GHz)/256GB DDR4 /4*RTX4090/960GB SSD/3.84TB PCIeSSD/5*16TB
SATA/双塔式(双2000w )/27"-4K图显
96GB
330T
CNN最快
¥173,000
3.5
UltraLAB GA650M
225256-PD4T
2*AMD霄龙7773X (128核2.5GHz) /256GB DDR4/ 4*RTX4090三风扇/960GB SSD/7.68TB PCIeSSD/4*16TBSATA /双塔式(双2000w) /27"-4K图显
96GB
330T
全能+完美
¥223,000
3.6
UltraLAB GA650M
225384-PD6T
2*AMD霄龙7773X (128核2.5GHz) /256GB DDR4 /6*RTX4090三风扇/960GB SSD/7.68TB PCIeSSD/4*16TBSATA /双塔式(双2000w) /27"-4K图显
144GB
495T
全能+完美
¥279,000
3.7
UltraLAB GX650M
230384-PEAD
2*Xeon金6342(48核3.0GHz)/384GB DDR4 /10*A5000/1.92TSSD /15.36TB PCIeSSD/ 90TB并行存储/双塔式(双2000w)/27"-4K图显
240GB
277T
超DGX-2,灭DGX Station A100
¥330,000
3.8
UltraLAB GX650M
2281T-PE6T
2*Xeon铂金8358
(64核2.8GHz)/1TB DDR4/6*RTX 4090/ 1.92TB SSD
/15.36TB PCIeSSD/72TB并行存储/双塔式(双2000w)/32"-4K图显
144GB
495T
最强最完美,性能超DGX-2
¥315,000
3.9
UltraLAB GX650M -T1
2*Xeon铂金8380
(80核3.3GHz) /1TB DDR4/8*A6000/4TB PCIeSSD/15.36TB
PCIeSSD/4*18TBSATA
/双塔式(双2000w) /32"-4K图显
384GB
320T
地球最强超算工作站
¥560,000
(四)市场唯一支持4块GPU卡---便携超算工作站配置推荐
硬件架构:配备PCIe 4.0插槽,高频处理器,+最大4块RTX30系列
机器特点:GPU超算移动平台
报价日期:2022年11月30日
No
产品型号
主要配置
显存
CUDA处理器FP32性能指标
理想算法
价格
4.1
UltraLAB PX320G
153128-MB2X
intel第13代高频处理器(16核,其中
8核5.3Ghz/8核3.8GHz)/水冷散热/128GB DDR5/2TB
M2.SSD /8TB SATA
/2*RTX3080Ti(涡轮)/17寸高清便携一体(1500w)
24GB
68T
CNN
¥75,000
4.2
UltraLAB PX320G
153128-MB2T
intel第13代高频处理器(16核,其中8核
4.3Ghz/8核3.8GHz)
/水冷散热/128GB DDR4/2TB
M2.SSD /16TB SATA
2*RTX3090(涡轮)/
17寸高清便携一体(1500w)
48GB
71T
CNN+RNN
¥89,990
4.3
UltraLAB PA420G
139128-MB4X
Xeon银4316处理器
(20核3.9Ghz) /128GB DDR4/2TB M2.SSD/16TB SATA
/4*RTX3080Ti(涡轮)/17寸高清便携一体(2000w)
48G
136T
CNN
¥105,000
4.4
UltraLAB PA420G
133192-MB4T
Xeon银4316处理器
(20核3.9Ghz)/
192GB DDR4/2TB M2.
SSD/16TB SATA/
4*RTX3090(涡轮) 24GB/17寸高清便携一体(2000w)
96G
142T
CNN+ RNN+推理
¥136,000
4.5
UltraLAB PA420G
133192-SC4D
Xeon银4316处理器
(20核3.9Ghz)/
192GB DDR4/3.84TB SSD/16TB
SATA/
4*A5000 24GB/
17寸高清便携一体(2000w)
192G
111T
CNN+RNN+推理
¥125,000
4.6
UltraLAB PA420G
133384-PD4E
Xeon银4316处理器
(20核3.9Ghz)/
256GB DDR4
/7.68TB SSD/16TB SATA/4*A6000 48GB/
17寸高清便携一体(2000w)
192G
160T
CNN+RNN+推理
¥248,000
(五)GPU超算服务器配置推荐-机房专用型
硬件架构:配备PCIe 4.0插槽,高频处理器+工业级水冷散热,+最大8块RTX30系列
机器特点:极致性能深度学习集群、云计算平台
报价日期:2022年07月07日
No
产品型号
主要配置
显存
CUDA处理器FP32性能指标
理想算法
价格
5.1
UltraLAB GA320 15364-MBT
intel第13代高频处理器(16核,其中8核5.3Ghz/8核3.8GHz)/水冷散热/64GB DDR5/1.9TB
SSD /8TB SATA RTX4090/4U机架式(2000w)/双口万兆电口
24GB
82Tflops
CNN
¥51,000
5.2
UltraLAB GA320
15364-MB2D
intel第13代高频处理器(16核,其中8核5.3Ghz/8核3.8GHz)/水冷散热/64GB DDR5/1.9TB
SSD /8TB SATA/2*A5000 24GB/4U机架式(2000w)/双口万兆电口
48GB
56Tflops
CNN+
RNN
¥67,000
5.3
UltraLAB GA310
157128-MB2T
intel第13代高频处理器(24核,其中8核5.7Ghz/16核4.2GHz)/128GB DDR4/1.9TB SSD /8TB
SATA 2*RTX3090(涡轮)/4U机架式(2000w)双口万兆电口
48GB
71Tflops
CNN+ RNN+
推理
¥81,000
5.4
UltraLAB GT420
12896-SA4X
Xeon 银4316(20核2.8Ghz ) /96GB DDR4
/1.9TB SSD /8TB SATA /4*RTX3080Ti(涡轮)/4U机架式(2000w)/双口万兆电口
48G
136T
CNN
¥88,500
5.5
UltraLAB GT420
128192-SA4T
Xeon 银4316(20核2.8Ghz) /192GB DDR4 /1.9TB
SSD /8TB SATA/4*RTX3090(涡轮)/4U机架式(2000w)/双口万兆电口
96G
142T
CNN+
RNN+
推理
¥123,000
5.6
UltraLAB GT420
128256-SC4E
Xeon 银4316(20核2.8Ghz) /256GB DDR4
/3.84TB SSD /8TB SATA /4*A6000/4U机架式(2000w)/双口万兆电口
192G
160T
CNN+
RNN+
推理
¥198,000
5.7
UltraLAB GX650
228256-SC2A
2*Xeon 银4316(40核2.8Ghz) /256GB DDR4 /3.84TB SSD /8TB SATA /2*A100 40GB/4U机架式(2000w)/双口万兆电口
80G
CUDA FP16:
156Tflops
推理
¥249,990
5.8
UltraLAB GX658
228128-PC8X
2*Xeon 银4316(40核3.9Ghz) /128GB DDR4 /960GB
SSD+7.68TB PCIeSSD /8*RTX3080Ti (涡轮)/4U机架式(2000w
2+2冗余)/双40GbE光口
96G
273T
CNN
¥218,000
5.9
UltraLAB GX658
228256-PC8T
2*Xeon 银4316(40核2.8Ghz) /256GB DDR4 /960GB
SSD+7.68TB PCIeSSD /8*RTX3090(涡轮) /4U机架式(2000w 2+2冗余)/双40GbE光口
192G
285T
CNN+
RNN+
推理
¥305,000
5.10
UltraLAB GX658
228512-PD8E
2*Xeon 银4316(40核2.8Ghz) /512GB DDR4 /960GB
SSD+15.36TB PCIeSSD /8*A6000(涡轮) /4U机架式(2000w 2+2冗余)/双40EbE光口
384G
320T
CNN+ RNN+ 推理
¥435,000
(六)支持A100+水冷---人工智能推理超级工作站硬件配置推荐
---逻辑推理超算平台,支持6块A100+水冷静音级
完美计算架构:双xeon3代(最大80核),最大6块全速PCIe 4.0 16X全速 A100+海量存储(最大300T)
性能出众: FP16算力(6块A100)468Tflops
报价日期:2022年11月30日
No
产品型号
主要配置
显存
CUDA处理器FP16性能指标
理想算法
价格
6.1
UltraLAB GX650M
233256-PC2A
2*Xeon金6326(32核3.3GHz)/256GB DDR4 /2*A100 40GB/960GB SSD/3.84TB PCIeSSD /56TB并行存储/双塔式(双2000w)
/27"-4K图显
80GB
156T
¥295,000
6.2
UltraLAB GX650M
235384-MC2A
2*Xeon金6348(56核3.5GHz)/384GB
DDR4 /2*A100 80GB/960GB SSD/3.84TB PCIeSSD /56TB并行存储/双塔式(双2000w)
/27"-4K图显
160GB
179T
¥368,000
6.3
UltraLAB GX650M
235512-PD4A
2*Xeon铂金8358(64核3.5GHz)/512GB DDR4/4*A100 40GB /1.92TB SSD/7.68TB PCIeSSD/70TB并行存储/双塔式(双2000w)
/27"-4K图显
160GB
312T
¥526,000
6.4
UltraLAB GX650M
2351T-PE4A
2*Xeon铂金8358(64核3.5GHz)/1TB DDR4 /4*A100 80GB/ 1.92TB SSD/15.36TB PCIeSSD/84TB并行存储/双塔式(双2000w)
/27"-4K图显
320GB
312T
¥665,000
6.5
UltraLAB GX650M
2331T-PF6A
2*Xeon铂金8368(76核3.3GHz)/1TB DDR4 /6*A100 40GB /3.84TB
SSD /2*15.36TB PCIeSSD /112TB并行存储/双塔式(双2000w) /27"-4K图显
240GB
468T
¥815,000
6.6
UltraLAB GX650M
2312T-PF6A
2*Xeon铂金8380(80核3.1GHz)/2TB DDR4 /6*A100 80GB /3.84TB
SSD /2*15.36TB PCIeSSD /126TB并行存储/双塔式(双2000w)/27"-4K图显
480GB
468T
¥110万
(七)2022年最强大的深度学习多机集群配置推荐
相关机型:
(1)GPU计算服务器(计算节点)
机型:UltraLAB GX650M(2021年上市的最新机型)
技术特点:
采用intel第3代Xeon可扩展处理器、配备nvidia RTX 40系列GPU计算卡,网口配备56G IB网口,硬盘采用SSD,保证硬件配置计算更强、io带宽更高、整机性能全方位优化,保证多用户多任务神经元完美计算能力。
(2)存储服务器(存储节点)
相关机型:UltraLAB N630A(8盘位)、N630B(16盘位)
技术特点:
CPU 采用 intel Xeon第二代可扩展处理器
高速缓存盘:配备M2.SSD确保数据处理的高速读写(读写3G/s以上)及超低io延迟、
配备并行存储:数据备份安全可靠、最大容量到112TB(8盘位)/240TB(16盘位)
网口:配备双56G光口,另外,整机性能全方位优化
支持远程操作、远程管理,系统管理员和使用者直接在办公室甚至异地进行操作。
方案1 CX650深度学习集群配置推荐
计算节点3个
GPU卡:18块RTX4090(相当于36块RTX3090Ti)
集群FP32单精度浮点算力:1486Tflops
配置方案
NO
货物名称
型号
数量
单价
小计
1
GPU计算服务器GT420
2*Xeon银4314(32核2.8Ghz)/256GB
DDR4/6块RTX4090 24GB
/960GB SSD /4U机架式/56G IB光口/无显示器
3
189000
590000
2
存储服务器N650C
2颗Xeon 4310(24核2.3Ghz )/128GB DDR4 /QT1000/960GB SSD系统盘+7.68TB高速缓存盘+126TB并行存储/4U机架式/56G IB光口/27"4K图显
1
86000
86000
3
交换机
36个56G IB
1
63000
63000
4
服务器机柜
42U,含PDU、托盘
1
5500
5500
5
KVM
16口 HDMI KVM切换器
1
4800
4800
6
集群系统
CentOS/Ubuntu、作业调度管理
1
50000
50000
7
深度学习框架
Tensorflow、Pytorch…
1
合计
¥776,300元
方案2 CX650深度学习集群配置推荐
计算节点4个
GPU卡:24块RTX4090(相当于48块RTX3090Ti)
集群单精度fP32浮点算力:1982Tflops
配置方案:
NO
货物名称
型号
数量
单价
小计
1
GPU计算服务器GT420
2*Xeon银4314(32核2.8Ghz)/256GB
DDR4/6块RTX4090 24GB
/960GB SSD /4U机架式/56G IB光口/无显示器
4
189000
756000
2
存储服务器N650C
2颗Xeon 4310(24核2.3Ghz )/128GB DDR4 /QT1000 /960GB SSD系统盘+7.68TB高速缓存盘+126TB并行存储/4U机架式/56G IB光口/27"4K图显
1
86000
86000
3
交换机
36个56G IB
1
63000
63000
4
服务器机柜
42U,含PDU、托盘
2
5500
11000
5
KVM
16口 HDMI KVM切换器
1
4800
4800
6
集群系统
CentOS/Ubuntu、作业调度管理
1
50000
50000
7
深度学习框架
Tensorflow、Pytorch…
1
合计
¥970,800元
UltraLAB图形工作站供货商:
西安坤隆计算机科技有限公司
国内知名高端定制图形工作站厂家
业务电话:400-705-6800
咨询微信号: