浪潮元脑NF5688G8服务器 浪潮信息AI服务器,GPU服务器,AI推理服务器
元脑R1推理服务器NF5688G8是基于浪潮信息全新一代AI超融合架构平台,面向超大规模数据中心的强劲性能、极致扩展人工智能服务器,最强算力密度6U空间内搭载1块NVIDIA Hopper架构HGX-8GPU模组,系统支持4.0Tbps网络带宽,支持FP8原生精度下单机部署DeepSeek 671B大模型。搭载2颗AMD第五代EPYC处理器(Max cTDP 500W),最高可达3TB系统内存,128TB NVMe高速存储,支持高达12个PCIe Gen5 x16扩展槽位,可灵活支持OCP 3.0、CX7、多种智能网卡等,构建面向超大模型训练、元宇宙、自然语言理解、推荐、AIGC等场景的最强AI算力平台。
产品特性
强劲性能
单机显存容量1128G,实现DeepSeek 671B模型完整部署
2颗AMD第五代 EPYC处理器
集成Transformer引擎,大幅加速GPT大模型训练速度
极致能效
散热性能极致优化,风道解耦设计提升20%系统能效比
12V和54V N+N冗余电源分离供电设计,减少电源转换损耗
智能分层调节散热,降低功耗与噪音
领先架构
节点内全PCIe 5.0高速链路,CPU至GPU带宽提升4倍
节点间高速互联扩展,4.0Tbps无阻塞带宽IB/RoCE组网
集群级优化架构设计,GPU: 计算IB: 存储IB=8:8:2
多元兼容
全模块化设计,一机多芯,灵活配置支持本地和云端部署
加速大模型训练和推理
领先支持多样化的SuperPod解决方案,适用AIGC、AI4Science 及元宇宙等丰富场景
技术规格
| 型号 |
NF5688-A8-A0-R0-00 |
| 高度 |
6U |
| GPU |
1块NVIDIA HGX-Hopper-8GPU模组 |
| 处理器 |
2颗AMD第五代EPYCTM处理器,最大cTDP 500W |
| 内存 |
24条DDR5 DIMMs内存,速率最高支持6400MT/S |
| 存储 |
最多支持24块2.5英寸SSD硬盘,其中最大支持16块NVMe |
| M.2 |
2块内置M.2 NVMe (可选) |
| PCIe插槽 |
支持10个PCIe 5.0x16插槽 (其中1个PCIe 5.0x16插槽可替换为2个PCIe 5.0x8速率的x16槽位)
可选支持Bluefield-3、CX7以及多种类型智能网卡 |
| RAID支持 |
可选支持RAID 0/1/10/5/50/6/60等,支持Cache超级电容保护 |
| 前置I/O |
1个USB 3.0端口,1个USB 2.0端口,1个VGA端口 |
| 后置I/O |
2个USB 3.0端口,1个MicroUSB端口,1个VGA端口,1个RJ45管理口 |
| OCP |
可选支持1张OCP 3.0网卡,支持NCSI功能 |
| 管理 |
DC-SCM BMC管理模组 |
| TPM模块 |
TPM 2.0 |
| 风扇模组 |
GPU区域: 6个54V N+1冗余热插拔风扇
CPU区域: 6个12V N+1冗余热插拔风扇 |
| 电源 |
2块12V 3200W及6块54V 2700W钛金级CRPS电源,支持N+N冗余 |
| 尺寸 |
宽447mm,高263mm,深860mm |
| 重量 |
净重92kg(毛重: 107kg) |
| 环境参数 |
工作温度: 10℃~35℃;贮存温度: -40℃~70℃ |
| 工作湿度: 10%~90% R.H.;贮存湿度: 10%~93% R.H. |
您好!请登录