专业家政团队合影,身着统一制服,微笑面对镜头
「服务器机头」英伟达 DGX B300
「服务器机头」英伟达 DGX B300 缩略图1

「服务器机头」英伟达 DGX B300

提供 DGX B300 整机供货、部署与运维托管服务,将大模型训练中单机算力不足、多机互联带宽受限的问题解决,覆盖 NVIDIA DGX B300(10U,8 颗 B300 HGX,2.3TB 级 HBM3e 显存),帮助客户以一体机形态快速构建千卡级 AI 工厂底座。

NVIDIA DGX B300 是英伟达基于 Blackwell Ultra 架构打造的整机级 AI 超级计算机,定位企业构建"AI 工厂"的标准算力单元。整机采用 10U 机架式设计,集成 8 颗 B300 SXM GPU,单卡配备 288GB HBM3e 显存,整机显存池高达 2.3TB,可单机承载千亿至万亿参数模型的训练与推理,无需复杂分片即可加载超大规模权重。算力方面,整机 FP4 张量性能达 144 PFLOPS(稀疏)/108 PFLOPS(稠密),FP8 训练性能 72 PFLOPS,配合第五代 NVLink 与双 NVSwitch,GPU 间双向聚合带宽达 14.4TB/s,单卡互联带宽 1.8TB/s。网络侧标配 8 张 ConnectX-8 800Gb/s SuperNIC 与 2 张 BlueField-3 DPU,出厂即具备万卡集群的扩展能力。DGX B300 采用工厂预集成、原厂全栈验证的交付模式,随机附带 DGX OS、NVIDIA AI Enterprise 与 Mission Control 软件栈,开箱即进入可用状态,是智算中心、运营商与大型企业自建算力底座的高确定性选择。

一、技术参数

1、CPU 处理器

搭载 2 颗 Intel Xeon Platinum 6776P 处理器,单颗 64 核,主频 2.3GHz,负责数据预处理、I/O 调度、检查点写入与训练任务编排,与 GPU 计算平面通过 PCIe Gen6 高速链路直连。

2、操作系统

预装 NVIDIA DGX OS(基于 Ubuntu LTS 深度定制并完成全栈驱动验证),同时支持 Red Hat Enterprise Linux、Rocky Linux 与 Ubuntu 标准发行版,兼容 NVIDIA AI Enterprise 认证的容器化运行环境。

3、芯片系列

GPU 采用 NVIDIA Blackwell Ultra 架构(B300),为 Blackwell 平台的第二代产品,在稠密 FP4 吞吐与注意力层运算上分别较 DGX B200 提升约 1.5 倍与 2 倍;互联采用第五代 NVLink 与双 NVSwitch 交换架构。

4、显卡加速器

整机集成 8 颗 NVIDIA B300 SXM GPU,单卡 288GB HBM3e 显存、显存带宽约 8TB/s,整机显存 2.3TB(可用 2.1TB);FP4 张量算力 144 PFLOPS(稀疏)/108 PFLOPS(稠密),FP8 张量算力 72 PFLOPS;单卡双向互联带宽 1.8TB/s,整机聚合 14.4TB/s。

5、内存

标配 2TB DDR5 系统内存,采用 32 个 DIMM 插槽,可升级至 4TB(128GB 模组),为大规模数据加载与 KV Cache 卸载提供充足宿主内存空间。

6、存储器

系统盘为 2 块 1.92TB NVMe M.2(RAID 1),数据盘为 8 块 3.84TB E1.S NVMe 固态硬盘,裸容量约 30.7TB,支持 SED 自加密,满足训练数据集本地缓存与检查点高速落盘需求。

7、安全

支持安全启动、签名固件、安全元件验证、SED 磁盘加密、TPM 2.0 与 Silicon Root of Trust,符合 NIST 800-193 平台固件保护规范,可满足金融、政务类客户的合规审计要求。

8、管理

通过 NVIDIA Mission Control(集成 Run:ai 技术)实现集群级算力编排与配额管理,配合 Base Command Manager 完成节点发现、作业调度与健康巡检;同时提供标准 BMC 与 Redfish 接口,可对接既有运维平台。

9、控制台

前面板集中布置全部 I/O,含 1GbE RJ45 板载管理网口与 1GbE BMC 专用口,支持远程 KVM over IP、串口重定向与带外开关机,便于机房无人化运维。

10、工具

随整机交付完整软件工具链,包括 NGC 容器仓库、NIM 推理微服务、NeMo 训练框架、TensorRT-LLM 与 Dynamo 推理加速栈,另提供固件批量升级、健康诊断与性能基准测试工具。

11、集成

8 个 OSFP 端口对应 8 张 ConnectX-8 VPI 网卡,单端口速率最高 800Gb/s,可同时支持 InfiniBand 与以太网;2 张 BlueField-3 DPU 提供 400Gb/s 带内管理与存储卸载;整机符合 MGX 与 OCP 机架规范,提供交流与 54V 直流汇流排两种供电版本,可直接并入 DGX SuperPOD 集群。

二、技术支持

1、产品规格表

提供完整的 GPU、CPU、内存、存储、网络、电源与散热参数清单,含各部件功耗预算与机架承重要求,便于机房前期规划。

2、技术指南

提供集群组网拓扑设计、训练框架调优、检查点策略、液冷与风冷机房适配等技术文档,并支持基于 DGX SuperPOD 参考架构的规模推演。

3、PDF 文档

可获取英伟达官方产品手册、用户指南与兼容性列表 PDF,便于工程设计院归档与招投标文件引用。

三、产品特点优势

1、单机 2.3TB HBM3e 显存池,DeepSeek-R1 671B 级别的 MoE 模型可在更少 GPU 上完成推理部署,显著降低张量并行度与通信开销。

2、FP4 精度针对推理与智能体负载深度优化,官方实测在同等模型下相较 Hopper 平台可达更高单兆瓦吞吐与更低单 Token 成本。

3、8×800Gb/s 计算网络出厂即配齐,GPU 与网卡按 1:1 配比直连,横向扩展时无需二次改配,集群线性度更可控。

4、工厂预集成、原厂全栈验证,交付即具备可用算力,减少现场装机、驱动适配与联调周期。

5、交流与 54V 直流双供电方案可选,前置 I/O 设计适配 MGX 整机柜,风冷版本可直接落地既有企业机房。

四、售后服务

1、咨询服务

提供算力规模测算、模型适配评估与机房条件诊断,输出从单机到集群的选型与投资建议。

2、支持服务

涵盖原厂质保、远程诊断、固件与驱动升级、GPU 健康监测,以及故障部件的快速更换。

3、部署服务

支持上门交付、整机上架、集群组网、IB/RoCE 调优与训练框架联调,可承接算力中心整体交付。

4、培训服务

提供 DGX 平台运维、Mission Control 调度、TensorRT-LLM 推理优化等专题培训,帮助客户团队快速建立自主运维能力。

五、总结

NVIDIA DGX B300 以 8 颗 Blackwell Ultra GPU、2.3TB HBM3e 显存池、144 PFLOPS FP4 算力与 800Gb/s 出厂组网能力,构成了当前大模型训练与推理的高确定性整机方案,其价值不仅在于单机性能,更在于原厂全栈验证带来的部署一致性。亚博威科技提供 DGX B300 的渠道供货与配套服务,同时覆盖 GPU 改配、芯片级维修、延保与全生命周期运维,帮助客户在算力快速迭代的周期中控制投入风险、缩短上线时间。如果您有任何疑问,请长按扫码添加产品销售经理企业微信咨询。


首页
首页
维保
维保
备件
备件
白皮书
白皮书
联系
联系