
新闻资讯
拥抱变化,赋能产业互联时代
BlackWell服务器中心参数
2024-03-22
● BlackWell:1040亿晶体管、台积电4纳米制成工艺、10TB/sNVIDIA高速带宽接口,目前物理上最大的芯片;
● BlackWell GPU:2个BlackWell芯片互联,2080亿晶体管、全部缓存一致性、20petaFLOPS的AI性能、192GB的HBM3e、8TB/s的显存带宽;
● BlackWell GPU 和 Hopper GPU相比多了1280亿晶体管,5倍AI性能提升,4倍芯片内部存储提升;
1块Grace CPU 有72 Arm Neoverse V2 CPU cores, 2块BlackWell芯片有384GB的HBM3e存储,两者的通道走900GB/s的NVLink-C2C带宽。
● GB200 Grace BlackWell SuperChip:40 petaFLOPS的AI性能、864GB的快速通用存储、HBM带宽16TB/s(这里是把两块BlackWell的显存带宽算一起了)、3.6TB/s的NVLink 带宽(这个是对外连其他的GB200);
● BlackWell 计算节点:由两块GB200组成,80 petaFLOPS的AI性能,1.7TB的HBM3e,32TB/s的显存带宽,液冷MGX设计
● Connectx-800G网卡:优化AI处理,多节点通过网线快速通信;
● Bluefield-3 DPU:网络、存储、网络安全速度,在网络中计算,有80GB/s的存储带宽;
● GB200 NVL72:有18个GB200计算节点,即36个Grace CPU,72个BlackWell GPU,1.4 exaFLOPS的AI性能,30TB的HBM3e;
● NVLink Swith:4个NVLinks,每个NVLinks的速度为1.8TB/s,提供7.2TB/s的加速带宽,72-Ports Dual 200Gb/s SerDes(这里的是输入输出的总和,单向时要减半),提供3.8 TFLOPS FP8的网内计算能力;
● NVLink Swith System:18个NVLink Switch芯片,72个端口,全交叉提供130TB/s加速带宽;
● Quantum Infiniband Switch:每个端口800Gb/s的吞吐量,双向加速吞吐量为230.4Tb/s;
● GB200 NVL72计算架:8个GB200 NVL72s,288 Grace CPUs和576 BlackWell GPUs;
● 整个数据中心:32000GPUs,645exaFLOPS的AI性能,13PB的共用存储,58PB/s的NVLink带宽、16.4petaFLOPS的网内计算能力。