人工智能推理
与 NVIDIA Blackwell GPU 相比,NVIDIA Blackwell Ultra 的 Tensor Core 性能大幅提升,注意力层加速能力提升 2 倍,AI 计算浮点运算速度 (FLOPS) 提升 1.5 倍。
- Tensor Core 5th Gen
- Attention 2x 加速
- 1.5× FLOPS
NVIDIA BLACKWELL ULTRA · 旗舰算力就绪
面向万亿级大模型预训练、超长上下文推理与物理 AI 世界模型的下一代 AI 超算基础设施。秒级自动化调度编排,开箱即用,支持按需弹性计费与专属 SuperPOD 私有集群交付。
30x
AI 工厂峰值代币收益
2.6x
DeepSeek-R1 等超大模型
288GB
单卡 HBM3E / 单机 >2TB
14.4TB/s
第 5 代无损无阻塞拓扑
性能突破
该曲线展示了决定 AI 工厂代币收益输出的关键参数。纵轴代表一兆瓦 (MW) AI 工厂的 GPU 每秒代币吞吐量 (TPS),横轴则量化了单个用户的交互性和响应速度(以 TPS 表示)。在吞吐量和响应速度的最佳交汇点,与 NVIDIA Hopper 架构相比,HGX B300 可使 AI 工厂的整体输出性能提升 30 倍,从而实现最大的代币收益。
测算代币收益模型大型人工智能模型的可扩展训练
HGX B300 平台可为 DeepSeek-R1 等大型语言模型提供高达 2.6 倍的训练性能提升。凭借超过 2 TB 的高速内存和 14.4 TB/s 的 NVLink 交换机带宽,它能够实现大规模模型训练和高吞吐量的 GPU 间通信。
Blackwell Ultra 平台支持从 NVIDIA Cosmos™ 等世界基础模型实时生成视频,性能比 Hopper 提升 30 倍。这使得创建定制化、照片级真实感、时空稳定的视频成为可能,适用于物理 AI 应用。
启动集群分布式微调技术创新
集成最新 NVIDIA 技术为 AI 工作负载提供前所未有的性能和效率。
与 NVIDIA Blackwell GPU 相比,NVIDIA Blackwell Ultra 的 Tensor Core 性能大幅提升,注意力层加速能力提升 2 倍,AI 计算浮点运算速度 (FLOPS) 提升 1.5 倍。
NVIDIA Blackwell Ultra GPU 的 HBM3E 显存容量比上一代产品提升了 1.5 倍,并结合了更强大的 AI 计算能力,从而显著提升了 AI 推理吞吐量,尤其是在处理最长上下文时。
要充分发挥加速计算的潜力,需要每个 GPU 之间实现无缝通信。第五代 NVIDIA NVLink™ 是一种可扩展互连技术,能够显著提升 AI 推理模型的性能。