游戏开发中的人工智能 源码-全球首款专为AI设计的高性能以太网产品
发布时间:2023-06-26 22:10 浏览次数:次 作者:佚名
在最近的Computex上,大多数人都关注NVIDIA的新DGX GH200和MGX,这两者都是NVIDIA的系统级AI产品,无论是作为参考设计还是完整的服务器。与AI相关的CPU、GPU、芯片、主板和系统一直是NVIDIA的热门话题,因为目前AI和HPC的需求量很大。
然而,在人工智能高性能计算中,特别是在生成式人工智能或现在许多人所说的“大型模型”计算的背景下,网络也很重要。这意味着需要许多服务器一起工作,并且需要大规模的集群来完成工作。当计算能力跨系统、跨节点扩展时,性能问题不仅仅局限于单个节点内的CPU、GPU和AI芯片的计算能力。
谷歌此前曾提到,系统级架构在整体AI基础设施中的重要性甚至可能超过TPU芯片微架构。当然,这个“系统级”不一定包括跨节点联网,但显然,当很多芯片一起计算时,系统和网络就成为性能的瓶颈。
这其实也是DPU变得重要的原因——NVIDIA的DPU和其他网络产品更像是在弥补自家产品的短板。主观上游戏开发中的人工智能 源码,它们似乎并不旨在单独销售或与市场上现有的产品竞争。从这个角度来看,NVIDIA的硬件产品已经横向形成了完整的生态系统:比如DPU主观上并不是为了和谁竞争,而是他们现有产品线的一部分。
在今年的Computex上游戏开发中的人工智能 源码,NVIDIA主要发布了网络相关产品,其中包括Spectrum-X以太网平台。NVIDIA 声称,这是全球首款专为 AI 设计的高性能以太网产品,特别是针对“需要新型以太网的生成式 AI 工作负载”。过去我们很少谈论NVIDIA的网络产品,包括DPU,也没有太多讨论。本文以Spectrum-X为契机,尝试探讨一下这款以太网产品以