能够以1扛12！交换机也开始玩高密度了

近日，NVIDIA GTC大会落下帷幕，众多的新产品似乎“打通了”现实与虚拟世界，为AI的进一步发展构建了一个更加高效的环境。

在NVIDIA发布的众多新品中，可以看到网络相关产品越来越丰富起来，CPU、GPU、DPU这3U互联的时代正式开启。

几年前的DPU还仅仅是NVIDIA对数据中心领域探索的一条产品线，而现在它则扩展出多套产品组合，其中之一便是Spectrum-4端到端以太网平台。该平台主要由三部分产品组成，分别是可以加速整个云网络架构的Spectrum-4交换机；加速服务器节点中的网络性能适配器ConnectX-7智能网卡；可编程数据中心基础架构，软件定义网络存储安全的BlueField-3 DPU。

这三款产品共同搭建成了端到端的400Gbps的超大规模的网络加速平台Spectrum-4。

能以1扛12的Spectrum-4交换机

NVIDIA Spectrum-4是全球首款400Gbps端到端网络平台交换机，拥有64个端口，每个端口为800Gbps带宽，可以做两条400Gbps链路连接，共可提供128条400Gbps的交换链路。整体交换带宽是51.2Tbps，包转发速率达到了37.6Tbps，并可以提供12.8Tbps线速加密能力，性能方面远远胜于同类产品。

提供如此强大性能的芯片拥有高达1000亿颗晶体管，采用了定制4N工艺制程。该芯片可以通过人工智能、存储负载来优化云平台，能够提供低延时的网络交互。Spectrum-4交换机实现了纳秒级计时精度，相比普通毫秒级数据中心提升了五到六个数量级。

据NVIDIA网络专家崔岩介绍，Spectrum-4交换机比前代产品增加了4倍带宽，在线速加密方面有了三倍提升，并可以减少12倍的交换机数量，降低40%能耗。并可以用最低的总体拥有成本和最高的投资回报率来快速部署整个网络。同时，依托于更加强大的性能与转发效率，Spectrum-4交换机能够更好地避免网络壅塞。

除此之外，NVIDIA Spectrum-4还有两项绝技，第一是自适应路由。一般来讲，在静态哈希情况下，一个数据流只能选定一条路径进行数据转发，如果流量比较大的情况下就会导致整条链路壅塞，同时增加延迟。

而自适应路由功能则可以让数据流负载均衡到交换机的多条链路上，当预测一条链路将产生壅塞的时候，会将数据流的一部分转到其他链路上做转发，这样就能大大减少流量包突增或尾部延迟发生所带来的壅塞，提升整个网络的运行效率。

第二项绝技是高效大规模加速的Omniverse体系架构。其实我们从Spectrum-4的特点中就能发现超高密度所带来的优势，原来12台交换机仅端口配置和部署就需要消耗大量的时间和精力。现在用一台Spectrum-4来代替，极大简化了部署环节，并且400Gbps的端口也拓展了数据中心节点的连接数量，让效率有了明显提升。

另外就是管理方面，原来需要管理12台设备，而现在仅需一台，故障排除更加简单，占用机柜空间更少，并且每年能够减少不菲的能耗与空间成本。

智能网卡与DPU带来新飞跃

此次NVIDIA推出的第二部分产品是ConnectX-7的智能网卡，可以在不消耗CPU资源的情况下加速软件定义网络，提供增强存储性能，并支持在线加密、解密，及数据中心应用程序的精准记时。

第三部分产品就是大家非常熟悉的BlueField-3 DPU了，与上代产品相比它也同样带来了巨大的变革，包括4倍ARM算力、5倍内存、2倍网络带宽、4倍主机带宽，及安全、存储等方面的性能提升。

NVIDIA同步更新了DOCA SDK开发平台，可以让更多开发者基于BlueField-3 DPU平台开发他们自己的软件定义网络存储和安全的应用程序。同时DOCA上也会提供更多的服务，用户可以直接采用基于容器的服务，来支撑网络上的业务。

OVX：把计算工厂放进盒子里

在此次NVIDIA GTC大会上，受关注度最高的就是OVX计算系统，它是NVIDIA针对数据中心AI加速的一款利器，也是其构建庞大数据中心版图的重要组成部分。

简单地说OVX是一款高计算密度的服务器产品，它为Omniverse数字孪生而打造，并可以通过集群方式堆叠，从而产生更为“恐怖”的性能。

Omniverse OVX计算系统由8块NVIDIA A40 GPU、3块NVIDIA ConnectX-6 Dx200 Gbps网卡、双Intel Ice Lake 8362 CPU、1TB系统内存和16TB NVMe存储组成。当使用Spectrum交换机连接时，OVX计算系统可以从包含8台OVX服务器的单个POD扩展到32台OVX服务器的超级POD。用户可以通过多个超级POD的部署，来实现更大的仿真需求。

NVIDIA网络市场总监孟庆表示：OVX服务器是一个非常像DGX的盒子，这是一个标准化的产品，它对Omniverse提供最优秀的支持。OVX SuperPOD则是通过Spectrum平台连接起来的超级计算集群，凭借强大的性能，可以帮助设计师构建更加精确的数字建筑，及创建更真实的模拟环境；并能够解决工业领域日趋复杂的计算需求；亦或让自动驾驶汽车、机器人更加智能。

奇特的计算卡H100 CNX

此次NVIDIA所带来的重磅级产品非常多，不过在它们之中最具创新的当属H100 CNX。这是一款融合加速器，可以看作是将网络与GPU进行直接相连，也就是把H100 GPU与ConnectX-7 400Gb/s InfiniBand和以太网智能网卡通过RDMA以50GB/s的速度直连，从而实现更高的I/O性能。

什么？没看明白？那我们就从头说起吧！

CPU为什么叫中央处理器？那是因为它的地位就是“中央”，几乎任何内部、外部设备都需要与CPU进行通信，接收指令后再去忙“自己的工作”，这条通信的“管道”就是总线，目前主要是PCIe。

但随着计算能力的不断增强，在GPU、NVMe、网络等数据传输大户的轮番轰炸下，总线带宽逐渐开始不够用了，造成了系统延迟变高等现象屡屡发生。在传统服务器中，GPU有大量的数据与CPU进行通信，这些数据一般会放在内存中，当CPU传达完指令后，再调动给网卡。可以说这样一条数据链路存在诸多周转环节，一旦数据量激增，就会带来拥堵。

H100 CNX的做法是将GPU和ConnectX-7网络芯片设计在一张板卡上，它们之间以400Gbps超高速互联，需要做的仅是让CPU提供一些指令即可，绕过了CPU、内存与海量数据的直接参与。能在一块卡上解决的问题，就绝对不要再去“麻烦”日理万机的CPU了。

另外H100 CNX所带来的另一个优势就是兼容性，它采用了PCIe接口形式，能够适配于各种主流服务器，让服务器厂商不必在研发方面耗费过多资源，适用范围也更广。

数字化时代，安全至上

在企业应用中的数据大都承载着关键业务，如何能够保证安全呢？

据崔岩介绍，NVIDIA一直都非常重视网络安全，Spectrum-4交换机、ConnectX-7及BlueField-3都有底层固件上的安全认证策略。通过无法更改的固件和启动验证程序，保证这些设备不会因非法修改而遭受攻击。

此外，正如前文所述，这些设备都会提供多种加密、解密、加速功能，包括客户应用数据传输中也可进行加密，从而保证安全性。在BlueField-3上还可以实现更好的零信任安全，把应用域和基础设施域进行隔离，这样客户端的应用和基础设施端的数据就都会得到安全保障。

NVIDIA也有很多生态合作伙伴基于BlueField-3 DPU做分布式防火墙和安全机制，能够更好的防御主机端和服务器端的网络攻击。

另外，ConnectX-7智能网卡还可以为数据中心应用程序和时间敏感型基础设施提供非常精准的时间同步。

DPU已成行业热点，

NVIDIA保持领先

现在，我们看到经历一轮收购大潮之后，很多芯片厂商与云服务商都开始研发DPU相关产品，那么NVIDIA对此怎么看呢？

据孟庆介绍，NVIDIA早在2020年提出DPU的时候，就瞬间引爆了这个理念，之后很多友商和创业公司都往这个方向推出了类似的产品和路线图。这也从侧面证明了NVIDIA当时对数据中心发展方向的正确把握。

黄仁勋多次表示过，NVIDIA提供的是一个全栈的计算平台，包括闻名于世的GPU和业界领先的DPU。值得关注的是，NVIDIA第三代DPU即将交付客户，在速度方面领先于同类产品。

在研发方面，NVIDIA一直以来都在加大对研发的投入，并深知开发者和相关生态的重要性。从CUDA的成长和全球近300万开发者，到目前DOCA开发者社区短短一年就吸引了大量的开发者，这些都在持续地投入着。与开发者、客户、合作伙伴一起共同成长，是NVIDIA保持技术领先的一大秘诀。

谈到未来发展，NVIDIA认为主要有5个方向：1. Million-X 百万倍的计算加速。2. Transformer增强AI。3.数据中心演变成AI工厂。4.机器人系统的需求正在呈指数增长。5.下一个AI时代的数字孪生。NVIDIA会不断提升自身，并帮助合作伙伴、开发者和客户来共同在这5个方向上发力，推动行业发展。

计算力需求将永无止境

“将数据中心变成AI工厂”，这是此次NVIDIA创始人兼首席执行官黄仁勋在GTC大会上谈到的愿景之一。同时我们也看到，来自很多领域的企业正在通过AI构建自己数据工厂，包括气象研究、地质勘探、药物及疫苗研发、病毒分析等等，对计算力提出了更高要求。

笔者之前曾经采访过某知名高校的博士生导师，他说：“在生物研究领域，无论超级计算机有多高的计算能力都将被用满，因为在研究过程中将精细度提升一点点，就会让计算量翻数十倍。可以说对计算力的需求是永无止境。”

当前，我们看到全国各地大量的数据中心拔地而起，它们7X24小时不停歇地工作着，消耗了大量能源，但仍然不能满足需求。这其实才是数字时代的“可怕”之处。

所以，企业级用户一直都在翘首以盼地等待着新技术，期望得到更高的计算密度和更低的能耗。而NVIDIA此次推出的这一系列产品就是为此而生，能以1打12的Spectrum-4交换机、高度智能的ConnectX-7网卡、4倍算力的BlueField-3 DPU、支持8张GPU卡的OVX服务器及高效的融合加速器H100 CNX，它们都将为这个数字化时代的数据中心带来新的变革，势必会掀起新一轮的元宇宙浪潮。