在由博通(Broadcom)、英特尔(Intel)、Xilinx等公司主导的部分数据中心市场上，英伟达(NVIDIA)正通过其新一代服务器数据处理单元(dpu)加大挑战力度。
去年，这家总部位于加州圣克拉拉的公司推出了Bluefield系列dpu中的第一款，该dpu可以减轻软件定义的网络、存储和安全工作负载，这些工作负载已经成为服务器中央处理器(cpu)的巨大负担。周一，该公司发布了最新一代芯片Bluefield-3，将接手更多的基础设施业务。
Bluefield-3是为云计算供应商和其他运营大型数据中心的公司设计的。首席执行官黄延森(Jensen Huang)在一份声明中表示:“现代超大规模云正在推动数据中心的基本新架构。”“需要一种新型处理器，用于处理数据中心基础设施软件，以减轻和加速虚拟化、网络、存储、安全和其他云原生人工智能服务的巨大计算负载。”
DPU是一种服务器网卡(也称为smartnic)，它越来越多地用于数据中心，处理更多的后台数据管理工作负载，这些工作负载会使cpu窒息。英伟达的Bluefield系列dpu是其数据中心业务战略的支柱之一，是用于人工智能的图形处理芯片(gpu)的主导厂商。
Bluefield-3是在英伟达一年一度的GPU技术大会(GTC)上宣布的，在会上，该公司还透露，将凭借基于arm的Grace CPU进入数据中心处理器市场。该DPU采用了英伟达与Mellanox Technologies达成协议的网络硅芯片和基于Arm核心设计的CPU核心。英伟达去年同意以400亿美元收购Arm。
多年来，数据中心的大多数数据管理和其他基础设施工作都运行在通用网络接口卡(nic)上，以及连接到服务器或存储设备、将其连接到以太网网络的独立硬件包上。但近年来，越来越多的工作已经被下放到服务器CPU的软件所取代。
缺点之一是服务器中的基础架构软件会使CPU负担过重。通过将这些功能转移到DPU或SmartNIC上，服务器的CPU可以集中处理其他的工作负载。NVIDIA估计，数据管理工作——从在服务器之间传输数据到存储和保护数据——消耗了现代数据中心高达30%的CPU资源。
英伟达表示，Bluefield DPUs拥有足够的计算能力和内存，可以加载更多的基础设施软件和数据中心的后台管理服务。
Bluefield DPU的核心是一个可编程网络芯片，拥有16个Arm Cortex-A78核，是基于Arm Cortex-A76技术的上一代Bluefield-2 DPU的8个CPU核的升级。核心可以访问8 MB的二级缓存和16 MB的LLC缓存。NVIDIA表示，DPU由16gb板载DDR5 DRAM补充，速度是Bluefield-2 DDR4内存的两倍。
还有一个具有16个核和256个线程的数据路径加速器，以及各种其他加速器，它们可以从主机CPU上卸载网络、存储和安全工作负载。NVIDIA表示，Mellanox的ConnectX网络接口支持400 gb /s以太网或Infiniband，高于上一代DPU的200 gb /s链路。该芯片还有一个1gb /s以太网带外管理端口。
Bluefield-3 DPU的计算能力是Bluefield-2的10倍。英伟达表示，最新款DPU的性能足以运行数据管理和其他基础设施软件，最多可使用300个CPU内核。保存在进程中的资源可以被运行在服务器CPU上的其他应用程序和服务使用。
在其外壳下，大约有220亿个晶体管，可实现每秒1.5万亿次运算(TOPS)的性能，而上一代芯片中封装的晶体管还不到10亿个。英伟达表示，DPU利用增加的计算能力来处理、保护和实时存储更多数据，也被称为“行速率”，因为数据从服务器传输到服务器。
smartnic可以运行Linux和VMWare等操作系统，还可以在硬件中集成实时时钟，以满足5G网络的时间要求。
该芯片搭载在拥有32个PCIe Gen 5通道的服务器网卡上，这在该产品类别中是首次，比上一代PCIe Gen 4互连的数据速度提高了一倍。Bluefield DPUs的核心芯片也有一个DDR5内存接口，用于连接其他的DRAM存储棒。目前还不清楚它使用的是什么技术节点。
近年来，这些类型的网络芯片已经成为数据中心的一个巨大战场，英特尔、博通、Xilinx等行业巨头都在争夺设计上的胜利。
全球最大的数据中心中央处理芯片制造商英特尔(intel)和全球领先的服务器标准以太网网卡制造商博通(broadcom)正在为赢得更多的市场份额而努力。Xilinx还推出了基于集成了Xilinx fpga和Arm cpu的芯片的智能网络卡，完全可通过其Vitis软件工具进行编程。
由Juniper Networks的一位创始人创建的可替代网络，已经积累了超过3亿美元的资金。网络初创公司Netronome和Pensando也瞄准了这一领域。公共云服务供应商亚马逊(Amazon)和微软(Microsoft)正在加大对数据中心内部设计芯片的投资，包括专有的智能技术(smartnic)。
英伟达正试图通过整合Bluefield dpu和gpu，为网络带来更多的人工智能，从而使自己与众不同。它还可以利用其庞大的开发者生态系统，领先于竞争对手。
英伟达表示，将于2024年推出新一代DPU Bluefield-4，将GPU和CPU集成在同一个芯片上，提供高达1000顶的整体性能和800 gb /s以太网网络。据该公司称，DPU的核心芯片将拥有640亿个晶体管，并使用单片GPU来提供人工智能加速。
黄表示，英伟达的策略是每一年半推出新一代服务器网卡，每一款新产品的性能都将提高一个数量级。
它还试图通过为客户提供更多的工具来提高安全性，从而在这一领域脱颖而出。Bluefield-3的加密运行速度将提高4倍，它可以卸载并隔离主机cpu上的安全代理的运行。NVIDIA表示，通过将DPU与CPU隔离，可以防止病毒或攻击者在服务器受到攻击时在整个数据中心传播。
NVIDIA指出，dpu还可以处理基于人工智能的功能，如安全、网络和视频分析。其他安全特性包括安全引导和加密密钥管理。
英伟达(NVIDIA)周一推出了一套Morpheus技术，这是一套软件工具，通过检查网络中传输的更多数据，企业可以更快地识别病毒和其他威胁。Morpheus使用Bluefield-3的额外计算能力来运行机器学习，可以调查网络上的每一个数据包，然后识别和阻止攻击。
目前市场上的网络安全工具通常通过扫描公司网络中的异常数据来工作。但是，在使用这些工具训练机器学习模型之前，许多工具往往只分析少量的信息。据NVIDIA估计，目前这些工具只检查了网络中5%的数据，这使得模型对威胁的感知不完整。
英伟达表示，Bluefield DPU是其Morpheus软件的“监控代理”，允许公司实时分析网络中的每一个数据包，并发现更多问题。Morpheus还包括预先训练的模型，用于查明病毒、泄露的证书、黑客在网络周围走私的密钥和其他漏洞。
通过增加功能来保护大量的数据中心，Morpheus技术可以说服更多的网络安全领域的客户购买或支持Bluefield dpu。
它还推出了它的第一套编程工具和其他软件，DOCA，以补充Bluefield DPU。软件堆栈降低了客户构建在DPU上运行的软件定义的、硬件加速的应用程序和服务的门槛。英伟达表示，DOCA类似于CUDA, CUDA是英伟达为提高gpu性能而开发的工具集。
该软件套件包括用于创建、编译和改进在Bluefield dpu上运行的工作负载的运行时环境，以及用于提供、更新和监控数据中心中数千个dpu的编排工具。这些工具还提供了库、api和其他用于包检查或负载平衡的预打包应用程序。
英伟达表示，BlueField-3 DPU将于2022年第一季度向潜在客户提供，目前正向服务器oem和云厂商提供Bluefield-2 DPU。
主要的服务器制造商，包括联想、戴尔技术、Supermicro等，正在将Bluefield DPUs集成到新的系统中。英伟达表示，该服务器芯片还得到了云数据中心软件供应商Canonical、Red Hat和VMware的支持;网络安全公司Guardicore和Fortinet;以及从Cloudflare到瞻博网络(Juniper Networks)等边缘软件供应商。
