“东谈主工智能和加速计算的交织将从头界说异日。”在COMPUTEX 2024的主题演讲中，NVIDIA首创东谈主兼首席践诺官黄仁勋叙述了AI寰宇的庞杂筹划。生成式AI、多模态AI等技艺的高潮席卷大家博雅体育app下载官网手机版(中国)官方网站·IOS，新一代的智能化数据中心开导汹涌澎拜，海量GPU运动后造成的超等计算集群，离不开更高效的收集撑执。在生成式AI时期，NVIDIA将束缚加大以太收集在当代化数据中心中的应用，为AI构建更踏实的运力基础。
NVIDIA Spectrum-X以太网是一个端到端收集平台，包括交换机、DPU、SmartNIC、线缆、收发器和收集软件。而全新的NVIDIA Spectrum-X配备了NVIDIA Spectrum SN5600以太网交换机和NVIDIA BlueField-3 SuperNIC，是首个专为AI构建的以太网收集架构，不错加速生成式AI的性能。从家具特点来看，动态路由、拥塞截止、无损收集等功能对AI负载联系的检修老本和时候都有所缩减，带宽最大化的噪声阻扰保证了高性能和性能的可预测性，不错同期运转数千个不同领域的AI应用而不彼此侵略。阐发NVIDIA的表述，可将生成式AI收集性能较传统以太网收集平台普及1.6倍。
据了解，Spectrum-4和会了Co-Design（协同假想）的技艺，使得收集平台与BlueField-3 SuperNIC/DPU不错作念到精采地耦合，以欢欣瞬时的大领域突发数据传输需求，性能阻扰的特点也不错普及多佃农、多任务的性能，使其与裸金属环境保管一致。其中，NVIDIA BlueField-3 SuperNIC不错为云和数据中心的计算收集和 存储带来更好的加速体验，提供400Gb/s的收集速率，不仅有 大领域的微辞量，还有更低的蔓延。
家喻户晓，InfiniBand不错欢欣高性能、低蔓延的负载条目博雅体育app下载官网手机版(中国)官方网站·IOS，而Spectrum-X则不错欢欣多佃农、使命负载的种种性，相宜生成式AI的特点。再皆集王牌NVLink收集，两套收集的组合不错欢欣不同的场景需求。Spectrum-X惩办了数据中心内东西向的流量加速和性能问题，无损RoCE收集在以太网架构下不错不丢包，也支执以太网的RDMA传输。再与NVIDIA BlueField-3 DPU在南北向集成，对GPU资源的弹性扩张、零信任安全等也有很 好的支执。
恰是有了漫衍式、东西向，再加上八成搪塞密集型突发收集流量，使得Spectrum-X得以更好地惩办收集抖动、流量暴增等情况对AI负载的巨大冲击。通过端到端的优化，生成式AI在云霄的大领域部署和扩张性在Spectrum-X上变成了可能。固然，Spectrum-X还提供了相应的开发接口、照看软件、操作系统等，具有高度的通用性，不错支执开发者构建软件界说的云原生AI应用。从树立来看，Spectrum-4系统具有1000亿颗晶体管，带宽为51.2Tb/s，选用了100Gb/s SerDes技艺，可支执64个800G端口和128个400G端口。
在Spectrum-X中，支执SONiC、Cumulus等各种收集操作系统，围绕DOCA提供种种应用加速功能、使得用户不错阐发本人所需进行编程和加速，NVIDIA Air还允许用户使用齐备的软件功能对数据中心部署进行建模，从而创建数据中心的数字孪生，通过在数字寰宇的仿真、考据、以及自动调动和更新来改变和简化推行寰宇的收集运营。
现在，NVIDIA Spectrum-X以太网收集平台已被平凡使用，而且将进一步加速新品发布筹划。伊始选用NVIDIA Spectrum-X的AI云管事提供商有CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global和Yotta等，他们的AI基础模范因此而获取了超强收集性能。另外，继戴尔科技、慧与、联思和超微等将Spectrum-X平台整合到他们的家具中后，又有多家NVIDIA配结伙伴也发布了基于Spectrum-X的家具，包括永擎电子、华硕、技嘉科技、鸿佰科技、英业达、和硕、云达科技、纬创和纬颖科技等。
异日，NVIDIA筹划每年都推出新的Spectrum-X家具，为客户提供更高的带宽、更多的端口、愈加苍劲的软件功能集与可编程智商，执续提高AI以太网收集性能。据悉，2024年的Spectrum-X800将欢欣数万卡（配合400G SuperNIC和DPU），2025年将欢欣数十万卡（如xAI名目），2026年将不错欢欣百万GPU的运动需求。业内瞻望，Spectrum-X将在一年内跃升为价值数十亿好意思元的家具线。
NVIDIA收集高等副总裁Gilad Shainer暗示：“NVIDIA Spectrum-X是对以太收集的一次调动，让企业八成充分运用其AI基础模范的苍劲肆量来改变其运营表情，以致颠覆他们的行业。”
(8764217)博雅体育app下载官网手机版(中国)官方网站·IOS