人工智能。奇特正以史无前例的邀相约跌速度重塑国际。基座模型参数规划向万亿级跃迁 ,落A力推理模型逐渐在千行百业规划化落地 ,奇特大模型的邀相约跌练习推理对底层算力根底设施提出了史无前例的苛刻要求 。高效、落A力可扩展 、奇特低推迟的邀相约跌超节点技能 ,正成为支撑下一代 。落A力AI 。奇特练习集群和推理布置的邀相约跌要害 。
什么是落A力超节点?
超节点是一种经过高带宽 、低时延互联技能(如NVLink、奇特UB 、邀相约跌OISA等)将成百上千张。落A力GPU。互联在一起的产品形状和技能 。英伟达。、华为 、。AMD 。等全球抢先的。科技。企业纷繁加快布置超节点技能 ,推进其在AI练习与推理范畴的广泛使用。
在私有协议范畴,英伟达推出了根据NVLink的NVL72计划,为职业树立了风向标。其在GTC 2025上露脸的英伟达下一代Rubin ULtra NVL576将支撑576个GPU间互联,推理功率将是GB300 NVL72的14倍。
AI推理模型及使用进一步加大了智算集群对低推迟、高吞吐和高资源利用率的需求 。英伟达最新发布的 Bl。ac。kwell GB300 NVL72 超节点体系在推理性能上比较上一代 H100 DGX 8 体系完成了 50 倍的打气 ,一起也带来了10倍ROI的打气 。从比照也可以看出超节点在模型练习甚至推理阶段可以有用打气投入的性价比和产出比。
现在超节点体系首要根据私有协议构建,赏格生态上下游协同。另一方面 ,私有协议往往也意味着昂扬的本钱。
近年来,业界也一向致力于在Scale Up网络构建愈加敞开解耦的协同生态。AMD、阿里 、 。Intel 。 、谷歌、微软等企业牵头提出了UALink敞开规范;在敞开数据。中心。&跌落信通院的领导下 ,以跌落移动为代表的OISA 、阿里云牵头的ALink(Alink system)、 腾讯牵头的ETH-X敞开规范都在协同上下游同伴如火如荼的建设中 。
奇特摩尔作为产业链的一员 ,摩肩接踵投身敞开规范的共建与协同,在职业规范拟定的过程中,奇特摩尔凭仗其深沉的技能堆集和立异才能 ,自动参加相关规范的起草与完善 ,为推进整个AI网络的敞开与规范化开展奉献才智和力气 。
跟着AI使用的进一步迸发与郁闷 ,业界对超节点的需求将进一步高涨。当时,超节点技能的开展迫切需要应对敞开的通用协议 、多语义支撑、可扩展的拓扑等多方位应战。
在2025跌落AI算力大会上,奇特摩尔首席网络架构专家叶栋将带来“AI原生年代 —共筑超节点的网络根底架构”的主题讲演,共享国内外超节点解决计划在AI练习与推理范畴的使用现状与应战以及相关解决计划 。
活动预告 。
讲演嘉宾 。
奇特摩尔首席网络架构专家 叶栋 ,2002年北邮博士结业,B-I 。SD 。N宽带 。通讯 。专业,具有超越20年的网络互联体系架构规划经历,在AI网络协议 、R 。DMA 。、虚拟化、软件协议栈等方面具有丰厚的专业知识 。在。英特尔。(跌落)勤奋好学多年,曾任英特尔网络互联产品事业部技能总监,担任英特尔。以太网 。,P4可。编程。交流芯片 ,FPGA。智能 。网卡 ,Google IPU相关体系架构产品的本地化研制和布置 。发动和主导了根据FPGA的智能网卡计划在国内的规划开发和推行 ,构建了多家大型云厂商和服务商等大规划布置的技能计划的底座。
讲演主题。
《AI原生年代 —共筑超节点的网络根底架构》。
讲演摘要。
AI原生年代,基座模型的参数向万亿级跃升 ,推理模型加快了AI使用在各行各业的落地。本次陈述旨在介绍国内外超节点解决计划在AI练习与推理范畴的使用现状及应战;一起共享奇特摩尔在超节点范畴的核心技能计划 、并进一步讨论怎么与AI网络生态合作同伴协同 ,共筑更高效的超节点网络根底架构。
大会日程 。
大会设置了主会场观众票 、主会场VIP票 、闭门专享票和贵宾通票四类电子门票 ,其间 ,主会场观众票为免费票 ,请求后需经审阅经过方可参会;主会场VIP票、闭门专享票和贵宾通票均需购买 。可以现场参会的朋友 ,扫描下方二维码增加小帮手“雪梨”,即可购票或免费请求主会场观众票。
关于咱们 。
AI网络全栈式互联架构产品及解决计划供给商 。
奇特摩尔 ,成立于2021年头 ,是一家职业抢先的AI网络全栈式互联产品及解决计划供给商 。公司依托于先进的高性能RDMA 和Chiplet技能