显著提升万卡GPU训练性能,浪潮信息X400荣获"2024 DPU&AI Networking Awards"!
北京2024年8月21日 /美通社/ -- 2024 DPU & AI Networking创新大会日前在北京圆满落幕,显著U训息大会表彰了在DPU与AI网络技术创新及实践应用中取得卓越成就的提升单位与项目。会上,练性浪潮信息「X400超级AI以太网解决方案」凭借领先的潮信端网协同技术,显著提升了大模型训练效率,荣获荣获"2024 DPU & AI Networking Awards 创新引擎奖"。显著U训息 随着AIGC的发展,大模型的练性参数量越来越大,如何借助 AI 网络将上千台AI 服务器系统互联,潮信充分释放算力资源的荣获全部潜力,加速 AI 大模型训练,显著U训息成为 AIGC 时代的提升新挑战。此次获得"2024 DPU & AI Networking Awards 创新引擎奖"的练性浪潮信息X400 AI Fabric专为AIGC场景打造,能够为用户构建可弹性扩展至524,潮信288个GPU的超大规模AI系统,凭借AR自适应路由、荣获端到端拥塞控制、亚毫秒级故障自愈等技术,性能提升至传统RoCE网络的1.6倍,实现了AI网络的超高吞吐量、高可扩展性和超高可靠性,极大提升大模型训练性能,大幅缩短训练时长并降低训练成本。 ■ 端网协同,网络性能提升1.6倍:针对生成式AI场景下GPU之间会突发超高吞吐的通信特点,浪潮信息采用X400 + BF-3 SuperNICs的协同调度方式,通过自适应路由、报文保序、可编程CC等技术,实现交换机和网卡更紧密的配合,为AI大模型提供零丢包、无阻塞的全链路交换网络,机间互联性能高达400G,有效带宽从传统的60%提升到95%,性能提升1.6倍。同时,AI大模型训练的网络优化离不开NCCL通信库支持,X400 AI Fabric和InfiniBand一样,天然地与NCCL无缝衔接,能够为大模型提供顶尖的性能。 ■ 灵活拓展、极致稳定,全力加速大模型训练:X400 超级 AI 以太网交换机凭借超高的端口密度以及弹性可拓展的能力,提供高性能、灵活可拓展的网络服务,支持大规模 AI服务器系统。其中,X400 AI Fabric在二层组网下,GPU服务器数量可达1024台,支持8,192张GPU卡,并可灵活拓展到三层组网,GPU服务器规模可达65,536台,最大支持GPU卡的数量可以达到524,288张。随着AI算力系统的规模不断攀升,对可靠性的要求越来越高,浪潮信息X400集成系统级的高可用技术,在硬件上独创IGE智能防护单元,对核心部件器件进行冗余备份,对关键硬件信号进行全面的监控和故障隔离,具有芯片级、系统级以及链路完整的监控,实时掌握AI节点间通信状态,实现对潜在的故障链路进行自动隔离,在上层应用无感的情况下实现故障自愈,全方位保障AI网络的极致稳定,降低大模型训练成本和周期。 ■ 敏捷易用,部署周期从数周缩短到天:传统RoCE方案的网络建设中,交换机涉及一系列的拥塞控制配置,不仅配置繁琐,拉长部署周期,而且容易配置错误,导致训练性能下降。为此,X400超级AI以太网解决方案提供RTTCC拥塞控制算法,无需交换机的参与,避免在交换机上进行复杂的参数调优,即插即用,部署周期从数周缩短到天,加速业务上线,彻底解决调参复杂、配置困难等问题。 目前,X400超级AI以太网解决方案已经在互联网等行业实现测试应用。在大规模AI算力系统网络调度过程中,相比传统RoCE网络方案,性能提升1.6倍,带宽利用率超过95%,通信时延降低30%,并且在多租户AI Cloud场景中,NCCL通信性能提升1.5倍,同时,该方案通过其卓越的成本效益,助力客户大幅提高投资回报,实现成本与效益的完美平衡,为智算中心客户带来更快、更好、更省的网络业务体验。
- 最近发表
- 随机阅读
-
- 让前任重新爱上你:不谈复合,只谈吸引 -
- 循证医学为基础 依视路陆逊梯卡亮相COOC 助力"一老一少"眼健康专业度建设
- 万代南梦宫(中国)完成首笔ESG存款,积极助力可持续发展
- 新华丝路:中联重科智能高机以高空作业机械创新谋求高质量发展
- 真实案例:异地四年分道扬镳,通过挽回终成正果 -
- 超高温灭菌奶项目在莱西启动 雀巢青岛30周年开启新篇章
- 默克首次推出全新一体化遗传稳定性分析,以加速生物医药测试
- 法国 MND 集团推出用于山区、旅游区和城市空间的 ORIZON™ 新系列脱挂式缆索运输设备
- 这种能力是挽回里面必须要有的,成功全靠它了 -
- 苏州乐珠制药携全线眼科产品亮相乌镇健康大会,现场斩获多项大奖
- 东方茶养东方肌,怡兰葆携手江南大学走进福鼎
- 官宣:申克新一代SmartBalancer4 便携式动平衡仪正式发布
- 他要执意分手,你要怎样挽回这个说不爱你的人 -
- 首届IOT Data Hackathon赛果出炉
- 勃林格殷格翰2023年实现强劲增长,晚期研发管线加速推进
- 逾45年科学护肤先锋Galenic法国科兰黎携新品首发亮相消博会
- 用好这3步,没有挽回不了的爱情 -
- 韩国热度同比飙升27倍 五一黄金周与爱彼迎畅游韩流文化胜地
- 2024金点设计奖全球征集启航!6月7日前报名享早鸟优惠
- DEKRA德凯受邀参加2024国际星闪联盟产业峰会
- 搜索
-
- 友情链接
-
- 兰州城关环卫今年已收运各类废弃家具300余吨
- “以克论净”跑偏了,逼环卫工扫帚“摧花”
- 厦门:436个环卫驿站 让环卫工人歇歇脚
- 易开出行获颁网约车牌照,系全国分时租赁行业首家
- 世界上最严的垃圾分类,垃圾被分成64种
- 文安智能:数数(shù)那些事儿里的AI视觉技术
- 城市坚守者|环卫大整治,抓实抓细垃圾分类管理
- 推进城市精细化管理,无锡环卫保洁作业全面提标!
- 开年喜迎签约日,三位易通贷幸运用户开走特斯拉
- 城市坚守者|环卫大整治,抓实抓细垃圾分类管理
- 2015中法马文化交流系列活动:法国马兽医中国行内蒙古站
- 从一把扫帚到机械化作业 环卫大变样
- 先临三维新品亮相2018TCT亚洲展 助力3D数字化和3D打印技术普及化进程
- 瑞思课程再升级 新学年开启亲子共学新模式
- 江苏连云港将投入2.19亿元助力城乡环卫一体化建设