国际最新AI基准测试SPEC ML首提模算效率,填补大模型计算效率评测空白
北京2025年1月8日 /美通社/ -- 日前,国际国际标准性能评估组织SPEC公布了AI基准测试SPEC ML最新进展,最新该基准已完成面向不同AI负载下的基准软硬件系统的性能、扩展性和模算效率三大关键指标构建。测试测空其中模算效率首次纳入SPEC ML基准评测,首提算效将填补大模型计算效率评测基准领域的模算研究空白。 随着人工智能更加广泛的应用,为AI/ML建立强大的填补基准测试比以往任何时候都更加重要。SPEC ML基准委员会主席Arthur Kang表示,大模统一的率评基准评测方法不仅有助于简化模型比较,还将为注重效率、国际准确性和可持续性的最新创新铺平道路。目前AMD、基准英特尔、测试测空NVIDIA、首提算效浪潮信息、NetApp和Red Hat等科技企业正在共同参与开发 SPEC ML基准测试,SPEC呼吁更多伙伴参与到项目中,通过产业上下游的合作,为大模型的开发应用树立新的性能评估标杆,为AI技术的高效、绿色、可持续发展注入新动力,共创更加繁荣与可持续的AI新时代。 近年来,随着预训练模型的快速发展,人工智能领域迎来了显著的技术进步。这些模型通过大规模数据集的预训练,并结合微调技术来适应不同任务,在自然语言处理和计算机视觉等多个领域取得了显著成效。然而,随着模型结构和参数量的日益复杂,其在不同软件框架和硬件平台上的表现存在差异,如何全面、公正地比较模型、算力系统的综合性能变得愈加困难。为了在不增加大规模计算资源投入的情况下提升模型的准确性和效率,建立统一的基准测试体系已成为AI领域的迫切需求,这不仅可以帮助开发者选择最适合的技术方案,还能为优化计算资源利用、降低碳排放提供科学的参考依据。 但当前业界在模型、框架和硬件协同效能评估方面存在显著空白,缺乏统一的评估基准,评估过程难以量化,导致开发者难以做出最优的技术选择。尤其是在大型模型的训练和推理过程中,计算资源和能源的消耗成为行业面临的重要挑战。如何在满足性能需求的同时优化计算资源的利用,降低能源消耗,是当前研究和应用的关键所在。为此,SPEC ML首次提出将模算效率纳入基准评测,模型本身精度越高、在对应软件上对硬件性能利用率越高、推理及训练所需算力越小,模算效率越高。模算效率的评价对象涵盖了AI大模型、运行框架和硬件算力平台的一整套软硬件系统。 模算效率的首次提出,将增强不同预训练模型、软件框架和硬件系统之间的可比性,促进模型与硬件的协同优化,推动AI计算系统的能效提升和技术创新:
- 最近发表
- 随机阅读
-
- 2020年全球城市竞争力报告:全球顶级城市洗牌,深圳首次进入可持续竞争力前十
- WILDBRAIN CPLG 在上海举办特许经营峰会
- 纬湃科技第一季度以稳健业绩开启2024财年
- 2024年「520社会责任日」优秀案例6大议题领域评选工作火热进行中
- 一种婴幼儿常见病,击倒歌神张学友?
- 布勒集团任命何军慧女士为大中华区总裁
- 法国里昂商学院亚洲嘉年华暨晚宴精彩回顾
- 纬湃科技第一季度以稳健业绩开启2024财年
- 今起,港澳非中国籍永久性居民可申办来往内地通行证
- 深圳新风和睦家医院:港深优势互补 肿瘤就医新选择
- BRI公布强劲的第一季度利润,分析师给予"买入"建议
- 2024财年开局强劲 汉高第一季度有机销售额强劲增长
- 恶性伤医事件再发,多方沉痛哀悼丨周一健
- 2024年泰国曼谷:全球品牌大奖庆祝卓越品牌
- 长虹塑料获TÜV南德大中华区首个反射器产品碳足迹核查标志
- 中泰合作动画片《Out of the Nest》飞向2024安纳西国际动画电影节的世界舞台
- 泉州军供站连续三次获评“全国重点军供站”
- 洛杉矶 KATO 餐厅被 THE WORLD'S 50 BEST RESTAURANTS 评选为 2024 年 RESY ONE TO WATCH AWARD
- 实力认证 瓴寓国际受邀参与编制全国《长租房管理运营标准》
- 2024年欧莱雅中国"有意思青年"高校公益计划焕新启航
- 搜索
-