直击WAIC丨如何缓解AI训练“效率瓶颈”?摩尔线程张建中:打造AGI“超级工厂”
专题:2025世界人工智能大会
新浪科技讯 7月27日午间消息,效率瓶颈2025世界人工智能大会(WAIC 2025)于7月26-28日在上海举办。直击张建中打造大会期间,丨何工厂摩尔线程首次提出了“AI工厂”理念,缓解公司创始人兼CEO张建中在分享中表示,训练线程“为应对生成式AI爆发式增长下的超级大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,效率瓶颈构建新一代AI训练基础设施,直击张建中打造为AGI时代打造生产先进模型的丨何工厂“超级工厂”。

据悉,缓解摩尔线程提出的训练线程“AI工厂”,如同芯片晶圆厂的超级制程升级,需要实现从底层芯片架构创新、效率瓶颈到集群整体架构的直击张建中打造优化,再到软件算法调优和资源调度系统的丨何工厂全面升级。这种全方位的基础设施变革,将推动AI训练从千卡级向万卡级乃至十万卡级规模演进,以系统级工程实现生产力和创新效率飞跃。
具体而言,这座“AI工厂”的智能“产能”,由五大核心要素共同决定,其效率公式可概括为:AI工厂生产效率=加速计算通用性×单芯片有效算力×单节点效率×集群效率×集群稳定性。摩尔线程将以GPU通用算力为基石,将通过先进架构、芯片算力、单节点效率、集群效率优化与可靠性等协同等深度技术创新,将全功能GPU加速计算平台能力转化为工程级训练效率与可靠性保障。
在单芯片算力方面,摩尔线程的GPU单芯片基于MUSA架构的突破性设计,可集成AI计算加速、图形渲染、物理仿真及超高清视频编解码能力,充分适配AI训推、具身智能、AIGC等多样化应用场景。且在计算精度方面支持从FP64至INT8的完整精度谱系,并通过FP8混合精度技术,在主流前沿大模型训练中实现20%~30%的性能跃升。
在内存与通信效率优化上,摩尔线程内存系统通过多精度近存规约引擎、低延迟Scale-Up、通算并行资源隔离等技术,实现了50%的带宽节省和60%的延迟降低。在通信和互联领域,独创ACE异步通信引擎减少了15%的计算资源损耗,MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽,为大规模集群部署奠定了坚实基础。
在构建高效集群的基础上,稳定可靠的运行环境是“AI工厂”持续产出的保障。特别在万卡级AI集群中,硬件故障导致的训练中断会严重浪费算力。摩尔线程创新推出零中断容错技术,故障发生时仅隔离受影响节点组,其余节点继续训练,备机无缝接入,全程无中断。这一方案使KUAE集群有效训练时间占比超99%,大幅降低恢复开销。(文猛)

责任编辑:王翔
(责任编辑:综合)
-
本报讯记者 曾聪虹)昨日,2020年中考落下帷幕。全市各地考试秩序井然,考试组织零失误,首次实现零违纪。今年泉州中考初三报考91814人,比去年增加11386人,增幅14.16%;初二报考102744 ...[详细]
-
发布者:蒙蒙 浏览量:2320发布时间:2024/6/28 14:11:05 在如今的高要求市场,普通的产品已经不能满足消费者的需求,你需要的是一款真正有实力的爆品。初养捞一 ...[详细]
-
职业“陪拍”兴起背后 “放鸽子”“逃单”等现象频现 编辑:汤晓雪 来 ...[详细]
-
白芷为伞形科植物白芷AngelicadahuricaFisch.exHoffm.)Benth.etHook.f.或杭白芷AngelicadahuricaFisch.exHoffm.)Benth.etH ...[详细]
-
此前,任天堂宣布Switch 2游戏统一定价80美元,微软随即跟进,这一动向引发玩家群体强烈反弹。如今许多人担心《GTA 6》的定价会更高,不过,月亮工作室CEO托马斯·马勒《奥日》系列总监)认为这款 ...[详细]
-
潜江新闻网讯潜江市融媒体中心记者 张芷龙)雨水时节,春寒料峭。位于泽口街道的达诺尔湖北)微电子材料有限公司二期年产5.3万吨超纯电子化学品项目掀起建设热潮。该项目总投资1亿元,目前主体工程建设已完成, ...[详细]
-
交通银行广东省分行赴连州帮扶调研连州菜心、水晶梨产业_南方+_南方plus6月21日,交通银行广东省分行党委委员、副行长陈新桥率队前往清远连州,开展纵向帮扶调研暨招商引资、消费帮扶项目对接工作。连州市 ...[详细]
-
发布者:娜娜 浏览量:2596发布时间:2024/6/25 17:25:27 饮品市场进入旺季,经销商卖什么赚钱?礼盒作为饮品市场的一个大类,一直占据消费重要地位。爱航食品专 ...[详细]
-
发布者:冬冬 浏览量:6842发布时间:2022/3/2 12:03:09 越来越多的人在对生活品质方面的需求日益增长,健康,成为消费者关注的标签,带有功能性的饮料近些年在消 ...[详细]
-
发布者:娜娜 浏览量:3119发布时间:2024/6/25 17:23:25 去年以来,从东北大花袄,到东北冻梨,东北特色成为全民话题,东北特色物产名噪天下。其中zui为著名 ...[详细]