跳到正文
东方财富 · 上市公司· 上海证券报·中国证券网·· 50 分钟前

面壁智能AI训练框架适配摩尔线程GPU 训练效率达到主流框架的1.358倍

内容摘要

原文摘录:上证报中国证券网讯(记者窦世平)面壁智能自研并开源的大模型预训练框架ForgeTrain近日已完成在摩尔线程MUSA架构上的适配与优化,相关训练工作依托无锡(惠山)国产智算中心开展。据项目方披露,在相关测试条件下,ForgeTrain训练效率达到英伟达开源训练框架Megatron-LM的1.358倍。

正文

  上证报中国证券网讯(记者窦世平)面壁智能自研并开源的大模型预训练框架ForgeTrain近日已完成在摩尔线程MUSA架构上的适配与优化,相关训练工作依托无锡(惠山)国产智算中心开展。据项目方披露,在相关测试条件下,ForgeTrain训练效率达到英伟达开源训练框架Megatron-LM的1.358倍。

  据了解,ForgeTrain于今年5月开源,其特点是利用AI Agent自动生成训练框架代码,由工程师负责设定目标、提供参考实现及构建自动化评测体系。此前,该框架已在国际主流GPU平台上完成测试,此次是其首次在国产GPU平台上完成相关适配和优化。

  大模型训练框架是连接模型算法与底层算力的重要软件环节。对于国产GPU而言,除了芯片本身的计算性能,训练框架、算子适配及软件生态的完善程度,也影响算力利用效率和模型企业的迁移成本。

  此次测试值得关注之处在于,AI Agent参与了训练框架代码生成和迭代优化过程。与传统依靠工程师逐项开发、适配和调优的方式相比,这种模式尝试将部分代码实现及性能优化工作交由AI完成,再通过自动化测试和工程验收验证结果。

  面壁智能表示,后续计划继续依托无锡(惠山)国产智算中心,开展更大规模、更长序列的MiniCPM系列模型训练,并将相关优化成果更新至MUSA开发者社区。

  作为此次测试的算力基础设施,无锡(惠山)国产智算中心一期部署2000张摩尔线程GPU。据项目方介绍,中心投运三个月后算力资源已基本满载,已有20余家客户开展测试或正式业务,训练业务占比超过62%,后续集群将扩展至万卡规模。

来源:东方财富 · 上市公司 · finance.eastmoney.com