东方财富 · 上市公司· 财联社·· 9 天前
摩尔线程开源Megatron-MUSA-Titan
内容摘要
原文摘录:【摩尔线程开源Megatron-MUSA-Titan】近日,摩尔线程开源大模型训练基础设施项目Megatron-MUSA-Titan。该项目基于摩尔线程全功能GPU,聚焦万卡级集群的万亿参数MoE模型训练需求,覆盖预训练与强化学习两大场景,为开发者提供面向MUSA平台的训练适配与系统优化能力。
正文
近日,摩尔线程开源大模型训练基础设施项目Megatron-MUSA-Titan。该项目基于摩尔线程全功能GPU,聚焦万卡级集群的万亿参数MoE模型训练需求,覆盖预训练与强化学习两大场景,为开发者提供面向MUSA平台的训练适配与系统优化能力。
来源:东方财富 · 上市公司 · finance.eastmoney.com