摩尔线程与吴问新琼共同宣布，双方已正式完成MT-infini-3B 3B（30亿参数）大规模模型的训练，基于摩尔线程的国产全功能GPU MTT S4000与吴问新琼的AIStudio PaaS平台组成的千卡集群。

本次训练充分验证了跨鹅千卡智能计算集群在大模型训练场景下的可靠性，也开创了国内大型语言模型与国产GPU千卡智能计算集群深度合作的业界新范式。

据悉，MT-infini-3B模型训练共耗时13.2天，全程训练稳定不间断，集群训练稳定性达到100%，Qiancal训练扩展效率相较单机超过90%。

目前训练好的MT-infini-3B性能在同规模模型中位居前列，相比于在国际主流硬件（尤其是NVIDIA）上训练的其他模型，在C-Eval、MMLU、CMMLU三个测试集上取得了领先的性能。

吴文新琼正在打造“M个模型”与“N个芯片”之间的“M x N”中间层产品，实现多种大模型算法在多芯片上的高效统一部署，并与摩尔定律达成深度战略合作。

摩尔线程是国内首家接入Infini-AI并进行千卡级大规模模型训练的GPU公司，酷鹅千卡集群已成功与Infini-AI完成系统级融合适配，并完成LLama2 700亿参数大模型的训练和测试。

T-infini-3B的训练是业界首个基于国产GPU芯片实现从0到1的端到端大模型训练案例。

就在近日，韩后集团基于摩尔线程的夸鹅千卡集群，顺利完成了7B、34B、70B不同参数量级大模型的分布式训练，双方也达成了战略合作。

经过双方严格测试，兼容性和适应性较高，训练效率符合预期，准确率满足要求，整个训练过程持续稳定。