汇链商务有限公司

摩尔线程加码万卡集群 算力竞争转向Token工场

发布日期:2026-08-09 11:51    点击次数:160

摩尔线程加码万卡集群 算力竞争转向Token工场

在2026世界东谈主工智能大会(WAIC)时代,摩尔线程系统袒露其模子进修、词元(Token)分娩和智能体分娩三大“AI工场”的最新推崇,并初次公开多项进修和推理实行数据,进一步强化其大鸿沟AI基础措施布局。

摩尔线程首创东谈主、董事长兼CEO张建中将三类基础措施区别界说为“模子进修工场”“词元分娩工场”和“智能体分娩工场”,袒护模子预进修和强化学习、鸿沟化推理,以及数字智能体和具身智能进修。张建中暗示,三类“工场”均建树在摩尔线程自研MUSA架构及“夸娥”万卡智算集群之上。

跟着大模子竞争从预进修延长至强化学习和智能体,算力需求不再只由模子参数决定。一个智能体在完成任务时,可能贯穿调用模子、搜索信息并操作软件器用,Token破钞场景由东谈主类主动问答转向机器自动调用。摩尔线程判断,GPU竞争的猜测圭臬正在从单卡算力转向集群约略以多低的本钱、握续分娩几许高质料Token。

从万卡进修走向Token分娩

在模子进修侧,摩尔线程正在补皆从底层芯片到进修框架的软件链条。“咱们从底层MUSA运行,在MUSA的SDK基础上,把全行业当中扫数的多样各类的算子都兼容进来。”张建中称,其MUSA软件栈仍是适配PyTorch、Triton和TileLang等算子生态,并复旧Megatron-LM、DeepSpeed、FSDP以及强化学习框架VeRL、Slime。

从进修收尾来看,摩尔线程称,“夸娥”万卡集群线性彭胀后果最高可达95%,有用进修时长占比越过90%。摩尔线程高等副总裁董龙飞告诉记者,在DeepSeek类MoE模子上,其平台与外洋旗舰GPU进修收尾的前3万步平均相对误差限制在万分之六以内。

在骨子进修案例中,摩尔线程称已与一家国度级实践室从零进修MoE-236B模子。由北京大学EvoPhys团队推出的5D世界模子EvoPhys-World,也在MTT S5000集群上完周到栈原生进修,并贯穿37天位列WorldScore世界生成榜单第一。此外,摩尔线程还与北京智源洽商院、极佳视界等机构配合进修具身智能和驾驶世界模子。

摩尔线程这次密集袒露进修案例,意在诠释注解国产GPU已从模子适配阶段迈入万卡级大鸿沟进修表率。畴昔国产GPU更多用于推理,原因在于大鸿沟进修对芯片、互联、通讯库及软件框架的协同褂讪性条件极高,集群中任何单点故障都可能导致握续数周的进修任务中断,从而大幅推高进修本钱。

不外,进修仅仅算力需求的一部分。董龙飞暗示,进修和推理对算力居品条件不同,进修对性能互异的容忍度相对较高,即使性能低10%,也不错通过延前途修时候完成任务;推理则奏凯相关到单元Token本钱,本钱逾越10%就可能失去竞争力。

为争夺推理市集,摩尔线程的“词元分娩工场”见地所以更低本钱和更高朦拢量握续生成Token。当今,其推理软件栈已适配SGLang、vLLM等框架,并复旧DeepSeek、MiniMax、GLM、Kimi和Qwen等国产大模子,久久久久亚洲AV无码专区桃色已矣主流大模子的发布即适配。摩尔线程还暗示,其与部分模子企业的配合正从发布后适配前移至研发阶段的纠合共研,力图在模子发布之日即完成调优。

异构推理是摩尔线程镌汰Token本钱的首要旅途。在大模子推理历程中,Prefill(预填充)阶段肃肃雄厚输入内容,更依赖狡计才调;Decode(解码)阶段逐字生成收尾,则更依赖显存容量和带宽。张建中例如,有客户把Prefill放在S5000上狡计,把Decode放在已有的外洋主流狡计卡上,从而镌汰了本钱。

从芯片算力到集群生态

张建中还称,由3张S5000与2张外洋主流GPU组成的异构系统,举座朦拢量可接近9张同类外洋GPU的水平。

为了进一步扩大单个狡计单元鸿沟,摩尔线程推出C256超节点,将256张GPU通过自研MTLink公约互联并整合为妥洽系统,既可用于构建10万卡集群,也可承载参数目和高下文窗口握续扩大的模子。

然则,超节点在本钱、投资与技巧层面均靠近重大挑战。董龙飞称,一套齐全超节点的投资在1亿元以上,功耗可能达到400千瓦,除GPU外还需集成CPU,散热、可靠性以及各模组之间的解耦仍是必须攻克的工程逶迤。他暗示,从万卡走向10万卡并非节略堆叠就业器,而需要“一层层网罗级联”的新架构,即由多个超节点组成Pod,再由多个Pod组成10万卡集群。其间,卡间通讯与系统可靠性是中枢挑战——万卡若有1%的故障率,到10万卡鸿沟,可靠性将呈指数级恶化。

在“智能体分娩工场”布局上,摩尔线程推出数字智能体“小麦”与具身智能仿真平台MT Lambda,并通过MTT AIBOOK、MTT AICUBE等末端设备探索端云协同。但相较于模子进修与词元分娩两大工场,摩尔线程的“智能体工场”尚未变成明晰的收入形式。张建中明确暗示:“智能体工场是公司一个全新的洽商标的。”

围绕Token经济上升,产业竞争正从芯片算力供给延长至集群斥地、算力鼎新与生态运营,各方布局不休。WAIC时代,商汤科技晓示纠合近20家国产芯片及基础措施厂商斥地Token运营中心,两年内筹办5个万卡以上国产算力集群;中科晨曦则发布寰球产10万卡AI超集群“晨曦8000(登峰)”,聘任超智和会架构联想,复旧从FP64到INT8全精度狡计,已矣了全类型狡计的原生一体化和会。