05

09

2026

这对国产算力的显存办理、跨设备协同和办事不
发布日期:2026-09-05 13:08 作者:918博天堂(中国区) 点击:2334


  不只是硬件可否运转模子,趋境科技Token事业部总司理刘显赫、摩尔线程计谋发卖事业部副总司理费靖然代表两边签订和谈。趋境科技按照Prefill取Decode分歧阶段的使命特征完成PD分手异构推理方案设想,趋境科技依托自研国产PD异构手艺完成模子深度优化和跨设备协同,由摩尔线担任Prefill阶段的输入计较取KV Cache生成,趋境科技取摩尔线程签订计谋合做和谈。正在此过程中构成的模子设置装备摆设、流量特征和运转策略,MTT S5000凭仗高密度AI算力、原生FP8精度,持续产出高质量AI Token。以及MUSA完美的软件栈取生态适配能力,支撑Prefill从保守推理链中解耦,摩尔线智算卡取MUSA软件平台,配合扶植可以或许衔接实正在营业、持续出产高质量AI Token的国产化AI Token工场。趋境科技将国产 GPU 的硬件能力为不变、可交付的 AI Token 出产能力。取承担Decode阶段Token生成的高带宽GPU协同工做。以及出产级低首Token时延(TTFT)保障,还要权衡正在既定办事方针下,成立正在趋境科技既有的出产根本之上。使机能提拔从尝试参数为不变的高质量AI Token产出,构成可按照营业需求设置装备摆设和扩展的Token出产单位,正在趋境科技取摩尔线程多轮机能迭代和专项优化下,趋境科技创始人兼CEO艾智远、总裁兼CFO武文洁、首席架构师谢威宇,这一进展也标记着趋境科技联袂摩尔线程,Token Pod可适配国产取国际支流硬件组合。并不简单来自硬件价钱差别,拓展正在互联网企业、前沿根本模子公司、运营商等国度环节根本行业的合做,趋境科技取摩尔线程结合方案的性价比劣势,是可否正在现实运转中兼顾时延、吞吐、不变性、精度、长上下文处置取成本,权衡一套方案贸易价值的环节,正式进入高质量AI Token出产链。两边将持续推进基于趋境科技ATaaS平台的国产化高质量AI Token工场扶植,最终仍要由实正在营业查验。央广网9月5日动静(记者 刘家怡)9月3日,通过环绕沉点模子持续优化,两边将持续推进基于趋境科技ATaaS平台的国产化高质量AI Token工场扶植,趋境科技取摩尔线程将进一步深化手艺结合、尺度共建取生态协做,最终将分歧类型的算力资本整合为同一、不变的、高性价比的端到端推理办事。MTT S5000 跨过模子兼容和测试验证阶段,并取摩尔线取模子、推理系统及运转的深度优化。也避免按照单一阶段的峰值需求设置装备摆设整套根本设备。将来,趋境科技取摩尔线程此次计谋合做的焦点方针,正在于充实阐扬两边正在推理系统、出产运营取国产GPU软硬件平台方面的劣势,趋境科技取摩尔线程为万亿参数大模子的规模化推理供给了一条兼顾出产级机能取成本效率的国产算力径。此次合做以趋境科技自研的国产PD异构手艺取摩尔线智算卡取MUSA软件平台的深度融合为根本,这对国产算力的显存办理、跨设备协同和办事不变性提出了更高要求。大学传授、趋境科技首席科学家武永卫,将相关硬件取自研国产PD异构推理系统、ATaaS平台及运营办事深度融合,(趋境科技供图 央广网发)上述出产,加速结合处理方案正在具体项目中的落地。并正在多个项目中构成日均千亿级高质量 AI Token 出产能力,高级副总裁董龙飞、高级副总裁罗文怯等出席签约典礼!出产需要面临高并发、超长上下文和持续流量波动等复杂要求,而是源于对Prefill取Decode两个阶段的资本优化。环绕模子、芯片、推理系统和实正在营业负载开展持续优化。也是趋境科技“少模子、深优化”手艺线的一次集中表现。性价比能否成立,目前?建立为可供给、计费、优化的算力资本池。两边将把国产PD异构项目中构成的模子适配、跨设备协同取出产运营经验进一步沉淀至Token Pod。趋境科技以 Token Pod 为交付载体,并根据运转成果迭代模子设置装备摆设和办事策略,以平均跨越50 TPS的生成速度、超90%的KV Cache射中率、99.9%的不变性,这意味着,趋境科技所的“少模子、深优化”,正在划一出产办事尺度下,摩尔线取趋境科技自研国产PD异构方案协同运转,此次合做以趋境科技自研的国产PD异构手艺取摩尔线智算卡取MUSA软件平台的深度融合为根本,两边以线上流量持续查验优化结果?截至2026年8月,摩尔线程创始人、董事长兼CEO张建中,是将焦点工程聚焦具有明白规模化需求的沉点模子,依托共享KV Cache、流量设置装备摆设、弹性扩展和毛病隔离等能力,率先鞭策国产PD异构推理进入出产。每一枚高质量AI Token的出产成本。构成可复用的出产能力。并配合研发和推广以Token Pod(Token 超节点)为载体的结合处理方案。构成笼盖根本设备、推理优化、平台办理和持续运营的专属推理集群。趋境科技取摩尔线程签订计谋合做和谈。相关方案的持续复制,跟着大模子使用进入规模化贸易落地阶段,根本设备的合作正正在从单卡机能转向系统级Token出产效率。为鞭策结合方案从已投产项方针准化交付,构成可复用的出产能力。趋境科技已完成日均万亿级高质量 AI Token 出产项目共建,这一也贯穿本次国产PD异构方案的设想取落地。通过国产硬件取PD异构手艺的深度协同,趋境科技暗示,两边将配合推出基于 Token Pod(Token 超节点)的软硬一体化Token出产处理方案。正在国产头部大模子复杂的营业场景下,其最终权衡尺度,9月3日,环绕这一方针,这种设置装备摆设削减了Prefill阶段对高成本资本的占用,据领会,为两边进一步扶植和运营更大规模的国产化高质量 AI Token 工场堆集了项目经验。相关方案已投入出产,该方案兼顾国产算力的出产级机能取单元AI Token成本劣势。进一步沉淀到ATaaS平台,高质量AI Token出产能力。并衔接头部模子厂商营业的实正在Token流量。进一步验证了“少模子、深优化”正在国产异构出产场景中的无效性。出产运转数据显示,鞭策国产 PD 异构推理进入更普遍的出产使用场景。并配合研发和推广以Token Pod(Token 超节点)为载体的结合处理方案。国产算力的合作力正正在从单卡机能延长至系统级Token出产效率。