2026人工智能+大会|国产异构推理高品质AI Token工厂解决方案正式发布
源 / 环球网    文 /     2026年11月03日 14时47分

  11月3日消息,在近日举办的2026 人工智能+大会(2026 GAI+C)上,趋境科技联合智谱与摩尔线程正式发布“国产异构推理高品质 AI Token 工厂解决方案”。依托全系统异构协同实现推理加速,该方案率先打通“模型-推理-芯片”产业闭环,以底层系统工程大幅重塑“Token 经济性”,实现同等硬件投入下有效产出的成倍提升,并大幅降低综合成本。

  对此,趋境科技创始人兼 CEO 艾智远表示:“大模型迈向商业闭环,算力成本是绕不开的第一道坎。当智能体与长文本把调用量推向指数级时,产业突围的关键在于攻坚底层系统工程,将算力储备转化为用得起、跑得稳的确定性生产力。此次发布的方案,正是通过系统级深度协同,跨越浅层适配的性能瓶颈,以算力经济性与生产级稳定性,真正实现从芯片、前沿模型到辐射全国核心产业规模化落地的全链路闭环。”

  从输入理解到输出生成,大模型推理主要经历两个核心环节:用于快速解析上下文的 Prefill(预填充)阶段,以及负责逐字输出生成的 Decode(解码)阶段。传统方案多由同类硬件贯穿始终,往往难以兼顾两端截然不同的负载特征,不仅易造成局部性能闲置,更会推高综合部署成本。

  据介绍,为了打破软硬件隔阂、让不同类型算力资源各展所长,本次全新发布的方案依托趋境科技首创的全系统异构协同推理技术,可实现异构资源的精准协同,让计算能力强的算力承载高计算密度的 Prefill 阶段,让显存带宽大的算力负责 Decode 阶段。趋境科技将集群中的 CPU、GPU、内存与高速网络整体纳入推理调度,在确保模型精度全链路无损、实施精细化跨卡协同组网,以及构筑毫秒级无损容错机制的基础上,打破单一芯片的性能瓶颈与异构协同的工程壁垒,在真实生产环境中将算力稳定转化为更高品质、更具经济性的 AI Token 产能。

  在业务端,趋境科技国产异构 PD 相关方案已在生产环境全面投入使用,稳定承载万亿参数超大模型,并持续承接高并发真实业务流量。实测数据显示,趋境科技采用其国产异构方案,已经使得普通算力可以在企业核心生产环节落地。

  在生态端,趋境科技正加速推进技术与交付标准的规模化复制,参与构建多地、多源的算力供应链网络。

网友讨论
还可以输入 200 个字符
热门评论

建议及投诉热线010-85869906

广告刊登热线010-85862238

  • 关注官方微信

  • 关注官方微信

中国人民银行 | 中国银行业监督管理委员会 | 中国保险监督管理委员会 | 中国证券业监督管理委员会 | 路透社 | 华尔街日报 | FT中文网 | 中国互联网金融企业家俱乐部(ECIF) | 工业和信息化部域名信息备案管理系统
Copyright © 2008-2030 北京大白熊网络信息有限公司 京ICP备16038172号-1 all rights reserved本网站所刊部分稿件为网络转载,若有侵权请您及时联系我们,我们会及时删除,本网站对所转载内容不承担任何的责任,请网民对相关内容的真实性自行判断。
账号登录
记住密码
账号注册
账号注册

*昵       称

*输入密码

*确认密码

*姓       名

*电子邮箱

*国家地区

*省       份

*出生年份

*性       别  男          女

*从事职业

*从事行业

请您留下正确的联络方式,以便我们能够及时与您取得联系

*手机号码

填写您要订阅的邮件
  •   我愿意接受有关新财网的新功能或活动的信息
  •   我愿意接受有关其他网站和产品的新功能或活动的信息
  •   我愿意接受第三方服务供应商的特别优惠的信息