国产 GPU 进入 Token 工厂时代：算力比拼从 “算得快” 转向 “算得值”

新华财经上海10月29日电（记者 高少华）国产图形处理器（GPU）厂商的比拼重心正从峰值算力能否追平国际主流产品，转向单位投入能产出多少有效结果、长时间运行能否稳定，以及面对不同模型与部署方式能否持续发挥作用。

天数智芯28日在上海举办“从模型到世界”2026媒体开放日活动，新一代通用GPU旗舰产品天垓300首次面向媒体开放实机演示，基于该产品的注意力-前馈网络解耦（AFD）方案、IXL144超节点方案，以及天数智算软件栈、彤央端侧算力终端同台亮相，公司同时预告标称算力达600太浮点（TFLOPS）的下一代端侧产品。

上海仪电今年7月完成的第三方实测显示，在典型预填充-解码分离（PD）部署下，天数智芯的天垓300折算单卡整体端到端吞吐达到英伟达H200的1.05倍。天数智芯方面表示，这里比较的不是理论峰值，而是在特定模型和部署条件下整条推理链路的实际输出能力。

天垓300与H200文生图实测对比 （受访者供图）

作为大模型推理和复杂计算领域具有代表性的高水平图形处理器，英伟达H200水平是衡量先进AI算力的重要标杆。天垓300在真实业务测试中达到这一水平，标志着国产通用图形处理器迈过了一道具有重要意义的性能门槛：开始具备在复杂AI任务和高算力市场中快速发展的实力。这也意味着国产图形处理器正在进入新阶段——从解决“能不能用”的问题，转向比拼实际产出、运行效率和经济价值。

目前，随着日均词元（Token）调用量较2024年初增长上千倍，Token工厂正成为算力规模化落地的热门形态，也是高质量算力三要素的集中检验场。天数智芯进行的各项现场测试表现显示，天垓300高度满足Token工厂对算力的各项实际要求。

天垓300同时提供开放、可组合的异构计算平台解决方案。以通用图形处理器为底座，支持混合训练等多种部署形态，可与其他厂商的加速卡、专用芯片协同工作。

“未来的AI算力系统，不一定由一种芯片包打天下。”天数智芯AI与加速计算负责人单天逸表示，“关键是如何把它们高效组织起来，让整个系统发挥更大价值。我们希望通过开放的异构计算能力，让客户充分利用已有算力资产，以更灵活的方式构建适合自身业务的计算系统。”

算力的价值，在于能够持续投入实际生产的能力。天数智芯正将通用算力延伸至科学智算与物理AI等前沿领域，加速科学发现和产业应用。天垓300全面覆盖生命科学、物理AI、化学与材料四大领域近百个典型场景，涵盖蛋白结构预测、药物筛选、机器人仿真、分子动力学、材料结构优化等关键任务。

在规模化交付方面，据天数智芯方面介绍，天垓300已形成从加速卡、一机8卡服务器到超节点的系统方案。其中，天垓300 IXL144超节点在单个标准机柜内集成144颗图形处理器、聚合约10.1TB显存，为目前业界密度最高的单机柜GPU超节点；据测算，其每百万有效Token成本较国际主流方案可降低约40%。该方案已在第二十六届中国国际工业博览会上公开亮相，面向不同算力规模与机房条件的其他超节点方案也将陆续推出。

天数智芯副总裁石加圣阐述GPGPU软件栈进化路径 （受访者供图）

硬件性能达到可用区间后，开发者能否真正用好成为另一道门槛。随着新模型不断出现，部署、适配和性能调优往往需要经验丰富的工程师投入大量时间。天数智芯此次展示的软件栈，让AI不仅作为计算任务被运行，也参与AI系统自身的开发与优化。

天数智芯副总裁石加圣围绕“易于使用、易于优化、易于开发”三个层次，展示了天数智算软件栈拥抱代理式人工智能（Agentic AI）的布局：将软件栈、专业工具与工程经验同Agent技术结合，让一线开发者能够直接调用工具、复用经验、开展优化，加速迈向端到端智能开发。

端侧应用是天数智芯现场展示的另一重点布局。当前，物理世界的数据量持续增长，对感知、规划与执行提出毫秒级响应要求，合同、科研等涉及数据安全的任务要求算力必须“贴着数据跑”。与此同时，小参数量模型能力提升，使更多任务具备边端部署条件。天数智芯认为，算力分层成为现实选择：大规模训练与复杂判断留在云端，要求实时响应、涉及数据安全、需要现场闭环的任务，放在端侧。

天数智芯彤央产品市场负责人宋远盈表示，云端GPU厂商做端侧，不是把芯片做小，而是把能力下沉。天数智芯将云侧大规模训练与推理中积累的能力，连同通用GPU架构、编译器等工具带到边端，使模型可以“生在云、长在边”：云端训练、边端部署，需要时再由云端复判，模型能力与精度保持衔接。

编辑：葛佳明

声明：新华财经（中国金融信息网）为新华社承建的国家金融信息平台。任何情况下，本平台所发布的信息均不构成投资建议。如有问题，请联系客服：400-6123115