从模型到世界 天数智芯媒体开放日 国产GPU竞争走向系统效率

从模型到世界 天数智芯媒体开放日 国产GPU竞争走向系统效率

马小斌 / 2026-10-29 17:0550115

10月28日,天数智芯在上海举行“从模型到世界”媒体开放日,集中展示天垓300通用GPU、天数智算软件栈,以及彤央TY1000、TY1100、TY1200等端侧算力产品。现场既有天垓300与H200在大模型训练、推理和多模态生成负载中的对比,也有超节点、异构部署、Agent化开发工具和端侧具身智能演示。

把这些产品放在一起看,天数智芯传递出的重点并非某一项峰值参数,而是国产GPU的评价标准正在变化。芯片能否运行模型只是起点,客户更关心有效Token产出、长时间运行稳定性、模型上线速度,以及现有算力资产能否被继续利用。云端芯片、软件工具和端侧终端由此构成一条完整链路:前端负责生产算力,中间层解决适配和调优,端侧则承接实时、隐私与本地闭环需求。

wps_doc_0.jpg天数智芯在现场展示芯片架构路线图

天垓300进入主流大模型负载对比

天垓300此次给出的核心数字是第三方权威机构今年完成的测试中,针对四类主流模型和三类场景,在典型PD分离部署下,折算单卡端到端吞吐达到H200的1.05倍。天数智芯还披露,64K长上下文的Attention性能为H200的1.05倍;GLM-5.3模型64K场景下,MoE吞吐达到H200的1.15倍;8K至128K上下文中,Agent首字延迟降低约10%至30%。

这些结果的意义,不在于用一个数字宣布“全面超过”。H200是Hopper架构中面向大模型推理的代表产品。能在长上下文、MoE、文生图和文生视频等真实负载中进入同一性能区间,至少说明天垓300已跨过复杂AI任务的可用门槛。

但我们也应该看到边界,模型版本、量化精度、输入输出长度、并发数、软件栈和功耗上限,都会显著影响推理结果。此次披露的数据来自特定配置下的第三方测试与企业实验室测试。因而更准确的表述是:天垓300在已披露的若干典型工作负载中表现达到或超过H200,而不是脱离测试条件去概括整颗芯片。后续若能披露完整配置、测试脚本、能耗和长期稳定性数据,成绩单的行业说服力会更强。

wps_doc_1.jpg现场公布的FP8训练与多模态生成训练对比数据

系统效率成为国产GPU新考题

过去评价AI芯片,峰值FLOPS几乎是最醒目的参数。进入推理规模化阶段后,用户更关心的是单位时间、单位功耗和单位成本能够交付多少符合服务要求的Token。产业竞争也由此从算力规模逐渐转向Token产出效率。

天数智芯给出的“高效率、可预期、可持续”,本质上就是把芯片放回生产系统里考察。除了吞吐,公司披露天垓300满负荷运行的步时波动为0.43%,低于对比Hopper方案的0.76%。在AFD异构分离方案中,天垓300承担Prefill全流程与Decode阶段的Attention,合作方XPU承担FFN专家网络,企业实测称Decode延迟可降低60%。

这条异构路线值得关注。未来的智算中心很难只靠单一芯片覆盖训练、Prefill、Decode、Attention与FFN等所有负载。更现实的方向,是让通用GPU、专用加速器和既有算力资产在统一软件与调度层中协同。对于客户而言,异构的价值不是架构更复杂,而是旧资产能否继续使用,以及单位Token成本能否下降。

规模化交付方面,IXL144超节点在单个标准机柜内集成144颗GPU,聚合约10.1TB显存。天数智芯称,其每百万有效Token成本较国际主流方案可降低约40%,并计划把域内单次传输延迟从3至5微秒压缩到1微秒。这里同样需要等待更多跨平台第三方测试,但它已经释放出清晰信号:国产GPU厂商的战场已从单卡参数扩展到互联、显存池、调度与整机柜工程。

wps_doc_2.jpgIXL144超节点强调低时延互联、大EP与统一内存语义,单机柜聚合约10.1TB显存

软件栈决定模型上线速度

硬件跑得快,不等于开发者用得顺。新模型几乎按周出现,算子适配、环境配置、性能分析和内核调优仍会吞掉大量工程时间。对国产GPU而言,真正难复制的壁垒往往不是某个峰值数字,而是开发工具、文档、框架兼容性以及工程师能否快速定位问题。

天数智芯副总裁石加圣在现场把软件栈的目标拆成“易于使用、易于优化、易于开发”三层,并首次系统展示Agentic AI布局。它把安装、配置检查、部署方法和调优经验封装成可被智能体调用的工具与技能,让AI参与代码生成、编译、测试和性能验证。

按照现场案例,PD分离部署的环境准备和服务上线由约1小时缩短到10分钟,人工操作从数十步减少到1步;某大模型调优任务由7天压缩到2小时内,优化后性能接近翻倍;在FlyDSL协同场景中,过去需要10人天的模型适配与调优工作,被压缩到1人小时级。

这些数字仍需要更多项目复现,但方向很实际。Agent在这里不是给软件栈贴一个新标签,而是把稀缺的GPGPU工程经验变成可复用流程。国产GPU要扩大开发者覆盖面,必须让普通模型工程师也能完成部署和优化,而不是每次都等待原厂专家驻场。

wps_doc_3.jpg天数智芯副总裁石加圣阐述GPGPU软件栈进化路径

端侧算力走向本地闭环

活动下半场的彤央TY1200,把讨论从数据中心拉到桌面和机器人。该终端标称300TOPS稠密算力。天数智芯现场以Qwen系列LLM、VLM和VLA模型对比Jetson Thor T5000,并称TY1200在多项实测中取得优势;在Cosmos-R2-2B和Cosmos-R2-8B世界模型测试中,性能分别达到对比平台的158%和180%。

这组对比同样不能只看两个醒目的百分比,Thor T5000强调的是FP4稀疏算力,TY1200给出的则是INT8稠密算力,两者的数值口径并不相同。真正有参考价值的,仍然是同模型、同精度、同输入输出条件下的端到端速度、功耗、内存容量与稳定性。天数智芯选择用实际模型而非标称TOPS对话,至少把比较拉回了真实工作负载。

wps_doc_4.jpgTY1200与Thor T5000在LLM、VLM和VLA模型上的现场实测数据

端侧的优势也不只在性能。合同审核、投资材料分析和科研数据处理涉及敏感数据,本地离线运行可以减少数据外发;工业视觉、陪诊机器人和具身智能需要毫秒级响应,若每一步都依赖云端,网络抖动就会进入业务链路。现场展示的TY1200还能在本地运行视频生成、MuJoCo-Warp物理仿真和小模型训练。

天数智芯列举了几类已经更接近产品化的场景:CV与多模态模型交叉验证,把应急视觉识别准确率从70%提升至95%;同一台设备白天提供文旅导览,夜间训练CV模型;储能电芯AI4S智能体自动采集实验数据并生成报告;陪诊机器人在本地完成感知、判断与引导。它们共同说明,端侧算力的价值是让计算贴近数据,而不是把云上的所有任务原样搬到一个小盒子里。

wps_doc_5.jpg端侧CV与多模态模型交叉验证,将应急场景识别准确率由70%提升至95%

wps_doc_6.jpg现场展示的MicroDuck机器人,端侧设备承担本地仿真、策略训练与动作验证链路

热点科技观察

对国产GPU而言,能跑通主流模型已经成为入场条件,接下来的差距会在测试方法、软件更新和规模交付中被拉开。单点成绩仍有参考价值,但模型版本、精度、批量、上下文长度、功耗、软件版本和测试脚本缺一不可。只有测试结果能够被复现,企业公布的性能数字才会转化为采购依据。

软件能力同样需要从一次性适配转向持续迭代。模型更新速度远快于传统硬件周期,客户真正关心的是新模型发布后多久可以上线,以及部署和调优是否仍然依赖原厂工程师。天数智芯用Agent封装安装、迁移和调优经验,方向符合行业需求;其效果还要由普通客户的使用门槛、第三方工具数量和后续版本更新速度来验证。

规模交付则决定产品能否从演示环境进入生产系统。超节点要接受集群稳定性、通信效率、能耗、运维和供应链的长期检验,端侧产品还要面对价格、功耗、渠道和行业软件生态。天垓300与TY1200覆盖了云端和端侧,但产品线完整并不等于商业闭环完成,持续出货、客户续单和长期运行数据仍是更硬的指标。

本次开放日值得关注的地方,是天数智芯开始用真实模型负载、国际同类产品和行业场景来解释自身能力。对国产GPU行业来说,这意味着竞争单位正在从芯片转向整套系统:芯片提供基础算力,互联和显存决定扩展效率,软件栈影响模型上线速度,交付与运维最终决定总体成本。谁能让客户以更低的迁移成本获得稳定、可预期的产出,谁才更有机会进入下一轮算力采购。天数智芯给出了自己的技术路径,后续仍需用更充分的第三方测试和规模化交付数据证明这条路径的成色。

声明类型:无需添加自主声明

发表评论注册|