天数智芯开放日天垓300首次实机演示 软件栈与彤央同台亮相

资讯 2026-11-06 14:59:18 来源:互联网

摘要:  中国通用GPU企业天数智芯(09903.HK)10月28日于上海举行「从模型到世界」2026媒体开放日。天垓300首次面向媒体开放实机演示,基于天垓300的AFD分离方案、IXL144超节点方案、天数智算软件栈及彤央端侧算力终端同台......

  中国通用GPU企业天数智芯(09903.HK)10月28日于上海举行「从模型到世界」2026媒体开放日。天垓300首次面向媒体开放实机演示,基于天垓300的AFD分离方案、IXL144超节点方案、天数智算软件栈及彤央端侧算力终端同台亮相。公司并预告标称算力达600T的下一代端侧产品TY2000。

  天垓300:第三方实测跨越H200门槛,系统方案与异构协同并进

  天垓300为天数智芯新一代自研架构旗舰产品,面向大模型训练、推理及Agent场景,强调实际业务负载下的效能与总拥有成本(TCO)优化。

  据第三方权威机构完成的实测,在典型PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍。这是国内首个实测性能达到H200水平的通用GPU。

  该第三方测试针对四大主流模型、三类场景展开,比较的不是理论峰值,而是特定模型与部署条件下整条推理链路的实际输出能力。除端到端吞吐外,天数智芯性能实验室披露的典型业务场景实测包括:64K长上下文下Attention性能为H200的1.05倍;GLM-5.3模型64K规模下,保障同等用户体验的同时MoE吞吐为H200的1.15倍;8K至128K长上下文场景下Agent首字延迟较H200降低约10%—30%;多模态生成推理吞吐较H200提升约2%—5%;搜广推等在线业务中,推荐推理吞吐提升21%、轻量计算时延降低26%。

  训练方面,基于Qwen3-32B模型的8卡整机FP8精度训练演示中,天垓300每卡有效吞吐达到H100的1.33倍。据条件性工程估算,以1024张卡对已有预训练基座开展强化学习,在40B激活参数的中心情景下,约26天可完成约1T总参数MoE模型的500亿生成Token强化学习任务。

  异构计算方面,天垓300提供开放、可组合的异构计算平台解决方案,支持混合训练、PD分离与AFD分离等多种部署形态,可与其他厂商加速卡、专用芯片协同。其中,AFD分离方案已实际跑通,为国内首个基于GPU+XPU的异构部署AFD分离方案。

  系统方案方面,天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案。其中,天垓300 IXL144超节点在单个标准机柜内集成144颗GPU、聚合约10.1TB显存,为业界密度最高的单机柜GPU超节点;据测算,每百万有效Token成本较国际主流方案可降低约40%。其新一代P2P互联引擎面向Scale-up与Scale-out,目标将域内单次传输延迟由3—5微秒降至1微秒。该方案已在工博会公开亮相,面向不同算力规模与机房条件的其他超节点方案将陆续推出。

  天数智芯将算力竞争转向实际产出、运行效率与经济价值这一阶段的要求,概括为「高质量算力」三要素——高效率、可预期、可持续。随着Token调用量出现千倍级增长,Token工厂正成为算力规模化落地的重要形态,也成为检验这三要素的集中场景。以天垓300为例:高效率体现在前述第三方测试的端到端吞吐表现,为单位时间生产更多有效Token提供性能基础;可预期体现在满负荷步时波动0.43%、低于对比Hopper方案的0.76%,直接关系Token工厂长时间高负载下的稳定性、利用率与可用率;可持续则体现在通用架构原生支持CUDA语义、主流框架均已适配,并提供从加速卡、服务器到超节点的多种部署形态。

  此外,天垓300全面支持Boltz-2、OpenFold3、Protenix等模型及Newton、Warp、ALCHEMI等框架,覆盖生命科学、物理AI、化学与材料四大领域近百个典型场景。在AI4S场景中,天垓300可实现一键生成论文;在物理AI领域,亦可支撑具身智能相关的训练与仿真需求。

  开放日现场同步进行天垓300与H200在GLM5.3等大语言模型、文生图、文生视频场景的实机对比测试;AFD分离方案与IXL144超节点方案同台展示,呈现GPU+XPU异构协同及单机柜高密度集群管理能力。

  「未来的AI算力系统,不一定由一种芯片包打天下。」天数智芯AI与加速计算负责人单天逸表示,「关键是如何把它们高效组织起来,让整个系统发挥更大的价值。」

  软件栈:以Agentic AI重构开发流程,从「用AI计算」到「用AI开发AI」

  天数智芯将软件栈从单纯的「迁移工具」升级为「AI Agent驱动的GPU软件栈」,将AI Agent引入GPU软件栈的安装、部署、调优、编译及新模型适配全流程,让开发者聚焦核心决策,提升各环节效率。

  活动现场,天数智芯副总裁石加圣围绕「易于使用、易于优化、易于开发」三个层次,首次展示天数智算软件栈全面拥抱Agentic AI的系统性布局:将软件栈、专业工具与工程经验同Agent技术结合,让一线开发者围绕场景目标与服务约束,直接调用工具、复用经验、开展优化。

  易于使用方面,软件栈将环境安装、配置检查与模型部署方法组织为智能体可调用的工具与技能。在模型PD分离部署实测中,环境准备与服务部署整体用时由1小时缩短至10分钟,人工操作由数十步减少至1步。

  易于优化方面,软件栈结合自研性能分析工具与调优经验,让AI依据真实运行数据定位瓶颈、提出优化方案并通过测试验证。根据某大模型调优任务实测,工作周期由7天缩短至2小时内;在相同硬件、模型和精度要求下,相关任务运行性能较优化前接近翻倍。

  易于开发方面,天数智芯为首家深度接入FlyDSL的国产GPGPU厂商,通过Agent与FlyDSL协同,让AI参与代码生成、编译、测试与性能优化。在某主流模型适配与调优实测中,过去10人天完成的工作,现在1人在小时级内即可完成,编译速度提升90%以上,理想状态可用1%的编译时间实现99%的运行性能。

  「Agentic AI让一位工程师的经验,能够持续服务千千万万开发者。」石加圣表示。天数智芯将GPGPU工程师在模型适配、性能调优中积累的方法沉淀为可调用的工具与技能,让模型和应用开发者能在自身工作流中复用专家经验。

  彤央TY1200:云端能力下沉,实测超越Thor T5000

  随着物理世界数据量持续增长,实时响应、数据安全与本地闭环成为端侧算力的刚性需求;与此同时,小模型能力提升与成本约束,使「训练与复杂复判留在云端、实时闭环任务下沉端侧」的分层从可行变为必要。

  天数智芯彤央产品市场负责人宋远盈表示:「云端GPU厂商做端侧,不是把芯片做小,而是把能力下沉。」公司称,已将云侧积累的模型压缩、量化、蒸馏和软硬协同能力,连同通用GPU架构、编译器、算子库和性能工具带到边端,使模型「生在云、长在边」。

  彤央以一套生态、两种形态、五款产品覆盖从客户自主集成到即用型部署的需求。其中,彤央TY1200端侧算力终端标称300 TOPS稠密算力,而非行业惯用的稀疏峰值。公司披露,在Qwen3.8-27B、Qwen3.6-35B-A3B等LLM模型实测中,TY1200性能达到Thor T5000的1.2倍。

  本地部署场景中,TY1200在数据安全闭环与高算力本地生成等场景已具备可交付能力。合同审核、投资BP分析等对数据安全高度敏感的工作,可基于本地部署大模型离线处理;基于MiniMax H3开源视频模型,TY1200平均6分钟生成1056×608分辨率、时长5秒的视频,全程本地进行,不产生云端调用费用。此外,TY1200亦可流畅运行推理应用,并承担小模型的本地训练。

  物理AI场景中,TY1200成为具身智能设备的「大脑」,既可内置,也可「外挂」。TY1200首次在国产端侧产品上实现基于MuJoCo-Warp的GPU加速物理仿真,机器人动作学习所需的大规模并行仿真可在本地终端完成;在Cosmos-R2-2B和Cosmos-R2-8B世界模型测试中,实测性能分别达到Thor T5000的158%和180%。

  活动现场同步演示了上述端侧闭环:MicroDuck动作演示呈现「本地仿真-策略训练-动作验证」的完整链路;搭载TY1000算力模组的机器狗在本地完成人脸识别与跟随主人,形成「感知-决策-行动」闭环。

  行业落地方面,TY1200已在数据敏感本地闭环、应急视觉识别、公共服务三类场景形成案例:储能电芯研究中,约2分钟生成报告;应急视觉识别中,端侧CV与多模态大模型交叉验证,将准确率由70%提升至95%;搭载TY1200的陪诊机器人已在上海市阳光康复中心服务视障人士。TY1200此前已获2026工博会CIIF国芯展创新成果奖,为其端侧性能与场景落地提供第三方展会背书。

  此外,天数智芯预告了下一代端侧产品TY2000,标称算力将达600T,把云端能力下沉的边界再向前推进一步。

  从云端天垓300、天数智算软件栈,到端侧彤央算力终端,天数智芯正以贯通云边端的产品体系,将「高质量算力」转化为可实测、可复现、可交付的产品能力。云端生产智能、软件加速适配、端侧拓宽场景,三者能否形成「增强回路」,并在量产交付与客户订单中兑现,将是下一阶段的核心看点。