Daily AI Insight
数据源洞察报告

免责声明

本站内容由 AI 自动聚合、分析与生成,仅供信息参考与学习交流,不构成投资、法律、医疗或其他重大决策建议。请结合原始信源独立判断,作者不对因使用本站内容而产生的任何后果承担责任。

关于本项目

个人开源实验项目,由 @sqliang 构建与维护。

在 GitHub 查看源码

© 2026 Daily AI Insight Engine · Built with AI-assisted pipelines

← 返回 量子位
Analyzed·分析qbitai.com2026-07-18

Article Intelligence

清华系团队发布国产Token优化工厂:兼容10余种国产芯片,日吞吐千亿Token

打开原文 ↗

先看结论

是石科技在WAIC 2026上发布国产Token优化工厂"拓元(Vectron)",兼容昇腾、昆仑芯等10余种国产芯片和20余个主流模型,日Token吞吐量达千亿级别,旨在解决中国智算中心算力利用效率低下的问题。

核心指标

先判断这篇文章值不值得继续读

评分用于衡量信号强度,判断类指标用于解释方向、热度、后续动作与可信程度。

影响力

衡量事件对技术、产业或生态的外部影响强度。

6.8

该事件标志着中国 AI 基础设施竞争从'芯片军备竞赛'正式迈入'算力效率竞赛'阶段。是石科技拓元(Vectron)的核心定位是国产异构芯片(昇腾、昆仑芯、天数智芯等)的统一推理优化与调度中间件,直接瞄准了中国智算中心利用率普遍偏低、国产芯片生态碎片化严重的核心痛点。其宣称的千亿级日 Token 吞吐量和 10 余种芯片兼容性,如果获得大规模商用验证,将显著降低国产大模型的部署门槛和运营成本,对中国的 AI Infra 供应链产生实质性的局部格局影响。考虑到当前仍为产品发布初期,缺少第三方独立验证,综合评分 6.8,属于重要的产品发布事件。

复合价值

综合新颖性、可执行性与长期观察价值。

7.5

是石科技切入的是中国智算中心'算力效率低下'这一真实且巨大的结构性痛点。中国50+智算中心、超1000 EFLOPS算力规模但平均利用率远未跑满,意味着算力效率优化层存在万亿级的价值释放空间。拓元兼容10余种国产芯片并实现异构统一调度,一旦成为国产算力的事实标准中间件,将具备极强的迁移成本护城河——客户接入其调度体系后,切换成本极高。创始团队的清华计算机系背景和国家级计算中心工程经验增加了技术可信度。但同时需警惕三重风险:(1) 国产芯片生态仍在剧烈变动期,维持10余种芯片的兼容优化成本高昂,芯片迭代可能产生持续适配负债;(2) 阿里云、华为云等云平台厂商也在构建类似能力,存在被平台捆绑或边缘化的风险;(3) 公司仅成立4年,200+客户是否包含头部大客户及其留存率有待验证。总体而言,若拓元能持续保持国产芯片兼容领先并深度绑定关键客户,有望成为AI Infra效率层的长期基础设施,具备7-8年以上的复利效应基础,但现阶段仍需观察其规模化交付和生态护城河的兑现程度。

01

提取事实

结构化事实、实体识别与逻辑链

TL;DR

是石科技在WAIC 2026上发布国产Token优化工厂"拓元(Vectron)",兼容昇腾、昆仑芯等10余种国产芯片和20余个主流模型,日Token吞吐量达千亿级别,旨在解决中国智算中心算力利用效率低下的问题。

基建更新科技媒体公关声明
客观摘要

是石科技于2026年7月17日在WAIC 2026上海发布拓元(Vectron)AI Infra优化体系。该产品全面兼容昇腾、昆仑芯、天数智芯、太初等10余种国产芯片和20余个主流模型,实现异构算力统一调度与推理加速,每日Token吞吐量达千亿级别。拓元针对中国智算中心算力利用效率低下的痛点,提供KV Cache压缩、全模态免训练Token压缩、长上下文优化、基于元奖励的可靠深度推理和智能体长程记忆机制等核心技术能力。是石科技成立于2021年,创始团队源自清华大学计算机系,已服务超过200家重点客户。

逻辑链
  1. 1是石科技在WAIC 2026上海发布拓元(Vectron),定位为国产Token优化工厂,核心目标是提升算力利用效率,解决中国智算中心算力浪费问题。
  2. 2拓元兼容昇腾、昆仑芯、天数智芯、太初、瀚博半导体、摩尔线程、沐曦、燧原等10余种国产芯片,适配20余个主流模型,日Token吞吐量达千亿级别。
  3. 3

情绪

积极

整体偏利好,可优先看它带来的机会、受益方和后续扩散可能。

Hype

中 hype

有一定叙事包装,阅读时需要同时看亮点和限制。

文章来源于量子位,行文风格带有明显的 PR 包装色彩,使用了'改写竞赛规则'、'榨到极致'等营销话术。但文章披露的技术细节相当具体(结果感知驱动 KV Cache 压缩、元奖励可扩展奖励建模、混合位置索引合成等),这些是真实且有深度的技术研究方向,提升了内容的干货感和可信度。不过,核心性能指标(千亿日吞吐、10+芯片统一调度)缺乏独立 Benchmark 或开源代码支撑,存在一定的性能水分预警,属于'干货不少但包装也不轻'的中等炒作水平。

行动建议

持续监测

先保持观察,等后续产品、论文或市场反馈再升级判断。

置信度

分别对应影响力、复合价值与 Hype 判断的可信程度。

影响判断medium· 可参考
价值判断medium· 可参考
热度判断high· 依据较充分
拓元关键技术包括结果感知驱动KV Cache压缩、全模态免训练Token压缩、混合位置索引合成长上下文优化以及基于元奖励的可扩展奖励建模等。
  • 4是石科技成立于2021年,创始团队源自清华大学计算机系,核心成员来自清华、北大、北航等高校,具备国家级计算中心工程化经验。
  • 5是石科技已服务超过200家重点客户,覆盖互联网大厂、大模型公司、航空航天、生物制药、新能源等行业。
  • 实体识别
    公司
    是石科技清华大学
    技术
    KV CacheToken压缩AI Infra昇腾昆仑芯天数智芯太初瀚博半导体摩尔线程沐曦燧原
    人物
    闫博文
    02

    影响与价值

    技术/商业影响、关注焦点与受影响对象

    开发者关注点

    国产芯片(昇腾/昆仑芯等)的推理性能与生态兼容性是否如宣传般可靠,能否真正逼近英伟达生态的工程体验。

    技术颠覆

    提出了面向国产异构算力的系统性推理优化技术栈。核心创新包括:1) 结果感知驱动 KV Cache 压缩,突破传统基于输入的压缩局限,在长上下文场景下显著降低显存与成本;2) 全模态免训练 Token 压缩,无需微调即可动态筛选多模态输入中的关键信息;3) 基于元奖励的可扩展奖励建模,尝试实现大模型的免人工持续自我优化。这些技术本身虽非完全开创性理论,但系统性整合并针对国产芯片做了底层算子级优化,具有显著的工程创新价值。

    商业模式

    定位为'Token 优化工厂 / AI Infra 中间件',商业模式本质是成为国产算力生态的'标准使能层'。这有望重塑智算中心的价值计量方式——从按算力资源(卡时/EFLOPS)售卖转变为按产出效果(有效 Token 数/任务吞吐)服务,极大释放闲置算力的商业价值。对中国 AI 产业而言,其战略意义类似于英伟达 CUDA 生态在 Wintel 体系中的作用,是构建自主技术体系的关键工程拼图。

    关键受益方

    • 是石科技
    • 昇腾(华为)
    • 昆仑芯(百度)
    • 天数智芯
    • 太初
    • 中国智算中心运营商

    竞争受损方

    • 传统AI Infra优化厂商
    • 缺乏国产芯片适配能力的模型部署平台
    • 海外芯片厂商在中国市场的推理优化服务
    03

    风险、机会与行动

    结合机会清单和风险矩阵判断后续关注重点

    可关注的市场机会

    • 智算中心运营方可引入拓元作为算力效率中间件,通过统一调度异构国产芯片将集群利用率提升10-20个百分点,释放万亿级算力价值空间
    • 国产芯片厂商(如昇腾、昆仑芯、摩尔线程等)可与是石科技合作预集成拓元优化栈,降低客户适配门槛,加速国产芯片在AI推理场景的规模化落地
    • 企业级AI应用开发者可利用拓元的KV Cache压缩和长上下文优化能力,以更低成本部署长文本/多模态应用(如企业知识库、智能客服、文档分析),减少对高端GPU的依赖
    风险信号
    监管
    国产芯片+自主可控方向符合中国政策导向,短期监管风险低;但若未来涉及跨境数据流动或出口管制条例下的受限场景(如与海外实体合作),可能触发合规审查
    技术
    是石科技的核心技术(结果感知KV Cache压缩、元奖励建模等)缺乏第三方独立基准测试验证,存在性能夸大的可能;国产芯片生态碎片化严重,跨10余种芯片的统一优化栈能否在真实大规模集群中稳定运行存疑
    竞争
    华为昇腾自身有CANN/昇思优化栈,百度昆仑芯有自研框架,头部芯片厂商可能不愿依赖第三方中间件;NVIDIA虽受出口管制但存量CUDA生态根深蒂固,美团、字节等大厂也在自建AI Infra,竞争高度激烈
    伦理
    Token优化技术降低了AI推理成本,可能加速深度伪造、自动化攻击等恶意用途的规模化部署,且文章未提及任何内容安全或滥用防护措施

    是石科技成立仅5年(2021年),虽然清华系背景加持,但200+客户的具体留存率、付费深度、标杆案例效果未见披露,商业化验证尚不充分

    阅读导览

    点击跳转到正文区块

    NAV
    01提取事实↘02影响与价值↘03风险、机会与行动↘

    文章属性

    基建更新科技媒体公关声明

    关键实体

    公司
    是石科技清华大学
    技术
    KV CacheToken压缩AI Infra昇腾昆仑芯天数智芯太初瀚博半导体摩尔线程沐曦燧原
    人物
    闫博文

    影响对象

    受益方

    • 是石科技
    • 昇腾(华为)
    • 昆仑芯(百度)
    • 天数智芯
    • 太初
    • 中国智算中心运营商

    受损方

    • 传统AI Infra优化厂商
    • 缺乏国产芯片适配能力的模型部署平台
    • 海外芯片厂商在中国市场的推理优化服务

    同源文章

    上一篇商汤大装置联合近20家生态伙伴发起“银河计划”,将共建5个万卡级国产智算集群下一篇B站成WAIC官方AI科技视频平台,月均超1.9亿用户消费AI内容