中国信通院:6月国内日均Token消耗约500万亿,模型服务提速但价格回升
据IT之家10月24日报道,中国信通院等机构联合发布《大模型词元服务性能监测报告(2026年)》。来源显示,2026年6月国内词元(Token)日均消耗量约为500万亿,是2025年12月的近4倍。随着大模型通过公有云API进入更多应用,服务能否稳定调用、响应是否及时,以及实际使用成本,正成为模型选型的重要考量。
这份报告由中国信通院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室、中国人工智能产业发展联盟联合发布,基于2026年1—8月监测数据,比较原厂官方平台,以及DeepSeek、Qwen、GLM、Kimi四款开源模型在第三方平台上的服务表现。
输出速度提升,首词等待与价格也在增加
报告呈现出一个值得注意的变化:模型生成内容更快,并不意味着用户等待第一段回答的时间更短。8月国内各模型平均TPS,即每秒输出词元数,达到78.23个,较2025年均值38.25个翻倍;国外典型模型同期均值为112.82个,整体仍高于国内。
与此同时,国内模型8月平均首词时延为1.26秒,高于2025年平均的0.78秒;国外典型模型8月为2.08秒,也高于4月的1.04秒。报告指出,时延上升不能简单视为性能退化,还与模型参数量、上下文长度和调用量增加等因素有关。
- 价格方面:国内模型服务2025年下半年归一化均价为6.8元,2026年以来为13.46元,接近翻倍;国外同期发布的典型模型平均归一价格约117.8元。
- 上下文方面:被监测模型中,支持百万词元上下文的占比为47.8%,支持200K及以上的合计占95.7%,较2025年底提高超过76个百分点。
- 开源服务方面:5月更新监测版本后,相关模型输出速度持续改善;8月DeepSeek-V4-Pro的TPS已达到DeepSeek-V3.2的两倍。
需要注意,以上价格为报告中的归一化比较指标,不能直接当作某款模型API的实际账单报价,具体成本仍需结合平台计费规则与使用方式判断。
选型影响:同一个模型,换个平台也可能改变体验
对开发者和企业用户而言,报告更具操作价值的发现是:模型名称相同,不代表服务性能一致。四款开源模型在不同平台上的输出速度、首词时延和调用成功率均存在差异,同一模型跨平台TPS差距最大可接近一倍,部分第三方平台的性能还优于官方服务。
报告将这种差异归因于各平台不同的推理加速、优化策略与成本控制。这意味着,选择模型之外,还需要选择合适的服务提供方。交互式助手更应关注首词等待和稳定性,批量生成任务则更重视吞吐速度与成本;长文档处理也不能只看上下文窗口,还要验证实际响应表现。
总体来看,国内Token消耗增长与服务能力提升同步发生,但价格回升、长上下文普及和平台性能分化,也让选型更复杂。对准备接入AI的团队,较稳妥的做法是用真实业务样本测试候选平台,同时核对成功率、时延和账单,而不是仅凭模型榜单或单一速度指标作决定。