一份不该被公开的账本

2026年10月20日，PyTorch Conf 开幕当天，DeepSeek 干了一件"掀桌子"的事：把支撑 DeepSeek-V4.1-Flash 服务的自研推理框架 DeepInfer 完全开源，并且——更罕见地——公开了生产环境的完整运营数据。

先看这份账本的核心数字：

  • 单集群日处理 155T token，约 2400 张 SM100/A950 规模的集群
  • 单张 prefill GPU 每秒处理 150 万缓存计入的输入 token，缓存命中率 96%
  • 单张 decode GPU 每秒输出 1.4 万 token
  • 按官方 API 定价折算，每张卡每小时营收约 38 美元，全成本（含电力、折旧、运维）仅 5-8 美元
  • 推理毛利率 超过 80%，单集群日进约 2200 万美元，回本周期 81 天

这些数字在行业里意味着什么？Latent Space 做了个换算：按这个效率折算约为每吉瓦（GW）算力每年 1660 亿美元的营收当量。而 DeepSeek 内部规划中向来以"10 个月回本"为投资纪律——现在推理毛利账本显示回本周期被工程优化压缩到了不足三个月。

过去两年，推理基础设施的账本一直是行业最高的机密之一。Fireworks、Baseten、Modal 这些独角兽的核心壁垒就是各自的 serving 栈；闭源大厂的成本结构更是只能靠外部分析师猜测。DeepSeek 这次把生产栈连同账本一起摊开，是推理竞争从"能不能服务"转向"每卡每度电能榨出多少有效 token"的标志性事件。

DeepInfer 到底是什么

技术上，DeepInfer 并不是从零造轮子。它基于 vLLM 深度定制，官方致谢了 SGLang 和 TRT-LLM 的启发。但定制深度不低，几个关键数字值得逐个拆解。

1. 提示缓存做到了 72 小时。 对比一下：OpenAI 刚刚宣布的提示缓存时长是 12 小时，DeepInfer 直接做到 72 小时。对 Agent 场景这意味着什么？现代 Agent 工作流往往在同一个长上下文上反复迭代——系统提示、工具定义、历史轨迹都是重复前缀。72 小时的缓存窗口基本覆盖了一个长任务的完整生命周期，第二次调用同一上下文时，96% 的输入直接命中缓存，prefill 计算量被砍到只剩增量部分。这就是"单卡每秒 150 万缓存计入 token"这个数字的来源：不是算得快，而是大部分根本不用算。

2. PD 分离架构。 Prefill 和 decode 是两种完全不同的计算负载——前者计算密集、后者访存密集。DeepInfer 把两者部署在不同 GPU 池上独立伸缩，各自跑在最优配比上。这已经是头部厂商的标配，但开源生产级实现此前是空白。

3. 皇冠宝石没有给。 需要泼一盆冷水的是，DeepInfer 的开源并不完整：其超长寿命的紧凑 KV cache、PD 分离调度和负载均衡等核心组件并未开源。社区评论精准地称之为"开源了弹道导弹，扣下了核弹头"。DeepSeek 此前开源的 3FS 文件系统可以配合使用，但想吃下全部生产效率，还得自己补课。

即便如此，这仍是开源社区第一次拿到一套经过 155T token/日级别生产验证的推理栈。vLLM 项目官方第一时间转发了致谢——对整个开源推理生态来说，这是把"生产级"的门槛从论文搬进了代码库。

为什么这比多模态新模型更重要

一个反直觉的判断：这份账本的技术含金量，可能超过同期大多数模型发布。

理由很简单。模型能力层面，前沿模型的差距在以月为单位收敛——你发一个新 SOTA，对手三个月内追平。但推理基础设施的效率差距是复利式的，且极难追赶：它来自 KV cache 管理的每一个字节、调度器的每一个启发式、PD 配比的每一次调优，是无数工程细节的乘积。80% 毛利与行业平均水平之间隔着的不是一次算法创新，而是几百个 1% 的优化叠乘。

更能说明问题的是时间点。同一天，OpenAI 宣布前沿模型登陆 Google Cloud Model Garden，模型本身在加速商品化——独占绑定时代结束，“有什么模型"不再是壁垒。当模型趋同，钱从哪里赚？从毛利里赚。而毛利由推理效率决定。

这就是"单位经济学时代"的含义：竞争焦点从模型榜单转向每度电、每张卡、每毫秒延迟能折算成多少有效 token 收入。DeepSeek 公开账本相当于把牌桌上的底牌亮了一张——所有人现在都知道 80% 毛利是可达的，不知道的只是怎么做。

三层冲击波

对云厂商和推理中间商：挤压开始了。 以前中小算力持有者只能用裸 vLLM 撑起一个勉强能用的服务，毛利被工程能力卡死在 30-50%。现在 DeepInfer 给了他们此前只有头部闭源厂商掌握的变现配方。可以预见：推理服务价格将全行业下探，那些靠"转售 GPU + 薄封装"活着的中间商，要么补上工程深度，要么出局。

对应用开发者：成本曲线再次陡峭下行。 72 小时缓存 + 96% 命中率，对 Agent 开发者尤其关键。Agent 的 token 消耗量是聊天机器人的百倍量级，prefill 成本曾是主要瓶颈之一。缓存窗口覆盖任务生命周期后，长程 Agent 的边际成本结构被改写——这会直接改变"什么应用在经济学上成立"的答案。原本算不过账的重 Agent 工作流（多步规划、大规模代码重构、自动化科研）现在可能算得过账了。

对 AI 行业的能源叙事：给了个乐观锚点。 “每 GW 算力年营收当量 1660 亿美元"这个换算，把"AI 会不会把电网吃垮"的讨论从情绪拉回了算术。如果每瓦特的 token 产出效率持续以这个速度提升，算力扩张的能源约束就远没有渲染的那么悲观——真正稀缺的是能把瓦特变成毛利的工程能力。

一点冷思考

当然，账本是官方自己报的，有几个需要保留的地方。

其一，155T token/日隐含的前提是需求充分。这个营收数字要求集群 24 小时跑在接近满载状态，而当前 DeepSeek 定价（$0.15/$0.60 每百万输入/输出 token）本身处于行业低位——低价换量撑起的账本，换成需求不足的区域市场未必成立。其二，80% 毛利没有计入模型训练的分摊成本——推理很赚，不代表整个模型生意的全周期回报率。其三，回本周期的前提是 SM100/A950 级别的卡能持续以合理价格拿到，供给约束下这个假设并不牢靠。

但即便打五折，结论依然成立：推理效率的工程红利刚刚进入兑现期，而且 DeepSeek 用开源把它变成了公共品的起点。

回看这一年，DeepSeek 的开源节奏形成了清晰的打法：3FS（存储）→ DSec（沙箱）→ DeepInfer（推理）。每一块都是"给你能复现的，留下我领先的那一截”。这种持续开源换来了生态位和标准话语权，同时逼着所有闭源基础设施厂商重新回答一个问题：当开源栈的账本摆在这里，你的溢价从何而来？

81 天回本不是终点，是行业的新的参照系。接下来 12 个月，看两个指标就够了：开源社区能不能把 96% 缓存命中率和 72 小时缓存在自己的集群上复现；以及闭源厂商的推理定价会不会被迫跟降。前者决定这份红利扩散的速度，后者决定谁为这场效率革命买单。