推理基础设施的竞争长期停留在「能不能服务」的层面，成本结构是各家最高的商业机密。周四 DeepSeek 把自研生产推理框架 DeepInfer 完全开源（基于 vLLM 定制，致谢 SGLang 与 TRT-LLM），并罕见地公开了支撑 DeepSeek-V4.1-Flash 的全套生产数据：单 prefill GPU 每秒处理 150 万缓存含入 token、缓存命中率 96%、单 decode GPU 每秒输出 1.4 万 token，集群约 2400 卡、单集群日处理 155T token。按官方定价折算，每张 SM100/A950 卡每小时营收约 38 美元、全成本仅 5-8 美元，推理毛利率超过 80%，单集群日进约 2200 万美元、回本周期 81 天。框架支持最长 72 小时提示缓存（对比 OpenAI 同期宣布的 12 小时），PD 分离与负载均衡等核心组件暂未开源。
这份账本背后是解码内核的军备竞赛：本周 SemiAnalysis 披露英伟达 CentML 工程师用 Cute DSL 编写的 1.2 万行 Megakernel 融合解码内核，让 2.8 万亿参数的 Kimi K3 在 GB300 NVL72 相同硬件上达到每用户 423 token/s、性能提升 1.68 倍；Meta 公开的 Prometheus 超算则给出训练侧对应指标——预训练 goodput 超 85%、RL 训练超 90%、MTBI 从 4.7 万 GPU 小时经固件修复提升至 5.4 万以上。需求侧同步爆发：周日信通院数据显示 6 月国内词元日均消耗约 500 万亿，为 2025 年 12 月的近 4 倍——token 单价下降没有压缩市场，反而放大了总消耗。资本面呼应：DeepSeek 本周完成近 1000 亿元融资，宁德时代、腾讯参投，创国内 AI 公司单轮纪录。
对工程师有三层含义。其一，推理毛利透明化会压低全行业服务价格：中小算力持有者第一次拿到可被外部验证的变现配方，缺乏工程深度优化的 API 中间商将被挤出。其二，token 预算管理从优化项变成产品成本结构的决定性变量——72 小时缓存、词表特化（本周 VocabX 实测降本 77%）、模型分级路由应进入架构设计的默认清单。其三，开源推理栈与开放权重（DeepSeek V4.1 Flash 上周 MIT 开源、Kimi K3.1 Pro 承诺 11 月 4 日开源）互相咬合，「自部署一套有利润的模型服务」首次在工程上完全可行，企业推理选型的谈判坐标整体重构。
与 MiniMax M3.1 Flash（智能指数升 13 分至 42、价格再砍一半）共同印证中国大模型市场「性能跨代提升 + 单价持续探底」的双螺旋；也与上周 DeepSeek V4.1 Flash 以 0.2 美元/任务改写 Agent 成本结构的判断直接衔接——降本不是补贴出来的，是这套开源生产栈算出来的。
周五 Anthropic 发布研究预览版 Claude Duet：基于 Opus 5.5 的常驻式 Agent，每天早晨主动推送摘要、仅在需要时联系用户，任务在带浏览器的云端虚拟机后台执行，用户设备无需开机；经 Marketplace 的 6000+ 连接器接入 Gmail、Slack、Stripe 等，支付走 Stripe Link 虚拟卡。同日 Google 宣布 Agent Compute Engine：为每个 Gemini Agent 分配 Titanium 芯片加固的独立 microVM，空闲时自动暂停释放资源，配套开源的 Kubernetes 运行时 Agent Substrate 单服务器可容纳 10 倍 Agent，20 万 Agent 规模测试中暂停恢复耗时低于 500 毫秒。Agent 正式成为云平台与容器、函数同级的调度原语。反制面同步到位：Morgan Stanley 全面封禁外部 Agent 访问，JPMorgan、BofA、Citi 跟进限制，多数银行只放行只读访问；Symantec 捕获「Skynet 模式」攻击 Agent——劫持无防护大模型自主扫描、入侵、窃取凭据并植入挖矿程序，可运行至 10 万步无人工介入，蜜罐累计记录 12.7 万次请求；开源编码工具 OpenCode 平台被黑，攻击者直接盗刷用户 AI 账单。
Duet 的设计细节几乎是一份「常驻 Agent 安全清单」：凭据处理沿用 Managed Agents——Agent 不直接接触密码与登录令牌，发送消息、付款、签署文件三类敏感操作强制人类批准，并新增泄露筛查分类器。Google 的路线则从隔离与密度入手：硬件加固 microVM 保证单个 Agent 失陷不横向扩散，空闲即暂停的弹性模型直接压低常驻成本（VM 常驻成本正是 Agent 商业化最大变量）。银行封锁的本质是协议真空——「代用户行事」缺乏机器可验证的身份与授权协议，服务端无法区分 Agent 是代理人还是攻击者；而 Skynet 案例中五层越狱包装（假身份、把凭据窃取定义为「正常开发工作」、禁用伦理词表）说明攻击者已在系统性地解除商业模型的安全约束。
能力面趋同后，常驻 Agent 的差异化全在信任架构。对企业选型的直接指令：把「凭据托管方式、审批流粒度、注入与泄露防御」当作第一评估维度，而非模型分数。对平台方：Agent 身份与授权协议（OAuth 扩展、Agent 凭证体系）是明确的空白市场，谁先做出被金融机构接受的标准，谁就拿到高价值场景入口。对自建 Agent 的团队：零信任最小授权、敏感操作人工闸门、外发内容审计三件事从「建议」升格为「上线前置条件」——本周 OpenCode 与 Skynet 已经演示了缺角的代价。
与周五 IBM ALTK-Evolve（结构化记忆让中型模型登顶 τ²-bench）、周二 Meta 瘦编排器同属一条主线：当模型原生能力增长放缓，系统层设计——隔离、路由、记忆、审批——成为决定生产成败的变量。Duet、Muse、Dots、Grok Bot 四强格局也预示常驻 Agent 将是 2027 年消费级 AI 的主战场。
此前判断（本周三、周四日报）：当模型原生能力增长放缓，外围组件的系统化优化是投入产出比最高的方向。本周证据链完整闭环：周五 Google 以 Apache 2.0 开源 Harness²（arXiv:2610.14224），不改模型权重、只递归改写系统提示/护栏/记忆/工具指引等 8 个外围组件，GLM-5 与 Gemini 3.5 Flash 上单步即超越各自基线 Harness，且经验可跨任务迁移；周四 Claude Mods 让第三方代码以中间件形式介入 prompt、工具调用与渲染，Anthropic 自身功能也以 Mod 交付——harness 平台化。但周日 arXiv 2610.04433 的对照研究给出必要校准：5 个模型跑过 Claude Code、OpenCode、mini-SWE-agent 三种 harness，447 任务池上通过率差距不足 2 分，换 harness 的波动（13%）与单纯重跑相当，换模型才是 22%，最重 harness 还多耗 2-3 倍 token。两组合并的结论很清晰：harness 是杠杆不是银弹——把 harness 优化做成可度量的自动化流程（Harness² 路线）收益显著，在现成 harness 之间反复横跳则基本是噪声交易。
此前判断（上周日日报）：DeepSeek V4.1 Flash 开源标志着前沿能力与前沿价格解耦，开放权重推理基础设施提前布局者将获窗口红利。本周验证与加速并存：周六 Kimi K3.1 Pro 发布，AA 智能指数 55 分升至第四、距 Claude Opus 5.5 仅 3 分，Terminal-Bench 4.0 达 65.7% 超过 GPT-6 Astra（58.2%），幻觉率从 23.4% 降至 8.3%，官方承诺 11 月 4 日前开源权重——届时将成为最高分开放权重模型；DeepSeek 同周完成近 1000 亿元融资并把生产推理栈 DeepInfer 开源，OpenAI 前沿模型则登陆 Google Cloud Model Garden、微软仍为首要伙伴，闭源独占绑定彻底松动。加速信号明确：模型层加速同质化，推理成本与数据主权取代基准分数成为选型主变量；企业私有部署与云端顶配的性能差进入个位数分差，成本敏感场景的开源迁移阻力大幅下降。
此前判断（本周二日报）：AI 编码量暴涨正在冲击为人类开发者设计的传统工具链。本周证据从工具链蔓延到组织与人才：周二雷峰网报道 Anthropic 内部代码量暴涨、GitHub 密钥扫描服务在高负载下又慢又贵，两家被迫改造系统；周四 GitHub 工程博客披露已把 99.99999% 仓库在自有机房与 Azure 间双活、约一半 Git 流量由 Azure 承担，改造 Spokes 写入 quorum 以突破 25ms 延迟——直接动因就是 Agent 流量指数级增长；周六哈佛基于 Jellyfish 平台对 718 家企业的研究显示，AI 显著增加代码产出但净生产力未提升，瓶颈转移到 review、维护与集成；周一 Anthropic 内部数据（Agent 工时 6:1、初级技术新聘占比 27%→9%）与周日 133 名专利律师的三个月田野实验（初级者即刻变强但可能跳过技能形成期）从雇佣侧给出同一信号。工程含义：投入 review 自动化与测试基础设施的回报，可能高于再买一个编码助手；新人培养路径需要显式设计，不能寄望「边用 AI 边学」。
此前判断（本周四日报）：AI 挖洞速度已把漏洞响应体系拉到承受极限，传统单维护者式披露流程难以为继。本周后半段防御侧给出三条新路径并全部落地：周四 Anthropic 发表攻击面缩减研究——让 Claude 映射代码可达性、把不该暴露的代码移到认证之后，25 个开源项目发现 493 个问题，成本远低于逐洞修补；周六更进一步，与 Theorem 合作对 123 个真实开源库在 RISC-V 汇编层证明安全属性（小于 64MB 任意输入不触发内存错误），还发现了躲过数万亿次 fuzz 的存量 bug，部分证明已在 GitHub 开放——对比 seL4 验证曾耗 20 人年，「证明无 bug」的成本正陡降；配套的 OSS Scanner 把 AI 审计变成免费常态服务。进攻侧同日，OpenAI Patch the Planet 用 GPT-5.6 Sol 发现 PHP 互联网级关键漏洞并承诺 10 亿美元补贴防御方。综合判断：附证明的软件可能成为供应链采购新标准，安全关键项目的验证预算该重估了。
Meta 分享的生产案例起点很典型：单个「全知」Agent 在跨 3 个代码库、3 种语言、6 阶段的数据管道任务中因上下文过载出现概念串扰与幻觉，手工调优提示词成功率仅 70-80%、不调优跌至 10-20%。解法是把编排层削到最瘦：只做意图分类、字段收集、可靠性检查与分发，零领域推理，全部领域工作交给 14 个上下文严格隔离的专家子 Agent。为什么有效：错误传播随上下文复杂度超线性增长，隔离即质量——引用的 Mount Sinai 研究显示多 Agent 编排在 80 任务批次下保持 65.3% 准确率而单 Agent 跌至 16.6%，token 消耗最多降 65 倍。落地要点：编排器保持「愚蠢」（不推理只路由），专家 Agent 的上下文边界按任务阶段而非模型能力划分，可靠性检查作为路由的前置闸门。这与 ALTK-Evolve（8.5B 模型靠结构化记忆登顶 τ²-bench）共同指向同一工程原则：能力补偿优先靠架构，不靠换更大的模型。
Dharma-AI 的实践瞄准一个被普遍忽视的成本杠杆：领域专用小模型的 tokenizer 常被当作不可动的基座属性，实际是最大的浪费源之一。其生产环境的葡语作文评分器基于 Qwen3-4B，输出 JSON 评估被通用词表（151,669 词条）切得过碎，且每个生成 token 都要对全词表打分——解码计算量与词表规模线性相关。VocabX 的做法是按成本而非词频重建词表，保持基座模型、数据与训练配方完全不变，实测推理成本下降 77%。为什么有效：垂直应用的输出分布高度集中（固定 JSON schema、单一语言），通用词表里绝大多数词条在该分布上概率质量可忽略，却持续摊薄 softmax 计算与 KV 缓存效率。适用边界明确：单一语言、单一响应格式的场景收益最大；与量化（压缩权重）和蒸馏（压缩模型）正交，可叠加使用，且比两者更前置——它改变的是每个 token 的计算分母。
GitHub 详解新一代存储架构过渡，是难得的一手超大规模案例。驱动因素：Agent 流量指数级增长 + 自建数据中心电力上限。现状：五副本中两份在 Azure、约一半 Git 流量由 Azure 承担，99.99999% 仓库已双活。剩余最繁忙仓库卡在 25ms 往返延迟上——同步写五副本必须等最慢者。方案分两步：改造 Spokes 写入 quorum 序列化机制，不再等待全部副本确认；让副本不持久化状态、读取走对象存储独立扩展，存储与计算彻底分离。可复用的经验有三：迁移以「双活」而非「切换」为目标，风险按仓库流量分层消化；延迟墙要靠协议改造而非网络优化突破；无状态副本 + 对象存储读取让扩展单元解耦。对任何做存储/计算分离或面临 Agent 级流量增长的平台团队，这篇文章值得精读。
本周主线：推理生意第一次有了可验证的开源账本——DeepInfer 的 80% 毛利、81 天回本与词元消耗半年 4 倍，把「token 经济学」从口号变成可复算的工程；常驻 Agent 四强开战，但银行封锁、Skynet 劫持与 OpenCode 盗刷同周证明：信任层（凭据托管、审批流、隔离与身份协议）才是护城河；能力增长的重心继续从权重移向 Harness 与记忆层——优化 harness 收益显著、换 harness 基本是噪声；安全范式转向攻击面缩减与汇编级形式化验证，「附证明的软件」正在成为可能的新采购标准。