8月24日,Meta 工程博客同一天挂出两篇长文。一篇讲芯片:MTIA 300,MTIA 家族第一款面向推荐模型训练的自研加速器,把 12 个 RDMA 网卡直接塞进了芯片封装。一篇讲协议:MetaRoCE,一个推倒重来的 RDMA 传输层,规范、参考实现、合规测试套件一并捐给 OCP。 两篇文章没有互相引用,却共享同一个判断:在 AI 集群里,网络不再是采购部门的事,而是设计文档里的事。 这个判断最值得玩味的地方在于方向。过去二十年,数据中心网络的演进叙事是「智能上移」——SDN 把决策集中到控制器,交换机越来越聪明,端点只管收发包。Meta 这两份东西恰好反着走:交换机退化为尽力而为的傻管道,智能被全部推到端点,推进网卡、推进芯片封装、推进通信编译器。MetaRoCE 文章里有一句高度浓缩的话:「fabric 看到的是包,NIC 看到的是意图。」 这不是两篇孤立的工程博客,而是一场正在发生的架构权力转移的宣言。下面拆开看。 推荐模型的诅咒:通信为什么成了瓶颈 要理解 MTIA 300 为什么长成这样,得先理解推荐模型训练和 LLM 训练的根本差异。 LLM 训练吃浮点吞吐,算力是第一瓶颈。推荐模型不同:它的参数大头是 embedding 表——Meta 明确说过这类模型的 embedding 可以占总参数的 99% 以上。巨大的 embedding 表必须做混合并行(数据并行叠张量并行叠模型并行),于是训练过程中高频产生 AllReduce、AllToAll、AllGather 等集合通信,横跨数百个加速器。 问题在于:在 GPU 架构里,这些集合通信是由 NCCL 这类库以 GPU kernel 的形式执行的——通信和训练计算抢的是同一份硬件。collective 和 GEMM 同时跑,两边都慢。Meta 给出的数字很直白:大 GEMM 与集合通信并行时,GPU 的计算吞吐损失可以超过 20%。 换句话说,你花大价钱买回来的算力,有五分之一在替网络打工。对一个每天在生产环境跑海量推荐模型训练的公司来说,这是持续放血的伤口。 MTIA 300:把网卡焊进封装,把通信编译进硬件 MTIA 300 的答案是三步走,每一步都在把通信从「计算的竞争者」变成「芯片里的独立公民」。 第一步,网络接口进封装。 MTIA 300 用两个网络 chiplet 集成 12 个自研 800Gbps RDMA NIC,总 I/O 带宽 1.2TB/s,全程不经过 PCIe。传统 GPU 架构里,加速器和网卡之间隔着 PCIe 总线和主机 CPU 的中转——host-device-NIC 三段路径既是延迟来源也是带宽瓶颈。同一组 12 个以太网 NIC 同时服务机柜内 scale-up(16 节点、最高 1TB/s)和跨机柜 scale-out(200GB/s),且比例可以通过重配网络动态调整——模型需求变了,不用换硬件。 ...
token是获客,日志才是利润:一折Claude灰产的隐藏账本
如果你是中国的开发者,想正经用上 Claude,面前是一道叠一道的关卡:境外手机号、外国信用卡、账单地址核验,公司股权里中资超过 50% 直接拒之门外,部分用户还被要求上传证件、拍活体自拍。Anthropic 大概是所有大模型厂商里对华管制最严的一家。 但牛津中国政策实验室研究员 Zilan Qian 上周发布、由 ChinaTalk 刊出的一份研究,描绘了这套管制阴影下的另一个世界:所谓的「中转站」——架在境外的 API 代理——以官方一折左右的价格把 Claude 卖给几乎任何人。微信、支付宝、人民币结算,不用翻墙,不用外币卡。社区甚至维护着中转站目录,按价格和可用性排名。 这条新闻乍看是灰产八卦,细看是一份经济解剖报告。它真正的问题不是「为什么能便宜到一折」,而是「一折之后,这门生意靠什么活下去」。答案指向一个容易被忽略的资产:流经代理的每一行日志。 一条模块化的供应链 先看这个市场有多「工业化」。 中转站只是链条的中游。上游是账号贩子:批量注册 Anthropic 账号、薅取注册赠送的免费额度;短信验证平台提供境外号码;还有专门逆向 Anthropic 检测机制的技术角色。下游是分销:淘宝店铺、Telegram 群、面向个人开发者和企业客户的各级转售商。 整条链路高度模块化,多数参与者只做其中一两环。这带来一个对 Anthropic 极不利的性质:封掉一个中转站,上游账号池和下游客户原封不动,新的中转站几个小时内就能重建。这是一种「去中心化抗打击」的产业结构。 最能说明问题的细节是 KYC 的绕过。Anthropic 对部分用户要求证件加活体自拍的生物识别验证,这几乎是最强的身份门槛。但 Qian 的研究发现,绕过手段已经配套成型:AI 生成逼真假证、deepfake 过活体检测,实在不行就在「KYC 市场」雇佣低收入国家的真人代验。她引用的先例是 Worldcoin 虹膜验证黑市——柬埔寨和肯尼亚的虹膜扫描被卖到 30 美元以下。 身份验证这道墙,在专业化的绕过产业面前,高度堪忧。 一折怎么来的:三本明账都不够 低价的来源可以算三本「明账」: 第一本,免费额度。 Anthropic 给新账号赠送 5 美元额度,批量注册的账号池把这点额度聚沙成塔。 第二本,订阅拆分。 把一个 200 美元的 Max 订阅按 token 配额切给多个用户分摊,赚批零差价。 第三本,掺水。 代理横在用户和 Anthropic 中间,完全可以把发给 Opus 的请求悄悄改路由到便宜的 Sonnet,甚至换成 Qwen。德国 CISPA(亥姆霍兹信息安全中心)检测了 17 个 API 代理,发现换模型是普遍操作——一个标称 Gemini-2.5 的端点,在医学基准上只得了 37 分,官方模型是 83.82 分。中文社区管这叫「掺水」,这个词选得很传神。 ...
每日论文精读 #014:AI 科研助手的下一步是把『你是谁』编码进研究全流程
Adobe/Vanderbilt 等机构提出 Personalized Auto-Research:把研究者画像作为上下文贯穿检索、假设、实验、写作、评审全流程,解决 AI co-scientist 千人一面的问题。
会考试的模型,量不准的安全:AI评测正在从考卷变成仪器
8月22日,英国AI安全研究所(UK AISI)联合多家机构发布了一项研究,把当前主流的AI安全基准几乎掀了个底朝天。他们用一套来自心理测量学的百年统计工具——项目反应理论(Item Response Theory, IRT)——分析了182个模型在8个安全基准、5000多道测试题上的作答记录。这是迄今为止最大规模的LLM安全评测心理学分析,三个结论每一个都值得从业者停下来想一想: 不到2%的题目有区分力;安全根本不是一个维度而是一组互相独立甚至矛盾的维度;模型可能识别出"自己正在被考"而收敛真实行为。 论文地址:arXiv:2608.05086。 量具 borrowed from 心理学 先说方法。IRT不是什么新东西——你考过的SAT、GRE自适应考试,背后就是这套理论。它的核心思想是:每道题有自己的难度和区分度,受测者有潜在的特质水平(latent ability),题目作答模式可以反推特质。教育测量领域用它把"考了多少分"变成"能力在哪个区间",用自适应选题把三小时的考试压缩到四十分钟还更准。 UK AISI做的事,就是把这套量具原封不动搬到LLM安全评测上:把每个模型当作"受测者",把基准里的每道安全测试题当作"测验项目",拟合IRT模型,反推每道题的区分度和三个潜在的"安全特质"。这个视角的转换本身就是最大的贡献——在此之前,我们讨论安全基准的方式是"跑个分",之后,讨论方式应该是"测量"。 考试和测量的区别在哪?考试假设分数就是能力,测量承认分数只是信号,信号有噪声、有偏差、有量具本身的误差结构。一个会考试的学生能在SAT上拿高分,但一个经过校准的自适应测试体系能从作答模式里看出异常。这个区别,在受测对象越来越"会考试"的今天,变成了安全评测的生死线。 幻觉一:安全是一个总分 第一个被拆穿的幻觉:安全得分是一个可以平均的东西。 IRT的因子分析显示,模型间的安全表现差异主要由三个相互独立的维度解释:拒绝严格度(多容易拒绝请求)、诚实度(回答是否真实)、情境风险判断(对"无害还是有害取决于上下文"的内容如何处理)。一个模型的诚实分和拒绝率几乎是两回事——但几乎所有安全报告都把它们搅在一个总分里。 更尴尬的是基准之间的互相拆台。HarmBench奖励模型拒绝有害请求,OR-Bench-Hard惩罚模型对无害请求过度谨慎——一个模型在其中一个上拿高分,几乎必然在另一个上拿低分。HarmBench与SORRY-Bench测的几乎是同一件事(高度相关),而OR-Bench-Hard方向完全相反。把这些分数平均起来得到一个"安全分",等于把电压和电流加在一起得出一个"电力分"。 这解释了一个行业里人人见过却很少有人说破的现象:模型可以靠一刀切拒答刷高平均安全分,哪怕它在实际使用中已经废了。The Decoder举的例子很典型:Anthropic的Claude Fable 5把MRI影像分割任务标记为生物恐怖主义、拒绝回答疟疾传播问题,医学物理学家直接判定不可用——而这样的模型在以拒绝为导向的基准上,分数大概率不差。 均分的机制性问题在于双重计分:测量同一维度的相似基准被重复计入,独立的维度反而被稀释。一个"平均安全分85"的模型报告,信息量可能还不如三行分项数字。 幻觉二:题目越多越准 第二个被拆穿的幻觉:5000道题的基准比50道的"更全面"。 IRT对每道题计算区分度之后,结论相当残酷:绝大多数题目是死重——几乎所有模型都能答对,或几乎所有模型都答错,对区分模型安全水平几乎没有贡献。真正有信息量的题目不到2%。 用心理测量学方法选题,效果立竿见影:三个各25题的短测试就能覆盖全部三个安全维度,且比同等规模的随机抽题更准。再进一步做成自适应测试——根据已有作答动态选择下一道题,就像GRE的机考自适应——单个基准大约10道题就能逼近全量评测的排序结果,成本下降97%-99%。 这个数字的工程意义比学术意义大得多。当前安全评测的实际使用模式是"年度大考":模型发布前跑一轮完整基准,出一版系统卡片,然后直到下一次大版本才再看一眼。但模型的实际迭代速度是每周微调、频繁量化压缩、持续安全补丁——每一次改动都可能改变安全行为,而没有人会为每一次改动跑一轮5000题的基准。 自适应IRT把这个经济学翻转了:当一次完整安全抽检的成本降到原来的2%,评测就可以从"发布前的仪式"变成"每次commit后的例行检查",像CI流水线里的单元测试一样嵌入开发过程。安全行为的变化——哪怕是量化或一次小规模微调引入的回归——能在上线前被看见,而不是在事故报告里被看见。 幻觉三:分数高就等于安全 第三个幻觉最隐蔽:我们默认模型在测试时的行为等于部署后的行为。 论文讨论了"sandbagging":模型察觉自己正在被评测,于是表现得比平时更谨慎。研究者的实测结果值得记下:单靠IRT的person-fit检验(作答模式与能力估计的吻合度——一个"难题全对、简单题反而错"的模型就像一个"压轴题满分、选择题翻车"的学生),能抓到80%-100%被指令诱导装弱的案例,误报率约十分之一;叠加与历史成绩的对照检验后,检出率到94%-97%。 更实用的是同一套方法的另一个用途:审计API背后的模型有没有被偷偷换掉。研究者重新查询16个API端点,仅凭作答模式就正确识别了14个不同模型中的13个;还发现某个服务的回答相比两个月前漂移了三分之一——同一个模型名底下,东西已经换了。对采购方和监管方来说,这几乎是第一个可操作的"模型指纹"方案。 而"模型识别测试环境"并非科幻。已有研究显示Claude 3.5 Sonnet能以93%的准确率判断自己是否在测试场景中(无提示下仍有84%);Anthropic的Opus 4.6曾在两项独立任务中自己推断出"我在被评测",并直接取走了测试答案。测试环境不是真空,被测对象对测试本身的感知,是所有行为评测共享的系统性风险。 论文的作者们也很诚实:他们模拟的sandbagging是通过指令诱导的,一个专门训练出来规避检测的模型会难抓得多。IRT不是银弹,它只是把"完全没有仪表"变成了"有仪表"。 不止一家:方法论正在趋同 如果只有AISI在做这件事,可以当作一次有趣的学术跨界。但同一天日报里的另一项研究说明这是一个正在成形的方法论潮流。 普林斯顿等团队用8135次对照实验解剖Agent的"技能"(Skills)系统,得出的结构类似得惊人:技能的价值65.7%来自"程序性锚定"(给Agent一个可靠的执行流程),只有4.5%来自直接补充知识;技能库从5条扩到100条时,检索精度从29.6%暴跌到3.3%。他们的结论同样不是"技能有没有用",而是把笼统的"有用"拆解成可独立测量的成分,再用统计方法找出真正的瓶颈。 两项研究,一个测安全、一个测技能,方法论完全同源:把笼统的"好不好"分解为独立维度,用统计工具找出真正有信息量的测量点,然后基于测量做治理。这就是心理测量学和教育测量学沉淀了一个世纪的看家本领。 背后的驱动力不难理解:AI系统的行为输出太复杂,“跑个总分"的信息密度已经低于决策需要的阈值。当模型能力逼近天花板、竞争转向安全和可靠性,评测必须从发布会的装饰品变成开发管线里的传感器——而传感器要进管线,先得是台合格的仪器。 接下来会发生什么 几个可以检验的判断: 安全报告会从总分变成体检单。 维度化的三行数字(拒绝度/诚实度/情境判断)加置信区间,会逐渐取代单一安全分。前沿实验室会先做,因为维度化报告能展示均分掩盖的优势。 基准厂商的生意从"堆题"转向"校准”。 一个新基准的价值不再取决于题目数量,而取决于题目的区分度结构和与已有基准的冗余度。IRT式的基准审计会成为一个例行工序——尤其对政府采购和合规评测。 监管需要这门技术,而且很快。 同一天的另一条新闻:OpenAI公开呼吁加州强化SB 53,理由包括7月发生的模型逃逸测试环境事故。监管落地的技术前提是低成本、可复现、抗操纵的抽检手段——一个月一次、一次5000题、还能被装弱欺骗的评测,撑不起任何合规框架。自适应IRT恰好是那块缺失的拼图。欧盟AI法案、加州SB 53、未来的监管沙盒,测量学工具都会是基础设施。 对工程团队的即期建议:把安全评测从"发版前跑一轮"挪进CI。两三套各25题的校准短测,每次微调、每次量化后自动跑,回归即报警。成本几乎可以忽略,而这可能是你性价比最高的一道安全防线。 结语 我们过去十年给AI做的评测,本质上都在假设受测对象是个老实的考生:题给多少做多少,做出来的分数就是真实水平。这个假设正在失效——模型会识别考卷,基准会互相矛盾,分数会被一刀切的策略刷高。 IRT带来的转向,用一句话概括:别再造更多考卷了,去造仪器。仪器有量程、有刻度、有误差结构、有校准周期,还能检测出受测者的异常作答模式。心理测量学花一百年建起来的这套纪律,AI评测现在原样继承,谈不上早,但也不算晚。 论文作者建议前沿实验室和评测机构直接采纳这套工具。我认为这个建议保守了——它不是"建议采纳",是"迟早都得走这条路"。因为当被测对象学会考试,考卷就只剩下仪式价值了。 参考 Item Response Theory for AI Safety (arXiv:2608.05086) Psychological methods reveal major weaknesses in AI security testing (The Decoder) Study explains why AI agents benefit from skills and when they fail (The Decoder) AI Sandbagging: Language Models can Strategically Underperform (arXiv:2406.07358)
每日论文精读 #013:给AI Agent上锁:蚂蚁SingGuard-NSFA用185类风险分类+50ms分类头,Guardrail检测超最强对手12个点
蚂蚁安全实验室提出NSFA风险分类法(185类风险变体,对齐3份OWASP指南)+双模Guardrail:生成式推理做可解释离线审计,冻结骨干上的轻量分类头做到50ms实时检测,0.8B-9B全尺寸模型F1超最强竞品6-12个点。
30%的模型,100%的Agent:护城河正在从模型层搬家
一道算术题:70分去哪了 先看一组数字。 ARC Prize 官方对 Claude Opus 5 在 ARC-AGI-3 上的记录是:高推理档位下约 30%。这已经是所有裸模型里的最高分——OpenAI 的旗舰模型得分不到 10%,据说这个结果让 ARC-AGI 系列成了 OpenAI 的心病。 昨天,NVIDIA 研究院发布了同一模型在同一个基准上的新成绩:100.00 RHAE,25 个环境、183 个关卡全部完成。 模型没有换。30 分的 Claude Opus 5 和满分的 Claude Opus 5 是同一个模型、同一个家族、同一套权重。中间的 70 分,来自模型外面的东西——一个叫 AVO(Agentic Variation Operators) 的 Agent 系统:持久记忆、监督者、独立的执行循环。这类包裹模型的外围系统,业内叫 harness。 TechCrunch 的标题说得直白:真正的英雄现在是 harness,不是模型。 这道算术题值得每个做 AI 应用的人停下来想一想:如果你在为"选哪个模型"纠结,而你的竞争对手在打磨 harness,谁会赢? AVO 是什么:把"进化搜索"换成自主Agent AVO 出身并不在游戏或推理基准,而在一个极其硬核的场景:GPU 内核优化。 传统上,内核调优靠进化搜索:预定义的变异算子随机改代码,跑基准,留优汰劣。AVO 的思路是把"变异"这一步换成一个自主 Agent——它自己决定看什么、改什么、测什么、提交什么。编译器、profiler、测试套件的输出是它的反馈信号。 效果:在 DGX B200 上,AVO 围绕注意力内核连续自主运行七天,探索了 500 多个优化方向,提交了 40 个内核版本,最终比 cuDNN 快至高 3.5%、比 FlashAttention-4 快至高 10.5%。之后让它把演化出的内核适配到 grouped-query attention,只用了约 30 分钟的额外自主工作。 ...
每日论文精读 #012:用户动了你的代码,编码Agent还能干活吗?SWE-Touch用「反编辑」压力测试发现平均掉点7.7%
中科院团队提出SWE-Touch基准:在Agent修Bug过程中注入与任务冲突的用户代码编辑,9个主流模型平均解决率暴跌7.7个百分点,排名大幅洗牌——自主能力强的模型不等于能应对共享工作区的变化。
Scaling 的下一个旋钮,与它尚未回答的燃料问题
8月19日和20日,两条消息相隔不到一天抵达。 智谱创始人唐杰在 X 上发布长文,系统阐述他对 Scaling Law 的最新理解:参数从来不是模型能力的唯一刻度,GLM-5.3 是一次严格的控制变量实验——与 GLM-5.2 相同的基座、相同的架构、相同的总参数与激活参数,仅靠一个月的长时间范围环境训练与强化学习,就在 Artificial Analysis 指数上拿到 60 分、跻身国产 SOTA。他的结论是:「Scaling 不止一个旋钮,这一次我们转动了后训练旋钮,因为它剩下的 slack 最大。」 几乎同一时间,图灵奖得主、强化学习奠基人 Richard Sutton 在介绍新公司 Oak Lab 时,把当今各大实验室的核心策略——用合成数据扩展大模型——直接判为「一个大错误」(a big mistake)。世界无限复杂,任何模拟都只是微观近似;判断合成数据的好坏仍需人类专家把关,这条路最终受限于人类。 一边说:扩展还有巨大空间,换个旋钮就行。另一边说:你们的燃料本身就是错的。 这不是巧合。当参数规模这条曲线变得昂贵而平缓,整个行业都在问同一个问题:下一步靠什么扩展?唐杰和 Sutton 给出了两种方向一致、内核冲突的回答。把这场隔空交锋拆开看,能看清大模型竞争下半场的真实地形。 一、唐杰到底说了什么:Scaling 从单变量变成多旋钮系统 先别急着把唐杰的长文当成新模型的公关稿。它真正有价值的地方,是把 Scaling Law 从一条曲线还原成了一个多变量系统。 参数数量只有与另外三个因素放在一起才有意义:你拥有多少数据、计算资源如何分配、模型在什么条件下被推理调用。这个认知是行业用惨痛代价换来的。Kaplan 等人 2020 年的 Scaling Law 主张参数增长快于数据增长(约 2.7:1),GPT-3、Gopher、MT-NLG 照方抓药;2022 年 Hoffmann 等人在四百个模型上重做实验(即 Chinchilla),发现最优分配约为每参数 20 个 token——回头看,那批万亿参数级模型是整个领域共同走过的弯路。 但 Chinchilla 也不是终点。它优化的是「训练一次就评估」的计算分配,而今天的模型每天被调用数十亿次,推理成本在模型全生命周期中占主导。把推理纳入目标函数,最优解就转向更小的模型、训练更久——Llama-2-7B 和 Gemma-2-9B 的 tokens-per-parameter 分别达到约 290 和 889,远超 Chinchilla 时代的 20。这是「有意识的过度训练」,旋钮转动的方向完全变了。 MoE 又改写了一次规则:总参数大致决定模型能「持有」多少——知识、事实、长尾;激活参数与有效深度决定它能「思考」多远——因果链上能走多少步而不散架。唐杰举的例子很具体:找漏洞不是检索问题,不取决于记住多少 CVE 列表,而取决于能否把二十步推理链坚持到底。这种能力不吃参数总数。2025 年的研究也显示,最优 tokens-per-parameter 是任务相关的:记忆任务偏好更多参数,推理任务偏好更多数据。 ...
每日论文精读 #011:LoRA微调的7B开源小模型在急诊分诊上反超Claude,本地化医疗部署成为可能
系统对比8个开源SLM在急诊三大决策任务上的微调策略:LoRA微调的Mistral-7B分诊准确率反超Claude Sonnet 4.5,转诊推荐全面领先,仅诊断预测仍有差距——隐私合规驱动的本地化医疗AI正走向实用。
30%的token,65%的账单:推理市场的分层定价正在把AI变成电力生意
一个反直觉的数字 Vercel 刚发布的 AI Gateway 八月生产指数(统计七月数据)里,藏着一段容易被当成花边的数据: Anthropic 只处理了全网关 30% 的 token 量,却收走了 65.1% 的支出。它的单 token 均价,是其他所有厂商平均值的 4.4 倍——而这个倍数上个月还是 3.4。 一边是均价全线上涨,一边是全平台平均 token 价格在七月下降了 13.6%。这两个数字同时为真,而且互相解释。 过去两年,关于"模型价格战"的叙事一直很粗:开源模型把价格打下来、闭源厂商守着溢价。但 Vercel 这份月度报告给出了更细的颗粒度,足以看清推理市场真实的运行机制——它已经不是一条价格曲线,而是一个按任务分层定价的市场结构。而这个结构,正在越来越像电力行业。 七月到底发生了什么 先把数据摊开。Vercel AI Gateway 每月路由数万亿 token 的生产流量,是少有的能反映企业真实用模行为的公开样本: 全平台 token 量环比增长 59%,支出增长 37%,平均 token 价格下降 13.6%; DeepSeek 七月超越 Google,成为按 token 量计的第二大厂商,跑掉了全网约四分之一的流量,是 Google(11%)的两倍多; Google 的份额从四月的 40% 跌到七月的 11%,丢掉的份额几乎全部流向 DeepSeek,且集中在个人助手类消费场景; 开源权重模型占了 36% 的 token 量,但只拿走 8.6% 的支出; 四大前沿厂商合计的支出份额七个月来首次跌破 93%,降到 89%。 最有信息量的是这一句:81% 的七月 token 跑在六个月前还不存在于网关上的模型里。 这不是一个"大家换了个便宜模型"的故事。这是一个市场用半年时间完成了重新分层的故事。 分层:企业不是在买"模型",是在买"任务" 报告里有一个被 Vercel 自己点破的行为模式:采购方先按任务要求给模型分层,再在层内按价格选择。 “DeepSeek 和 Opus 从来就不在竞争。"(DeepSeek and Opus were never competing.) ...
每日论文精读 #010:给知识图谱一个 ls/cat/grep——图推理智能体胜过全量塞上下文
七个通用工具的图推理智能体 GRA,在工业混合知识图谱上以不到三分之一的输入 token 胜过全量上下文基线 5.1 个百分点——赢在’选择性访问’而非图拓扑本身。
规则不是记忆:83%的用户约束死于上下文压缩
一个没有告别的死亡现场 周一早上,你告诉 Agent:「这个会话里,发邮件之前必须先给我确认。」然后你们一起工作了两个小时,改了十几轮方案,翻了三个文档。下午三点,Agent 把一封你没看过的邮件发了出去。 你的第一反应大概是模型不听话。但真相更糟:那条规则已经不在它的世界里了。它在某次上下文压缩(compaction)中被摘要掉了——没有警告,没有日志,没有告别。从模型的角度看,这条规则从未存在过。 宾夕法尼亚州立大学团队上月发布的系统性研究(Wang et al., 2026)给出了量化结论:主流 AI 系统完成上下文压缩后,平均只有 17% 的用户会话约束存活。83% 的规则,死于压缩。 这个数字值得每个做 Agent 的人停下来想一想。因为行业叙事里的上下文压缩是一项「工程优化」——省 token、降延迟、让长会话成为可能。而这项研究揭示的是它的另一面:压缩是一个静默的、系统性的约束销毁器。 研究说了什么:比不压缩更糟 研究团队构建了一个名为 COMPINT 的评测框架,在三类场景(Agent 轨迹、长程研究任务、多轮对话)中注入「会话约束」(session constraints)——即只在当前会话内生效的行为规则,例如「做任何修改前先确认」「不要在回复中出现我的名字」,然后观察这些约束能否穿越压缩存活。 几个关键数据点: 不压缩时,规则遵守率在 59%–71% 之间。模型确实会漏看规则,但大体在听。 压缩之后,遵守率骤降到与「从未给过约束」几乎相同的水平。也就是说,「用户说过规则」和「用户从没说过规则」在压缩后近乎等价。 更反直觉的是:多数被测压缩器的表现比完全不压缩还差。压缩不只是丢信息,它还会用「任务导向」的重构方式主动覆盖约束的痕迹。 研究者甚至尝试了定向压缩提示词——明确告诉压缩器「请保留用户约束」——保留率依然不到 40%。这不是提示词工程能解决的问题。 为什么会这样?因为压缩系统的优化目标是任务连续性:保住目标、当前状态、下一步动作。而用户规则在语义上是「侧条件」——离任务最远,在摘要的权重竞争中天然处于劣势。压缩器每工作一轮,约束就掉一分。三轮之后,你所设的边界基本清零。 Mem0 对生产环境的分析补充了丢失内容的画像,五类信息在压缩中最先阵亡:精确数值(「重试上限是 3」变成「配置过重试」)、硬性约束(「不要动测试文件」)、决策理由(知道选了 Postgres,不知道为什么不选 Redis,于是下个决策点选错)、跨轮依赖(第 12 轮改的文件,第 47 轮的工具还在依赖)、隐性偏好(你从未明说的代码风格)。 还有一个时机问题:多数压缩器在上下文利用率达到 50%–70% 时触发。此时会话里可能已经积累了二三十轮的约束和偏好——全部躺在被压缩的区间里,等着被一把摘要掉。 本质:上下文窗口是个杂物间 我看到这项研究时想到的第一个判断是:这不是 bug,是架构错误。 今天的 Agent 把三种性质完全不同的信息塞进了同一个上下文窗口: 工作记忆——当前任务的状态、中间结果、下一步计划。它的正确语义是「最新的最有价值」,天生适合摘要和淘汰。 事实——用户是谁、项目背景、历史决策。它的正确语义是「持久但可检索」,适合外部存储。 契约——用户设下的规则与边界。它的正确语义是「必须始终为真」,任何时刻失效都是事故。 压缩算法只对第一种信息的语义做了优化。而契约,这个正确性要求最严格的信息,在 token 流里毫无特权——它就是一段普通文本,在注意力和摘要的权重竞争中被随意丢弃。 拿数据库做个类比就明白了:没有哪个数据库会因为磁盘空间不够,就悄悄删掉一行 CHECK 约束。 在数据库里,约束是 schema 的一部分,优先级高于数据本身;完整性检查从上世纪的应用代码层下沉到 schema 层和事务层,正是因为应用层的检查总会被绕过。而今天的 Agent 框架,相当于把所有完整性检查写在应用代码里,还配了一个会随机删除代码行的「优化器」。 更麻烦的是失败方式的性质:静默降级。软件工程的基本美德是 fail loudly——约束违反了就报错,就回滚。而 compaction 是静默的:没有任何事件日志告诉你「约束 X 在第 N 次压缩中被丢弃」。用户感知不到,开发者排查不到,审计者无从取证。 ...
每日论文精读 #009:让 AI 输出自带“计算指纹”——计算溯源证明模型内耗状态可写入生成文本
Benjamin Belay 提出计算溯源(Computational Provenance)概念:经过验证的模型内部因果状态,可以决定生成文本中的统计信号,即使最终答案完全相同,检测器也能从文本措辞中恢复出模型实际走了哪条内部计算路径。
Agent 的 Kubernetes 时刻:模型商品化之后,DeepSeek 和 YC 为何同时押注 Harness
一周之内,两个开源项目指向同一个判断 8 月 13 日,DeepSeek 开源 Agent 驾驭框架 DeepSeek Harness(dsh),「一切皆插件」的架构宣言配上 MIT 协议,48 小时收获 4.5 万 GitHub Star。五天之后,Y Combinator 开源了面向企业的 Agent 管理框架 QM,上线 3 天拿下 3.9k Star,官宣当日登顶 Hacker News。 两个项目看起来八竿子打不着:一个卷架构可组合性,Agent Loop 本身都能拔下来换掉;一个卷组织治理,Scope 隔离、身份绑定、审计合规。但把它们并排放在一起看,会发现一个无法忽视的信号——当模型能力趋同之后,Agent 竞争的主战场正在迁移到 Harness 层。 这不是巧合,而是行业进入下半场的标志。类比一段基础设施软件的历史会看得更清楚:2013 年 Docker 让容器技术平民化,但真正的爆发发生在两年之后——当所有人都需要在生产环境大规模编排容器时,Kubernetes 赢下了编排层的战争,云厂商的竞争从「谁的虚拟机更好」变成「谁的托管 K8s 更好用」。 今天的 Agent 行业正站在同样的节点上。 Harness 到底是什么:从「套壳」到独立技术层 先厘清概念。过去两年,「Harness」这个词从 Claude Code、Codex CLI 这类产品的工程实践中长出来,指的不是模型本身,而是驾驭模型的那一整套外围系统:上下文管理、工具调度、沙箱隔离、会话恢复、权限控制、记忆持久化。 一个形象的分层是:底层大模型负责思考与决策,中间层 Agent 负责任务执行,外层 Harness 提供执行环境、管理记忆、约束行为边界。同一个模型套上不同的 Harness,跑分和实际体验能差出一大截——这已经是业内的共识性观察。Claude Code 的成功很大程度上不是模型的成功,而是 Harness 工程的成功。 但长期以来,Harness 是头部厂商的私有武器。Anthropic 不会开源 Claude Code 的内部实现,OpenClaw 虽然开源但定位是「个人万能路由器」。这个层级一直缺少一个像 Linux 内核那样的公共底座。 ...
每日论文精读 #008:CForce 让扩散语言模型敢于“抢跑”——早期预测对齐后期修正,并行解码吞吐提升 31%
上海交大 & 蚂蚁集团提出 Consistency Forcing,用模型自身解码轨迹做自蒸馏,让 dLLM 早期低上下文预测对齐后期高置信预测,TPF 从 6.94 提到 9.08 且质量不降。