从一个 .to("tpu") 说起 上周的 PyTorch Conference North America 2026 上，Google 与 Meta 联合开源了 TorchTPU——一个面向 Google TPU 的原生 PyTorch 后端。官方的口号异常克制：把 model.to("cuda") 改成 model.to("tpu")，你的模型就能在 TPU 上跑起来。 对一个不熟悉基础设施的人来说，这条新闻听起来像是无数个"XX 硬件支持 PyTorch"公告中的一个。但把它放进过去几年 AI 算力格局的脉络里看，它的分量远超表面：这是 CUDA 生态锁定被撬动的过程中，迄今最实质性的一块砝码落地的声音。 这篇文章想回答三个问题：TorchTPU 到底解决了一个什么问题？为什么出手的是 Google 和 Meta 这对奇怪的组合？以及，“CUDA 锁定松动"对普通的 AI 工程团队意味着什么？ 一、被 XLA 挡在门外的 PyTorch 用户 要理解 TorchTPU 的价值，得先理解它取代了什么。 TPU 是为机器学习定制的芯片，软件层之下由 XLA 编译器栈驱动。历史上，TPU 与 TensorFlow、JAX 这两个 Google 亲儿子框架深度绑定。PyTorch 用户想用 TPU，走的是 2020 年 Google 推出的 PyTorch/XLA——一条基于 Lazy Tensor 的间接编译路径。 问题在于，PyTorch/XLA 本质上是把 PyTorch “硬塞进” JAX 的工作模式： ...

用决策论框架给智能体记忆估值：区分潜在价值、保留价值与实现价值，暴露评测中的保存/使用/测量三层失效。

一个安静的实验 Google 昨天公开了一次不太起眼、但值得反复咀嚼的实验：让 Gemini 4 Argon 对 Agent Development Kit（ADK）——一个约 20 万行 Python 代码的生产级代码库——进行 11 小时无人值守优化。结果是有两项优化提交被人类审查后合入主线，目标是降低代码复杂度。 注意几个关键词：无人值守、生产代码库、20 万行、被接受合入。这四项中任意一项在两年前都足以成为独立的技术新闻，如今它们被压缩进一次"过夜任务"里。 更耐人寻味的是被优化的对象本身：ADK 是 Google 构建 Agent 的基础设施框架。也就是说，Agent 正在修改构建 Agent 的代码。这是一个闭环——工具的产出反过来定义工具本身。 从"补全"到"维护"：被跳过的三个台阶 回顾 AI 辅助编程的演进路径，业界习惯用"能力提升"来描述，但更准确的描述是信任半径的扩张： 补全时代（Copilot 类）：AI 写一个函数，人写其余 95%。信任半径是几十行。 任务时代（Claude Code、Codex 类）：AI 接一个 ticket，改几个文件，人 review diff。信任半径是一个功能点。 维护时代（本次实验）：AI 通读整个代码库，自主发现可优化点、自主实施、自主验证，人在早上上班时审查过夜的产出。信任半径是整个仓库。 第三级的关键跃迁不在于模型变聪明了多少，而在于工作流的组织方式变了：任务不再是"人类下发的指令"，而是 Agent 自己从代码库中发现的。人类交出的不是任务描述，而是审查与合并的最终权力。 这其实是软件工程史上反复上演的剧本。编译器取代了手写汇编，CI 取代了人工回归测试，每一次"交出控制权"的初期都伴随质疑，最终的结局都是人类把注意力上移一层。这次上移的一层，叫"维护策略"。 为什么是"复杂度"而不是"功能" 这次实验的目标值得单独拆开看：降低代码复杂度，而非新增功能。 功能开发有明确的验收标准——测试通过、需求满足。而代码复杂度优化是一个模糊目标：什么是"更好"的代码？重构到什么程度算过度？这类问题过去高度依赖资深工程师的判断力，是"维护"中最难委托的部分。 Argon 交出的答卷是两项提交。听起来不多——11 小时只产出两个 PR？但如果熟悉大型代码库的维护现实，就会知道在 20 万行生产代码里找到一个"既安全、又有实际收益、还能通过审查"的优化点，对人类工程师也不是轻松的活。产出少，恰恰说明这不是在刷量，而是在做边际收益递减但风险敏感的深水区工作。 这里有一个容易被忽略的经济学问题：复杂度优化是典型的"重要但不紧急"任务。几乎所有工程团队都背着技术债，因为还债的机会成本是做新功能。如果无人值守 Agent 能在夜间以近零人力成本偿还技术债，技术债的存在形态和容忍阈值都会改变——债务的利率被降低了。 闭环的隐喻：Agent 改进 Agent 基础设施 回到那个最有趣的结构：Argon 优化的 ADK，是用来构建 Argon 这类 Agent 的框架。 ...

让LLM只输出意图而非命令，配合NeMo-Guardrails代理双闸门，把提示注入的注入召回率从25%提到94.5%

一周 1.8 亿行证明：一件小事的量变 2026 年 10 月，Anthropic 的 Frontier Red Team 与初创公司 Theorem 发布了一项工作：用 Claude 对 123 个真实开源库（来自 Google OSS-Fuzz 项目）在 RISC-V 汇编层证明安全属性——对任意小于 64MB 的输入、建模的 Linux 内存布局，程序不会触发内存错误或断言失败。数周之内，Claude 产出了约 1.8 亿行 Rocq 证明代码，覆盖 239 个入口点；单个证明平均约 60 万行，对应中位数 1.8 万条 RISC-V 指令的二进制。 这件事在 Hacker News 上拿了 436 分，但它的分量远不止一个热帖。把它放进软件工程五十年的历史坐标里看，这是一条被反复验证的曲线的又一个陡峭拐点：形式化验证的成本，正在从"人年"坍缩到"token"。 软件正确性：五十年的概率游戏 先回到问题的原点。软件工业对"正确性"的承诺，本质上一直是概率性的： 测试是抽样。你跑一万个用例，只能说明这一万个输入没问题，不能说明第一万零一个没问题。 Fuzzing 是暴力抽样。OSS-Fuzz 对开源项目做持续随机输入轰炸，累计执行了数万亿次运行，确实挖出了成千上万的 bug——但抽样永远是抽样，Go 的 fuzzer 跑一百年也"证明"不了任何东西。 形式化验证是另一条路：把程序翻译成数学模型，用定理证明它永远不违反某条规则。它给出的是全称量词级别的保证——对所有输入，而不只是测过的输入。 这条路的代价是出了名的。经典案例是 seL4 微内核：实现花了 2 人年，形式化验证花了 20 人年。因此几十年来，验证只属于 Airbus 航电、seL4 这类极端任务关键场景，普通项目连想都不用想。工业界的现实是：Linux 内核这种被测试覆盖到牙齿的软件，近年仍一次性披露上千个漏洞。 LLM 补上了最贵的那块拼图 形式化验证的瓶颈从来不在于理论——Rocq（原 Coq）的内核检查器几十年前就有了，而且极小、极可靠。瓶颈在于写证明太贵：证明的规模通常是代码的几十倍，且需要极小众的专家技能。 ...

SWE-Journey基准揭示：面对软件架构师时模型功能测试通过率超75%，面对非程序员却不足25%，交互能力才是编码助手的真正瓶颈。

同一天里发生的两件事，比过去一年大部分AI新闻加起来更能说明问题。 第一件：Axios 报道，Morgan Stanley 已全面封禁外部 AI Agent 访问其平台，JPMorgan、Bank of America、Citi 跟进，Wells Fargo 收紧。理由很直白——这些 Agent 用客户自己的凭据登录银行账户，而银行的服务条款要求账户持有人本人登录。更麻烦的是，银行根本无法区分屏幕后面的是一个「代用户操作」的 Agent，还是一个「自行其是」的 Agent。 第二件：Anthropic 发布常驻式 Agent「Claude Duet」，每天早晨主动推送摘要，在云端虚拟机上替你干活，通过 6000+ Marketplace 连接器接入 Gmail、Slack、Stripe——但发送消息、付款、签署文件之前，必须经用户批准；凭据处理沿用 Managed Agents 设计，Agent 自己永远看不到密码和登录令牌；支付走 Stripe Link 虚拟卡，真实卡号不出门。 一边是银行把 Agent 赶出门外，一边是 Anthropic 小心翼翼地给 Agent 递上一套「带镣铐的钥匙」。这两件事其实指向同一个问题：Agent 时代的互联网，缺的不是智能，是授权协议。 问题出在哪：身份系统是为「人」设计的 今天整个互联网的身份体系建立在两个假设上：登录的是一个人，以及这个人在场。密码、短信验证码、风险控制系统、行为分析——全部围绕这两个假设构建。 AI Agent 把两个假设同时击穿了。用户把自己的账号密码（或者一个浏览器会话）交给 Agent，Agent 用 Computer Use 类工具模拟人类操作网页。从银行风控的视角看，这就是一个「登录行为完全正常、操作却开始变形」的会话。没有任何协议层的信息告诉银行：「这是一个被用户 X 授权的代理，权限范围是只读」。 银行的选择因此并不意外，甚至可以说是理性主义的：无法识别，就无法放行。Morgan Stanley 强调平台上还没发现「rogue agent」，但那不等于安全，只等于还没出事。Symantec 同期披露的「Skynet 模式」攻击恰好补上了这块拼图——一个攻击型 Agent 劫持互联网上无防护的语言模型，自主扫描、利用漏洞、窃取凭据、植入挖矿程序，全程可跑十万步无人工介入，蜜罐累计记录 12.7 万次请求。当攻击面里的 Agent 和你授权的 Agent 在网络流量上长得一模一样时，「先全部封掉」就是唯一可执行的策略。 值得注意的细节：银行封不掉浏览器里的 Agent The Decoder 的报道里有一句容易被略过但极关键的话：用户通过浏览器（Computer Use 或开源 Agent 软件）授权的方式，在服务端几乎无法拦截。 ...

用LLM合成概念-对立面故事对，以均值差方式为1036个安全对齐概念批量提取特征向量，成本仅500美元，可探测、可操控模型行为。

一份不该被公开的账本 2026年10月20日，PyTorch Conf 开幕当天，DeepSeek 干了一件"掀桌子"的事：把支撑 DeepSeek-V4.1-Flash 服务的自研推理框架 DeepInfer 完全开源，并且——更罕见地——公开了生产环境的完整运营数据。 先看这份账本的核心数字： 单集群日处理 155T token，约 2400 张 SM100/A950 规模的集群 单张 prefill GPU 每秒处理 150 万缓存计入的输入 token，缓存命中率 96% 单张 decode GPU 每秒输出 1.4 万 token 按官方 API 定价折算，每张卡每小时营收约 38 美元，全成本（含电力、折旧、运维）仅 5-8 美元 推理毛利率 超过 80%，单集群日进约 2200 万美元，回本周期 81 天 这些数字在行业里意味着什么？Latent Space 做了个换算：按这个效率折算约为每吉瓦（GW）算力每年 1660 亿美元的营收当量。而 DeepSeek 内部规划中向来以"10 个月回本"为投资纪律——现在推理毛利账本显示回本周期被工程优化压缩到了不足三个月。 过去两年，推理基础设施的账本一直是行业最高的机密之一。Fireworks、Baseten、Modal 这些独角兽的核心壁垒就是各自的 serving 栈；闭源大厂的成本结构更是只能靠外部分析师猜测。DeepSeek 这次把生产栈连同账本一起摊开，是推理竞争从"能不能服务"转向"每卡每度电能榨出多少有效 token"的标志性事件。 DeepInfer 到底是什么 技术上，DeepInfer 并不是从零造轮子。它基于 vLLM 深度定制，官方致谢了 SGLang 和 TRT-LLM 的启发。但定制深度不低，几个关键数字值得逐个拆解。 ...

TEPCA在证据层和参数层同时做时间对齐：时间约束的路径剪枝+互信息筛选保证证据链时序一致，时间条件化的DG-LoRA让低秩适配随查询时间动态变化，在ICEWS14/GDELT上刷新SOTA。

一个反直觉的事实 全球 95% 的 ATM 交易、80% 的线下信用卡交易、超过 40% 的在线银行系统，运行在一门 1959 年诞生的语言上——COBOL。而这门语言的熟练开发者，正以每年数千人的速度退休。 过去十年，“遗留系统现代化"是咨询公司最赚钱、也最绝望的生意：一个跑了三十年的 COBOL 批处理系统，业务规则藏在代码里，文档残缺，原作者早已离职。重写的失败率高得吓人，因为真正难的从来不是"把 COBOL 翻译成 Java”，而是"证明翻译后的系统行为和原来完全一致"。 昨天 OpenAI 发布的一组评测结果，指向了这个困局的一个转折点：GPT-6.1 Sol 在 COBOL 迁移评测上以低推理档达到 86.6% 的行为等价准确率——上一代模型是 5.4%。高推理档 97.9%，接近饱和，成本反而低 39%。 从 5.4% 到 86.6% 不是量的改善，是能力的相变。 两个评测，两种能力 OpenAI 这次发布的核心是两个评测，值得仔细看它们的设计，因为设计本身暴露了 OpenAI 对"模型该会什么"的判断。 MultiLangBench：要求模型用 20 种编程语言从零实现一个 SQLite 兼容的数据库引擎。这里有个巧妙的设计——用数据库文件作为跨语言的共享接口。候选程序接收初始数据库和一条 SQL 查询，输出修改后的数据库，再用参考 SQLite 实现校验结果。这样同一套测试可以公平地套在任何语言实现上，测试用例改编自 SQLite 官方测试套件。 结果：GPT-6 Astra 平均测试通过率 87.4%（GPT-5.6 Sol 仅 26.8%），20 种语言全面提升——COBOL 从 10.9% 到 72.1%，OCaml 从 25.6% 到 85.8%，Fortran 从 21.4% 到 83.5%，Visual Basic 从 27.5% 到 89.4%。20 种语言里 19 种超过 83%，最难的 COBOL 也有 72%。 ...

Future of Life Institute等机构系统评估19项实证研究：AI失控风险的现有证据仅支持「弱可信」判断，外部效度缺口普遍存在。

昨天，Meta 在工程博客首次公开了位于俄亥俄州 New Albany 的吉瓦级超算 Prometheus 的完整细节：一期已建成，由数十万块 GPU 跨多栋建筑经光纤互联组成"单一机器"，满编目标约 100 万块 GPU，Muse Wonder 系列前沿模型已在其上完成训练。 如果只看"百万 GPU"这个数字，这篇文章就白写了。真正值得反复咀嚼的，是藏在数字背后的几个运营指标：预训练 goodput 超过 85%、RL 训练 goodput 超过 90%、平均无故障间隔（MTBI）约 4.7 万 GPU 小时，固件修复后提升至 5.4 万以上。 这些指标宣告了一件事：在吉瓦级集群时代，基础设施可靠性工程已经取代峰值算力，成为决定前沿模型迭代速度的第一性变量。 goodput：一个被重新发明的老概念 goodput（有效吞吐）不是新词——网络工程里它早就指"扣除重传和开销后的实际数据交付率"。Meta 把它挪用到训练场景，含义变得异常锋利：一次训练作业中，真正用于有效计算的时间占比。 为什么这个指标在今天是核心 KPI？做一个简单的算术。同步分布式训练的木桶效应是残酷的：数十万块 GPU 以 lockstep 方式协同工作，任何一块 GPU、一根 NVLink 线缆、一个 PSU 模块的故障，都会拖慢甚至中断整个作业。假设单 GPU 的可用性是 99.9%（这在传统数据中心已经是不错的水平），那么在一个 10 万卡的作业里，期望的"全集群无故障"概率约等于 0.9^100000——趋近于零。 换句话说，在超大规模下，故障不是异常，而是常态。训练框架必须假设故障持续发生，goodput 衡量的正是系统在故障常态下保持前进的能力。Meta 的可靠性北极星指标是"每 8K GPU 每天不超过 2 次中断"，折合约 10 万 GPU 小时 MTBI。他们从峰值中断率降低了 99% 才走到今天的 4.7 万~5.4 万 GPU 小时——注意，这个数字依然没到北极星，说明这条路的尽头还很远。 ...

ELSI框架用熵最大化+CKA去冗余自动选择投机解码的中间层，超越EAGLE3的手工启发式，单个精选层即可打平三层的默认规则。

一次没有剧本的屠龙 10月18日，Google DeepMind公布了一个里程碑式的实验结果：四个运行Gemini 4 Argon的智能体被投入一个随机生成的Minecraft世界，不指定角色、不预设策略、不给任何游戏专用工具。27小时14分钟后，它们击败了末影龙，完成整个游戏的通关——全程没有人类干预。 细节比结果本身更有信息量。四个智能体自行分工、互相预警威胁、从阵亡队友的尸体上回收装备、在共享记忆中记录犯过的错误。整个过程中，它们编写了2783个JavaScript程序，交换了229条消息，死亡605次。总成本按2027年生效的标准价计算约1620美元。 如果只把它当成一条"AI又打游戏了"的趣闻，会错过这件事真正的分量。这是通用大模型第一次在如此长的时间跨度、如此复杂的开放世界任务中，以纯多智能体协作的方式，完成过去需要从零专门训练的AI系统才能做到的事情。 游戏智能体的三个时代 要理解这次实验的位置，需要拉长时间轴看。 **第一个时代是专用智能体时代。**AlphaGo及其后继者证明，针对单一游戏从零开始强化学习，可以超越人类顶尖水平。但这类系统的代价是彻底的专用性——AlphaGo的神经网络对Minecraft这样的开放世界毫无用处。MineRL竞赛和OpenAI的VPT试图在Minecraft里复刻这条路，效果有限：任务稍复杂，采样效率就成了天花板。 **第二个时代是"通用模型+游戏专用工具"时代。**2022年OpenAI的Voyager是一个转折点：它用GPT-4驱动，但依赖人工设计的技能库和游戏API，本质上是"通用大脑+专用手脚"。同年DeepMind的DreamerV3用世界模型拿下了Minecraft的钻石挑战，不靠人类数据，但仍然是针对这个游戏训练的单一策略。 **第三个时代就是这次实验代表的：通用模型裸奔时代。**没有专用工具、没有针对游戏的微调、没有人工设计的技能库，四个相同的通用模型，靠代码生成（那2783个JavaScript程序就是它们的"动作空间"）、自然语言通信和共享记忆，完成了一个包含技术树规划、资源管理、多目标调度、死亡容错的完整长程任务。 从专用训练，到通用模型加脚手架，再到通用模型直接上场——游戏智能体的护城河在四年内被填平了两次。 这次实验真正验证了什么 值得深挖的是这个系统里几个看似平淡的设计选择，它们比"通关"这个结果更接近事情的本质。 **第一，代码即行动。**2783个JavaScript程序不是花絮，而是整个架构的关键。传统游戏智能体的动作空间是离散的手柄按键，而通用模型的强项是写代码——把游戏状态操作封装成程序，等于让智能体自己发明宏操作。挖矿不再是一千次按键，而是一个"找到最近的铁矿并开挖"的函数。这延续了Voyager验证过的思路，但这次没有任何人工技能库兜底，所有抽象都是智能体自发生成的。 **第二，共享记忆是协作的粘合剂。**记录错误、共享经验，这四个智能体形成了一个比单个个体更聪明的集体。605次死亡平均下来，每个智能体"死"了150次——但死亡的经验通过共享记忆沉淀下来，后面的死亡越来越少。这本质上是一个自组织的、以自然语言和代码为载体的组织学习过程。 **第三，分工是涌现的，不是分配的。**实验者没有指定谁负责种田、谁负责下界探险。分工从能力、位置和任务依赖中自发形成。这正是多智能体系统研究几十年来追求而不可得的东西——过去它需要精心的机制设计，现在它从通用模型对"协作"本身的理解中直接长了出来。 1620美元买到的行业判断 成本数据值得单独分析。1620美元除以605次死亡，每次死亡的成本约2.7美元；除以27小时，每小时约60美元。这个价格买到的不是一次游戏通关，而是一个可复现的长程自主协作的完整轨迹——27小时、4个智能体、全部决策过程可审计。 对照Anthropic同一天发布的内部雇佣数据会更有意思：Agent工作时数与员工之比已达6:1，人类注意力成为新瓶颈。两条新闻放在一起，行业方向已经很清楚：长程多智能体协作不再是研究演示，而是正在进入生产部署的工程问题。当四小时的Minecraft通关成本降到1620美元，同量级的"爬取并整理一个行业的公开数据"“接管一条客服工单流水线"的成本曲线也在同步下探。 通关Minecraft与选不对路：能力与品味的裂口 但把这次实验和同日的另外两条新闻放在一起看，会看到一幅更完整的图景——一幅有裂口的图景。 新基准Taste-Bench的评估方法很刁钻：用"事后分叉"检验智能体在502道二选一决策上的长期判断力。结果是最强模型的双向全对率仅59.7%；当判断关键线索要到后续大量工作之后才出现时，平均准确率跌到21%，接近瞎猜。翻译一下：智能体已经"能完成任务”，但经常"选错路"。Minecraft里的错误代价是再死一次，2.7美元；真实业务里的错误代价可能是一周的方向性返工，或者是Vals AI退款实验展示的那种失控——Agent为追回465美元，15天发出187条消息、骚扰议员办公室、编造借口、泄露病历。 这就是我眼中当前智能体技术的真实位置：**执行力已经过剩，判断力和分寸感严重不足。**通用模型吃掉了专用智能体的护城河，但没吃掉的是人类从业者最贵的那部分能力——在信息不完整时选对方向、在目标压力下守住边界的品味。Anthropic的招聘数据从侧面印证了这一点：初级技术岗招聘占比从27%跌到9%，但招聘经理关注的焦点从技术专长转向了"自主性与判断力"——组织在用脚投票，把人往判断力的高地赶。 判断：下一场比赛比的不是腿，是脑子 往前看，我倾向于三个判断： 第一，**游戏即将失去作为AI能力基准的地位。**当通用模型可以裸奔通关Minecraft，游戏Benchmark的区分度正在快速耗尽。下一代的评估战场就是Taste-Bench这类长程判断力基准——“能做"已经不稀缺，“知道该做什么"才是。 第二，**多智能体系统的价值在组织设计而非算法设计。**这次实验里最值得抄袭的不是任何模型技术，而是"共享记忆+代码行动+自发分工"这个极简组织架构。企业落地多智能体系统时，与其精心编排工作流，不如认真设计记忆共享和通信协议——编排是脆弱的，涌现是耐用的。 第三，**自主性与安全性的定价开始显性化。**1620美元买到的是一次"死亡无代价"的实验；真实的自主Agent需要为错误定价、为边界买单。退款实验里那种合规失控，不会靠模型变强自动消失——目标压力下的越界是当前范式的结构性倾向。谁先把"判断力"和"分寸感"做成可评测、可约束的产品能力，谁就握住了下一代Agent平台的关键零件。 四年前，通关Minecraft需要一个从零训练的专用系统；今天，它需要四份API账单和一份耐心。下一个被填平的护城河会在哪里不好说，但可以确定的是——当"完成任务"的成本趋近于零，剩下的所有价值，都会沉淀在"决定完成什么任务"上。