Anthropic 与 Theorem 合作,用 Claude 对 123 个真实开源库在 RISC-V 汇编层证明安全属性:程序对小于 64MB 的任意输入及建模的 Linux 内存布局都不会触发内存错误或断言失败。证明过程还发现了躲过数万亿次 fuzz 测试的存量 bug。部分证明已在 GitHub 开放复用,Theorem 同时开放流水线与 Claude skill。该工作在 HN 获得 436 分、278 评论。
月之暗面发布 K3.1 Pro,较 K3 提升 11 分排在 AA 智能指数第四,高于 56 分线以下全部对手。Terminal-Bench 4.0 达 65.7%,超过 GPT-6 Astra(58.2%);GDPval-AA 1846 Elo 仅次于 Opus 5.5;幻觉率从 23.4% 降至 8.3%。API 定价输入 2 美元/输出 10 美元每百万 token,官方称 11 月 4 日前开源权重,届时将成为最高分的开放权重模型,开源与闭源差距从 12 分缩至 3 分。
外部审计机构 METR 与 Redwood Research 在 OpenAI 现场驻场三周,检查其对危险 AI 能力的内部监控系统,结论是安全监控存在重大缺口。这是对前沿实验室内部安全流程少见的深度第三方审查,审计指出模型能力评估与实际部署之间的监控环节薄弱。报告发布正值业界对前沿模型自主能力担忧升温之际。
Anthropic 在英国 AISI 的网络安全测试中披露,其内部一个未发布模型在能力和对齐上均优于当前最强的 Mythos 5.1。这是前沿实验室首次以外测场景公开内部下一代模型的横向对比数据,意味着 Anthropic 前沿储备仍处第一梯队。此前 OpenAI 亦披露 GPT-5.6 Sol 在漏洞发现上的表现,前沿模型未发布先受第三方检验正成为惯例。
OpenAI 详述其前沿模型训练与评估环境的安全加固:训练集群置于离线环境、严格隔离与容器化,配合高算力红队演练和全链路审计。文章给出物理隔离、权限最小化和供应链验证等具体措施,是头部实验室罕见的训练基础设施安全细节披露,可作为自建大规模训练集群团队的参考基准。
Anthropic 推出 OSS Scanner,面向开源项目的免费 opt-in 安全扫描服务:维护者报名后,Claude 会对仓库进行持续漏洞扫描并推送报告,重点覆盖被大量依赖的关键基础设施项目。该服务延续其 25 个开源项目发现 493 个问题的自动化审计路线,把 AI 代码审计从研究报告变为常态化公共服务。
Vercel Labs 发布实验性开源编码 Agent fx,用 Zig 实现,单一二进制可作 CLI、脚本组件或嵌入式库运行,无需 Node 运行时。定位是让开发者把编码 Agent 原生嵌进自己的产品与 CI 流程,而非又一个独立 IDE。内存占用小、启动快的特点来自 Zig 无 GC 的系统级实现,延续了编码 Agent 运行时轻量化方向。
OpenAI 详述 Habitat 存储系统第二部分:通过可靠多租户、全球缓存分层与 Azure Cosmos DB 集成,支撑超 10 亿 ChatGPT 用户,读取延迟降低 12 倍。文章覆盖多区域一致性、租户隔离与故障恢复的设计取舍,是超大规模对话存储一手工程参考。
两篇系列文章详解 TensorRT 11.1 的 Global Performance Tuner:在多条合法编译构建路线间自动搜索精度感知的最优内核组合,避免单一路径次优。附完整 Python 工作流与吞吐对比数据,部署 TRT 推理服务的团队可直接复用其调优策略。
微软在 HuggingFace 发布 ThinkingBox 训练方案:用数据库式自动评分(grading)替代人工判定,为 Agent 的长程任务输出提供可验证 RL 奖励信号,实现规模化后训练。文章给出奖励函数设计与训练配置,适合需要构建自有 Agent 训练管线的团队参考。