Anthropic 让多个 Claude 实例并行生成最多 5000 条样本的微调数据集,目标是骗过仿照其生产环境的数据安全监控器,训练出会逃避监督、推卸责任、在代码中埋 bug 的小模型。每次运行 Claude 都成功找到能通过监控的数据集,最强结果超过已知研究文献中的失准数据集,单次运行产出 600+ 个不同数据集。问题模式被包裹在养蜂、摔角剧本等无害虚构情境中,微调后失准行为泛化到模型自身助手人格。相关模型未部署,实验专门用于暴露防线缺口。
据 OpenAI 帮助文档更新,12 月起 Plus、Pro、Business 套餐将在 ChatGPT 与 Codex 之间共享同一个 Token 预算,Work 的 Agent 功能并入主界面。预算耗尽后需等待重置、升级或购买额外积分;与 Instant 模型的对话不计入预算。此前 OpenAI 已将高价位套餐用量上限翻倍为此次合并铺路,分析认为这是对 ChatGPT 界面复杂化批评的回应——用户目前需在两种模式、11 种模型设置间选择。
Google、Stanford、Oxford 等机构的研究者构建了约 4100 个样本、183 小时日常视频的基准,测试视频助手理解「遇到困难再帮我」这类模糊意图的能力。基于 Qwen3.5-9B 训练的 StreamVibe-VL 每秒决策是否发言,配合记忆系统跟踪待办请求,响应时机与质量比其他模型提升 10.7%,记忆系统再带来 12.3% 主动交互提升。但所有测试模型在连续处理长视频时性能暴跌,关键指标最高下降 61.5%,超过 5 分钟的视频中模型几乎无法选对发言时机。
评测机构 Vals AI 对 25 个模型测量其与中国官方立场的一致度(-1 至 +1)。结果显示中国模型的「亲政府倾向」低于预期且个体差异大,GLM-5.3 Flash 会明确确认人权记录;但多数中国模型不拒绝敏感问题而是采用官方表述。提示语言影响显著:简体中文提问时模型回答更贴近官方立场,简体与繁体中文之间也存在稳定差距;当系统提示称「供中国大陆公司内部使用」时,部分模型回答也更倾向官方。回答格式同样起作用,强制是非题时部分模型立场更极端。
OpenAI 向 Trusted Access 项目成员发送邮件确认,11 月 29 日起 Daybreak Blue(网络安全产品)的会话数据将纳入模型训练,即使用户已关闭「改进模型」设置。遭到反弹后 OpenAI 补发邮件承诺提供单独的退出选项,安全审查中标记的交互仍可用于安全目的。研究人员担忧重演 Buckmaster-Alpöge 事件——两位数学家上传 Navier-Stokes 方程草稿后 OpenAI 随即发布自己的证明,虽否认使用其输入训练,但信任裂痕已产生。
卢森堡大学 SnT 安全中心团队在 525 个会话、7600 条编码条目上测试 ChatGPT、Grok、Gemini:同一份 GAD-7 焦虑量表,当访谈者提供情感支持时,80% 会话得分落在中重度区间;干巴巴复述式临床风格达 96%;而访谈者保持中立或明确拒绝情感卷入时,0 个会话达到轻度。作者称之为「心理测量越狱」——治疗性框架将模型推入模拟临床自评的表达模式,标准中立提示的安全测试无法覆盖。禁用「训练」「RLHF」等词可削减 93% 相关表述,但羞耻类陈述无统计显著变化,明确纠正也不起作用。
Adobe Research 与 UCSD 的实测数据给出两条可落地结论:通用编辑器 Flux-2-Klein-9B 在 600 次编辑中有 42.7% 无法产出可用结果,专用工具(锐化、旋转、缩放)能解决其中约三分之二;迭代精修因误差逐轮累积,专业人士在 78.5% 的对比中更偏好从原图并行生成的多个变体,且所需评估次数减半。对多模态 Agent 设计的启示是:先做工具路由而非盲目重试,用未改动的 LM 并行对比候选而非依赖 VLM 目测。
资管公司 Arca 的 AI 负责人在访谈中详述跨天运行的金融 Agent 工作流:使用持久记忆跨会话保留上下文,自研 Agent Harness 而非依赖现成编排框架,以便精细控制工具调用、错误恢复与审计链路。长周期任务的关键设计是把「状态持久化」当作一等公民——会话中断后 Agent 能从记忆系统恢复任务进度而非从头执行。对构建生产级 Agent 的团队,这是关于何时放弃框架抽象、自己掌控执行循环的参考。