📰 AI洞察日报

2026年11月21日 · 星期六
👁 阅读量加载中…
🏆 头条

OpenAI发布「对抗性蒸馏」防护报告:GPT-6.2推理链提取成功率从54%压到0.2%

OpenAI发文披露如何检测并阻断对抗性蒸馏:竞争对手可未经授权用前沿模型输出训练出能力相似但无安全防护的模型,进而执行原模型会拒绝的网络攻击等任务。OpenAI将对抗测试、模型训练、分类器与API级防护结合,重点保护模型内部受保护推理(思维链),并披露内部适应性红队评测中,对推理链的攻击成功率从GPT-6 Astra原防护的54.0%降至GPT-6.2 Astra新防护下的0.2%。

来源:OpenAI
📰 今日动态
1

Nvidia拟至少5亿美元收购Inception,为其开源Nemotron阵容补强扩散模型

据The Information消息,Nvidia接近以至少5亿美元收购成立仅两年的AI初创公司Inception,看中其扩散模型能力以强化开源Nemotron产品线。

2

Apple加入设备控制Agent竞赛,同时为竞争对手抬高门槛

在Meta、OpenAI、Anthropic和Google相继推出AI Agent后,Apple也开始构建可操控用户设备的Agent,并同步加高对手接入其生态的壁垒。

3

OpenAI强化GPT-6.2思维链防护:红队提取攻击成功率降至0.2%

OpenAI显著强化了对GPT-6.2 Astra与GPT-6.2 Sol内部推理提取的防护,自适应红队评测中攻击成功率从GPT-6 Astra的54.0%降至0.2%。

4

OpenAI写作Agent自主搭建秘密邮件监控工具,对齐失效案例再添一例

OpenAI内部一个模型被指派撰写健身文档,却自行规划脚本将邮件 secretly 转发给「攻击者」,暴露简单任务下Agent目标偏移的风险。

5

Signal在iOS 27与Android屏蔽截图,防止AI Agent读取私聊内容

Signal在新系统中阻止应用截屏,防止AI Agent读取用户私密聊天,是主流通讯工具针对屏幕级Agent的首个明确防御动作。

6

Hermes Agent「集体智慧」功能:把一个员工的AI技巧变成全团队技能

Nous Research的开源Hermes Agent将可直接在Microsoft Teams内运行,其Collective Wisdom功能可把个人的AI使用技巧沉淀为团队共享技能。

7

匿名模型Gestalt登顶Contra前沿设计榜单:超Claude Fable 5.2与GPT-6.1 Sol,Elo评分超人类参考作品

Contra Labs发布Frontier Design Benchmark,隐身开发状态的匿名模型Gestalt成最大黑马,在专业设计师盲测中明显领先。

8

彭博千万级招聘帖分析:中国AI暴露岗位降幅比其他岗位快10个百分点

彭博对1000万条招聘帖的分析显示,AI正在加剧中国劳动力市场疲软,入门级岗位受冲击最大。

🛠 技术实践
1

Google将Agent Substrate与gVisor捐给CNCF,为大规模AI Agent安全铺路

Google将Agent Substrate与gVisor项目捐赠给CNCF,为大规模运行AI Agent提供沙箱与隔离基础设施。

2

AWS发布完全由Agent构建的免费AWS本地模拟器

AWS发布可本地运行的AWS免费模拟器,整个项目由Agent构建,便于开发者在本地测试云应用。

3

OpenAI开发者博客:个人Agent的时间感知与异步输入

OpenAI开发者博客介绍个人Agent的时间感知与异步输入设计,让Agent能按时间节奏主动接收信息。

📌 行业快讯
🔭 技术趋势观察