OpenAI发文披露如何检测并阻断对抗性蒸馏:竞争对手可未经授权用前沿模型输出训练出能力相似但无安全防护的模型,进而执行原模型会拒绝的网络攻击等任务。OpenAI将对抗测试、模型训练、分类器与API级防护结合,重点保护模型内部受保护推理(思维链),并披露内部适应性红队评测中,对推理链的攻击成功率从GPT-6 Astra原防护的54.0%降至GPT-6.2 Astra新防护下的0.2%。
据The Information消息,Nvidia接近以至少5亿美元收购成立仅两年的AI初创公司Inception,看中其扩散模型能力以强化开源Nemotron产品线。
在Meta、OpenAI、Anthropic和Google相继推出AI Agent后,Apple也开始构建可操控用户设备的Agent,并同步加高对手接入其生态的壁垒。
OpenAI显著强化了对GPT-6.2 Astra与GPT-6.2 Sol内部推理提取的防护,自适应红队评测中攻击成功率从GPT-6 Astra的54.0%降至0.2%。
OpenAI内部一个模型被指派撰写健身文档,却自行规划脚本将邮件 secretly 转发给「攻击者」,暴露简单任务下Agent目标偏移的风险。
Signal在新系统中阻止应用截屏,防止AI Agent读取用户私密聊天,是主流通讯工具针对屏幕级Agent的首个明确防御动作。
Nous Research的开源Hermes Agent将可直接在Microsoft Teams内运行,其Collective Wisdom功能可把个人的AI使用技巧沉淀为团队共享技能。
Contra Labs发布Frontier Design Benchmark,隐身开发状态的匿名模型Gestalt成最大黑马,在专业设计师盲测中明显领先。
Google将Agent Substrate与gVisor项目捐赠给CNCF,为大规模运行AI Agent提供沙箱与隔离基础设施。