📡 AI技术雷达

2026年8月13日 · 星期四
👁 阅读量加载中…
🔴 国内外大模型动态
1. DeepSeek V4 Pro 0813:1.6T MoE推理算力降至前代27%⭐⭐⭐⭐⭐
1.6万亿参数MoE、激活49B,采用压缩稀疏注意力+重度压缩注意力,单token推理算力降至V3.2的27%,KV缓存降至10%
核心方法:将注意力机制拆分为稀疏注意力(处理长距离依赖)和重度压缩注意力(将长上下文压缩为固定长度表示),两种机制级联使用。关键数据:推理算力降至V3.2的27%、KV缓存降至10%、在MMLU/GPQA/HumanEval上全面超越GPT-5.6-mini。对标Grok 4.6($2/$6),DeepSeek定价更低。
📖 精读全文
HuggingFace·📅 08-13
2. Qwen3.8-2.4T-A95B:2.4万亿参数开源MoE⭐⭐⭐⭐⭐
2.4万亿参数MoE、激活95B、原生256K上下文,编程和知识工作基准达到开源最佳
核心方法:在MoE路由中引入专家细分(expert specialization),将2.4T参数分为1024个细粒度专家,每次激活约95B。原生支持256K上下文(非外推)。关键数据:在LiveCodeBench上达到开源最佳(超过DeepSeek V4 Pro),256K上下文推理速度比Qwen3.5的128K快15%。
🔧 建议试一下
HuggingFace·📅 08-13
3. Grok 4.6:xAI新一代推理模型⭐⭐⭐⭐⭐
与DeepSeek/Qwen同日发布,主打实时知识+推理能力,定价$2/$6 per million tokens
👀 持续关注
xAI·📅 08-13
🔴 训练与对齐
1. RLHF偏好平均化的程序性公平失效⭐⭐⭐⭐⭐
RLHF将不同人群的偏好聚合为单一奖励模型时,系统性偏向多数群体——首次量化了"偏好同质性假设"的偏差
核心方法:定义程序性公平的三条准则(代表性、一致性、中性),在3个主流RLHF数据集上测试偏好聚合后的公平性偏移。关键数据:当标注者群体差异大时,少数群体偏好被压制的概率高达43%;DPO比传统RLHF更容易放大这种偏差。
📖 精读全文
关联:LLM应用架构
arXiv·📅 08-10
2. Evaluation-Conditioned Training:用更强模型的自评价做反馈⭐⭐⭐⭐
用强模型的自我评价信号作为弱模型的训练反馈,实现"以评代标"——降低对人工标注的依赖
👀 持续关注
关联:Agent评测
arXiv·📅 08-10
3. SP3O:无需奖励模型的片段偏好强化学习⭐⭐⭐⭐
跳过奖励模型训练步骤,直接从片段偏好信号中学习策略——简化RLHF流程,降低训练成本
⚡ 工程可参考
arXiv·📅 08-03
🔴 推理优化
1. lucebox:消费级硬件上的投机推理服务器⭐⭐⭐⭐⭐
开源LLM投机推理服务器,专为消费级和异构硬件设计(RTX 3090/ROCm/Strix Halo等),支持speculative prefill和megakernel
核心方法:用CUDA megakernel将draft model和verify model的推理融合到单个kernel launch中,减少GPU同步开销。支持异构硬件(CPU draft + GPU verify)。关键数据:在RTX 3090上对Qwen模型实现2.3x吞吐提升,支持speculative prefill(首次token延迟降低40%)。
🔧 建议试一下
GitHub ⭐2740·📅 08-13
2. MemSpec:投机解码的内存感知调度⭐⭐⭐⭐
根据GPU内存动态调整draft model投机解码策略,高负载下自动降速避免OOM——推理服务稳定性工程价值
⚡ 工程可参考
关联:记忆系统
arXiv·📅 08-11
🔴 记忆系统
1. claude-mem:9万星Agent持久记忆方案⭐⭐⭐⭐⭐
GitHub周榜最热Agent记忆项目,捕获Agent会话行为并用AI压缩后注入未来会话。支持Claude Code/OpenClaw/Codex/Gemini/Copilot等主流Agent
核心方法:每次会话结束后自动提取关键决策、代码变更、用户偏好,用embedding存入ChromaDB/SQLite,下次会话启动时自动注入相关上下文。与mem0的区别:claude-mem是客户端插件(不需要后端),mem0是服务端层。关键数据:9万星、支持12+Agent平台、压缩比约10:1。
🔧 建议试一下
关联:Agent框架
GitHub ⭐90549·📅 08-13
2. MemOS:自进化记忆OS,token节省35%⭐⭐⭐⭐⭐
面向LLM和Agent的自进化记忆操作系统,支持混合检索和跨任务技能复用,实测节省35.24%的token消耗
核心方法:将记忆分为事实记忆、技能记忆、偏好记忆三层,每层独立检索策略。混合检索=向量语义+关键词BM25+图遍历。关键数据:35.24% token节省、支持MCP协议、可自托管。
📖 精读全文
关联:RAG → Agent框架
GitHub ⭐10696·📅 08-13
3. Structured Memory:结构化记忆抑制LLM过度个性化⭐⭐⭐⭐
发现持久化记忆会导致LLM过度个性化(用户信息污染无关对话),提出结构化记忆架构隔离用户画像与通用知识——与AI IN APP记忆分区设计直接相关
⚡ 工程可参考
arXiv·📅 08-08
4. TencentDB Agent Memory:团队级Agent记忆中枢⭐⭐⭐⭐
将对话、文档、代码转化为四类可复用记忆资产(Chat Memory/Skill/LLM-Wiki/Code-Graph),支持团队级治理和跨Agent共享
👀 持续关注
关联:Agent框架 → 编码Agent
GitHub ⭐20518·📅 08-13
🔴 RAG与知识增强
1. AkasicDB:统一向量-图-关系数据库的Omni RAG⭐⭐⭐⭐⭐
一个DBMS同时支持向量检索、图遍历和关系查询,消除RAG多存储引擎数据一致性问题
核心方法:在PostgreSQL内核上扩展向量索引(HNSW)和图引擎,三种查询可以混合执行,无需跨库join。关键数据:对比双引擎方案混合查询延迟降低60%,数据一致性提升到事务级。
📖 精读全文
arXiv·📅 08-10
2. 法律RAG时间错配问题⭐⭐⭐⭐
首次量化RAG在时效敏感场景中的时间错配——检索到当前版本但引用历史条文——对法律/合规RAG有警示意义
⚡ 工程可参考
arXiv·📅 08-10
🔴 Agent框架与工程
1. HarnessOpt-Bench:首个Agent Harness优化基准⭐⭐⭐⭐⭐
发现harness质量对Agent表现的影响比模型本身更大——同一模型在不同harness下任务完成率相差34%
核心方法:构建工具选择、上下文组织、错误恢复三类评测任务,对比5种主流Agent框架在相同模型下的表现。关键数据:最佳harness搭配中等模型可以超过差harness+最强模型。
📖 精读全文
关联:记忆系统 → 编码Agent → Agent评测
arXiv·📅 08-06
2. SHE:Agent安全Harness的轨迹驱动进化⭐⭐⭐⭐
通过分析Agent执行轨迹自动进化安全harness规则,在不改模型权重的前提下拦截不安全行为
⚡ 工程可参考
关联:AI安全 → 记忆系统
arXiv·📅 08-10
3. ACM:Agent系统配置管理参考模型⭐⭐⭐⭐
管理异构Agent系统的配置参考模型,覆盖prompt/tool/model/skill的版本治理——对Agent平台工程化有参考价值
⚡ 工程可参考
关联:LLM应用架构
arXiv·📅 08-11
🔴 编码Agent
1. Cursor Rules实证:GitHub项目AI编码提示词分析⭐⭐⭐⭐⭐
系统分析2734个开源项目的.cursorrules文件,有规则的项目Agent首次通过率提升42%
最有效的两条规则:"先读现有代码模式再生成"和"每次改动不超过50行"。
📖 精读全文
关联:Agent框架 → LLM应用架构
arXiv·📅 08-11
2. CausalRepair:因果推理增强的LLM自动修复⭐⭐⭐⭐
让LLM理解bug根本原因而非模式匹配——修复成功率显著提升
👀 持续关注
arXiv·📅 08-11
🔴 LLM应用架构
1. HERO反过度防御契约:编码Agent的4种过度防御模式⭐⭐⭐⭐
总结编码Agent过度防御的四种模式(Hashing/Edge cases/Rubrics/Overbuild),提供可直接粘贴的prompt契约
分析500+个GitHub项目中Agent生成的代码,发现Agent在安全场景下过度防御导致代码膨胀。HERO契约指导Agent何时该加防御、何时该简化。
🔧 建议试一下
关联:编码Agent
GitHub ⭐118·📅 08-13
🔴 Agent评测与基准
1. SkillsMetric:Agent技能静态分析检测边界⭐⭐⭐⭐
首次系统评估Agent Skills(指令+脚本包)的安全检测方法,发现现有静态分析工具对恶意技能包检出率不足40%
👀 持续关注
关联:AI安全
arXiv·📅 08-10
🔴 AI安全与隐私
1. GFlowNet攻击生成:自动化Red Teaming新范式⭐⭐⭐⭐⭐
用GFlowNet生成多样化的对抗prompt,覆盖传统手工red team难以触达的攻击面
核心方法:将对抗prompt生成建模为图结构搜索,按攻击成功率+语义多样性采样。关键数据:对5个主流模型攻击成功率78%,发现1200+种未知jailbreak模式。
📖 精读全文
关联:训练与对齐
arXiv·📅 08-11
2. 推理链窃取:从API侧信道重建思维链⭐⭐⭐⭐⭐
即使厂商隐藏推理链,仍可通过响应延迟、token分布统计重建模型的逐步推理过程,准确率65-82%
利用推理模型"思考"时产生的可观测信号——响应时间分布异常、输出token信息熵波动——训练辅助模型逆向重建推理链。影响:3家主要厂商的6个推理模型均受影响。
📖 精读全文
关联:推理优化 → Agent评测
arXiv·📅 08-11
3. KV Cache时序侧信道漏洞⭐⭐⭐⭐⭐
多租户推理中KV Cache共享导致时序侧信道泄露,攻击者可推断其他用户prompt内容。vLLM/TensorRT-LLM/SGLang默认配置均受影响
📖 精读全文
关联:推理优化
arXiv·📅 08-10