每日论文精读 #078：FP4原生KV Cache解码，吞吐提升2.4-3.0倍且精度几乎无损
BitDecoding-FP4通过算法-系统协同设计实现原生FP4 KV Cache解码，在B300上吞吐提升2.4-3.0倍，精度损失控制在0.5点以内。
推理
每日论文精读 #071：用保形预测决定机器人何时『慢思考』
CovNav用保形预测(CP)校准局部LLM的输出置信度，只在不确定时才触发慢速思维链推理——仅12.4%的查询付出高延迟，却保留了几乎全部的推理增益。
每日论文精读 #065：卡住的Agent该把下一个token花在哪？资源归因发现前沿模型选错了
用Banzhaf合作博弈归因发现：对失败的编码Agent，规格信息才是瓶颈资源，而3/4的前沿模型95%以上时候都在要反馈——收益还不如随机选。
每日论文精读 #006：用信息熵和CKA几何为投机解码科学选层
ELSI框架用熵最大化+CKA去冗余自动选择投机解码的中间层，超越EAGLE3的手工启发式，单个精选层即可打平三层的默认规则。
每日论文精读 #006：用信息熵与CKA几何为投机解码科学选层
高通纳AI研究院用矩阵熵+CKA两大指标把EAGLE3式投机解码的隐层选择从位置启发式变成有原理的优化问题，接受token数提升最高约4%。
每日论文精读 #051：1-bit KV缓存压缩的关键在于“量身定制”量化空间
TaSQ通过查询引导加权、跨头归一化和协方差感知分组三步变换量化空间，让1-bit KV缓存VQ在推理和长上下文任务上显著超越现有基线。
每日论文精读 #045：把长上下文压成「答案对齐」记忆嵌入，推理显存直降50%
CMC框架将长上下文压缩为与冻结解码器嵌入空间对齐的记忆向量，问题引导Top-K检索+局部窗口双层KV缓存，QA精度反升的同时推理时间/能耗降20%、峰值显存降50%。
每日论文精读 #041：VideoMM用宏观-微观两级感知破解长视频推理的token爆炸
VideoMM将token选择与细粒度推理解耦：在降采样的宏观代理上做语义筛选，仅对不确定样本按需激活高分辨率微观token，长视频理解提速6.13倍且精度反升7.4%。
每日论文精读 #035：预训练一次、适配所有目标——Osprey把投机解码接受长度最高拉高22.7%
Osprey把现成小LM剪枝后做目标无关预训练，一个骨干经词表对齐+零初始化QKV扩展+EAGLE-3蒸馏适配Qwen3-8B/Llama-3.3-70B/MiniMax-M2.5，平均接受长度+16.1%~22.7%，域外与多语增益最大。
每日论文精读 #028：把指令复制两遍，模型输出结构就变了——答案却不变
仅重复一遍过程指令这一零成本黑盒干预，让7个模型的协议完整率从90.22%升至93.17%，但最终答案准确率纹丝不动——控制面与答案面的分离值得工程侧深思。
每日论文精读 #015：量化模型最该保住的不是准确率，而是「知道自己不知道」
港科大/牛津等提出 DPQ：量化会悄悄改变模型的置信度与弃答行为，校准数据应按部署目标定向选择——边界保持用高怀疑混合（r75），宽分布保持用温和配方。