🔴 国内外大模型动态
1. Swift-1.5 Qwen3.8-27B 量化社区版:efficient-thinking 推理模型的 llama.cpp 生态落地⭐⭐⭐⭐
基于 Qwen3.8-27B 的 Swift-1.5 社区量化版两周下载 7.4 万、114 赞,主打 reasoning + efficient-thinking——说明"高效推理"(少 token 完成思考)正在成为量化社区最活跃的需求方向,本地部署选型时可关注
⚡ 工程可参考
2. Qwen-Image-2.1 ComfyUI 官方单文件版:470 万下载的图像生成新基座⭐⭐⭐
Comfy-Org 官方分发 Qwen-Image-2.1 的 diffusion-single-file 版本,下载量 469 万、852 赞——已是 ComfyUI 生态里事实级的主力图像模型,做图像生成工作流可以直接基于它起步
🔧 建议试一下
3. Qwen3.8-27B Uncensored Aggressive-MTP 多模态量化版:社区"去审查"改造的典型样本⭐⭐⭐
Qwen3.8-27B 的 uncensored 社区微调版叠加 Aggressive-MTP(多 token 预测加速),下载 206 万、1535 赞——高热度反映了两个信号:MTP 技术下放到 GGUF 生态的速度,以及去审查模型持续旺盛的灰色需求。安全视角值得留意
👀 持续关注
4. 网易有道 Confucius4-R2T2:Qwen3-ASR 底座上的语音识别模型⭐⭐⭐
网易有道开源基于 Qwen3 ASR 架构的 Confucius4-R2T2,下载 1 万、468 赞——国产大厂在语音赛道持续押注 Qwen 系底座,做中文语音相关应用时多了一个可试的开源选项
👀 持续关注
🔴 训练与对齐
5. 对齐悖论:后训练如何放大语言模型的"自信幻觉"⭐⭐⭐⭐⭐
指出了一个反直觉事实:RLHF/DPO 等后训练不仅没消除幻觉,反而系统性地放大了"高置信度的错误回答"——这直接动摇了"用置信度检测错误"这条工程路线的可靠性,做对齐或可信 AI 相关工作必读
论文核心论点:后训练阶段模型学会的是"对被偏好的回答表现得更自信",而非"更准确"。当知识缺失时,对齐压力会把原本犹豫的错误输出重塑为高置信输出,导致基于不确定性的错误检测(如 confidence thresholding)失效。工程启示:幻觉检测不能只看置信度,需要结合检索验证或多模型交叉确认。
📖 精读全文
6. 从规范框架到对齐数据:SFT 与偏好数据的构建与评估方法⭐⭐⭐⭐
回答了"抽象原则怎么变成可训练的对齐数据"这个问题——专家驱动地把规范框架翻译成具体示例和偏好信号,并给出 SFT + 偏好两阶段数据的构建与评估方法。对需要给自家模型注入业务规范/合规要求的团队,这是一份可直接借鉴的数据工程方法论
📖 精读全文
7. 小米 MiMo-V2.6 蒸馏版:9B 多模态小模型的量产路线⭐⭐⭐
小米 MiMo-V2.6 蒸馏到 Qwen 底座的 9B 图文模型,1.1 万下载、567 赞——展示了国产厂商"大模型能力 → 蒸馏到小底座 → 端侧多模态落地"的标准路径,做端侧多模态选型时可以纳入对比清单
👀 持续关注
🔴 推理优化
8. GSQ + RCO 量化 Coder:ISTA-DASLab 的 Qwen3.8-Flash 下一代量化方案⭐⭐⭐
ISTA-DASLab(量化研究重镇)放出的 Qwen3.8-Flash Coder 量化版,叠加 GSQ 量化 + RCO(量化感知的裁剪/优化),标签还带 pruning——学术界最新量化+剪枝组合拳直接下放到 GGUF 可用版本,关注本地大模型体积/性能权衡的值得跟进对比
🔧 建议试一下