🔴 国内外大模型动态
1. Qwen3.8-27B 社区魔改版顶流:TURBO Cold-Fusion 全家桶⭐⭐⭐⭐
DavidAU 的 Qwen3.8-27B 魔改版本周下载量125万+,把多个微调融合成一个"既要又要"的全能包——想了解开源社区把一个基座模型玩出多少花样,看这一个仓库就够
典型的社区 Cold-Fusion 路线:多版 Heretic 微调叠加 + 编码强化(NEO-CODER-MAX)+ MTP 多token预测,全部打包成 GGUF 格式方便本地部署。启示:Qwen3.8-27B 已成为社区魔改的事实标准底座,选本地模型时值得横向比较这些融合版的实际表现。
🔧 建议试一下
2. orcarouter/Qwen3.8-27B-Uncensored-GGUF:去审查版本月下载30万⭐⭐⭐⭐
另一条去审查路线的 Qwen3.8-27B,1092 个 star 超过多数官方仓库——去审查(uncensored/abliterated)生态的活跃度本身就是观察开源社区需求的窗口
👀 持续关注
3. DeepSeek-V4.1-Flash 官方上线:多模态轻量版来了⭐⭐⭐⭐
DeepSeek 官方发布 V4.1-Flash,tags 显示支持 image-text-to-text——V4.1 系列的轻量多模态版本,48万下载+3292赞,本地部署党可以直接关注
🔧 建议试一下
4. Huihui-Qwen3.8-27B-abliterated-GGUF:消融对齐版下载量283万⭐⭐⭐⭐
huihui-ai 的 abliterated(对齐消融)版是 Qwen3.8 魔改生态里下载量最高的之一,283万次——研究"移除拒绝行为"技术路线绕不开的样本
👀 持续关注
5. SLAI T-Rex:DeepSeek-V4 家族在昇腾超算上的全参数后训练⭐⭐⭐
万亿参数 MoE 在华为昇腾 SuperPOD 上的全参数后训练完整实践,直面内存压力、通信不重叠、算子低效三大系统难题——国产算力训练超大模型的一手工程记录
⚡ 工程可参考
🔴 训练与对齐
6. LOCUS:任务感知的低秩后训练,直接省下推理token⭐⭐⭐⭐⭐
发现一个被忽视的现象:偏好对齐往往让回复变啰嗦却不增加信息量,而低秩子空间的参数化方式能直接改变生成长度——对关心推理成本的人来说,这是"对齐也要算经济账"的代表作
核心问题:LLM 服务成本与输出长度成正比,标准 RLHF/DPO 会系统性膨胀回复冗长度。LOCUS 提出任务感知的低秩后训练:将更新约束在低秩子空间内,在保持效用的同时缩短序列长度。启示:后训练的参数化选择(低秩 vs 全参)本身就是控制推理成本的杠杆,token-efficient alignment 是降本的新抓手。
📖 精读全文