🔴 国内外大模型动态
1. Qwen-Image-2.1-Turbo 量化版(GGUF/ComfyUI)⭐⭐⭐
通义 Qwen-Image-2.1-Turbo 的社区量化版本,一个月下载 30 万+、5.6k 收藏——本地跑 Qwen 图像生成目前最热门的落地形态,想在自己机器上搭图像生成管线可以直接抄
🔧 建议试一下
2. uncensored-ai-api:DeepSeek/GLM 无审查 API 聚合⭐⭐⭐
封装 DeepSeek 与 GLM 系列模型的第三方 API + 浏览器聊天,带流式输出和 Python/TypeScript 示例——可作多模型接入的参考实现,但"无审查"服务商用合规风险高,仅供了解生态
👀 持续关注
3. Pika-H3-Flex-Turbo LoRA:4 步出图的视频/图像加速适配器⭐⭐⭐
Pika 基于 MiniMax-H3 底座的 Turbo LoRA,4 步采样即可出图,兼顾速度与质量——4-step turbo LoRA 已成生成模型加速的通用打法,做生成类应用时值得借鉴的工程套路
👀 持续关注
4. PrunaAI P-H3-Image ComfyUI 单文件版⭐⭐⭐
PrunaAI 把 H3 图像模型压成 ComfyUI 可直接加载的单文件(diffusion-single-file)——"单文件分发"正在成为开源生成模型分发的标准姿势,降低部署门槛的思路可复用
⚡ 工程可参考
🔴 训练与对齐
5. RecursiveSI/flint:开源社区新对齐模型⭐⭐⭐
小团队 RecursiveSI 发布的对话模型 flint,3.5 万下载却有 1347 收藏(收藏率异常高)——通常意味着核心社群认可度远超泛传播,可能是 DPO 对齐方向值得关注的新玩家
👀 持续关注
🔴 推理优化
6. LoopVQ:循环 Transformer 的亚 1-bit KV 缓存量化⭐⭐⭐
针对 looped transformer(同一组层反复执行)这一新架构,把 KV 缓存压到 1-bit 以下——长上下文推理成本优化的前沿论文,looped LM 被视为参数效率新路线,其配套推理优化值得提前跟进
👀 持续关注
7. FlagRot:低比特 KV 缓存的选择性旋转⭐⭐⭐
反直觉发现:2-bit KV 量化前"先旋转 key"并不总是有帮助,旋转会抹平尖锐分布反而放大误差——提出按 key 分布特征做选择性旋转。做 KV cache 量化落地时这是一条重要的避坑结论
⚡ 工程可参考