24 小时关键词 · 官方事件优先
暂无达到多信源阈值的热点，先看最新动态。
按时间排序的全部动态；精选内容稀缺且可解释。最后更新 2026/07/29 20:43
腾讯混元开源了端到端推测解码框架 AngelSpec，在 Hy3-A21B 上实现 1.98-2.40 倍端到端加速。
腾讯混元开源了端到端推测解码框架AngelSpec，支持训练和部署。在Hy3-A21B模型上，并发数4-64时，DFly实现1.98-2.40倍端到端加速，吞吐量比DFlash高10.5-11.8%。开发者可获取训练代码和drafter权重，便于复现和进一步研究。 核心观点： 1. AngelSpec在Hy3-A21B上实现1.98-2.40倍端到端加速（并发4-64）。 2. AngelSpec吞吐量比DFlash高10.5-11.8%。
推荐理由常规版本更新，跟进即可
摘要由 LLM 生成，请以原文为准。
DeepSeek 的 DSpark 系统巧妙整合多种推测解码思路，在生产环境中实现 1.5 到 5 倍的吞吐量提升。
DeepSeek 发布了 DSpark 系统，该系统通过整合多种推测解码思路，在生产环境中实现了 1.5 到 5 倍的吞吐量提升。这一成果对开发者而言，意味着在保持模型质量的同时，可以显著降低推理延迟和成本，尤其适用于高并发场景。 核心观点： 1. DSpark 通过整合多种推测解码策略，在真实生产系统中达到 1.5x 至 5x 的吞吐量提升。
推荐理由常规资讯，保留列表
GLM-5.2 发布，性能对标 Opus 4.8，支持 1M 上下文，采用新 IS 注意力机制，并已在 transformers、vLLM、SGLang 中可用。
GLM-5.2 发布，性能对标 Opus 4.8，支持 1M 上下文窗口。其采用新的 IS 注意力机制，每 4 个稀疏层复用 1 个索引器，在 1M 上下文下每 token FLOPs 降低 2.9 倍；改进了 MTP 层用于推测解码，并支持灵活的思考努力级别。模型发布首日即在 transformers、vLLM、SGLang 中可用，采用 MIT 许可证。对开发者而言，可立即在主流推理框架中使用，并受益于长上下文和推理效率提升。 核心观点： 1. IS 注意力机制每 4 个稀疏层复用 1 个索引器，在 1M 上下文下每 token FLOPs 降低 2.9 倍。 2. GLM-5.2 发布首日即支持 transformers、vLLM、SGLang，采用 MIT 许可证。
RT @ZixuanLi_: Thank for all the feedback. GLM-5.2 will begin rolling out to all Coding Plan u er in 3 hour .
查看来源RT Zixuan Li<br>GLM-5.2 i now available in @NotionHQ.<br><img width="1200" height="1200" tyle="" rc="http ://pb .twimg.com/media/HK9kl5TX
查看来源推荐理由常规版本更新，跟进即可
Xiaomi MiMo 开源 1T 模型，通过 FP4 量化与 DFlash 推测解码，在单节点 8-GPU 上实现 1000+ tps 推理。
大模型高吞吐推理长期依赖专用加速器。Xiaomi MiMo 联合 TileRT 团队开源 MiMo-V2.5-Pro-FP4-DFlash 1T 模型，通过 FP4 量化降低显存占用与带宽压力，并引入 DFlash 块掩码并行推测解码提升验证效率；TileRT 编译器与 kernel 针对上述技术深度定制，最终在标准 8-GPU 单节点上实现 1000+ tps。该方案仅依赖通用 GPU，为开发者提供了可复现的大规模模型高效推理路径。 核心观点： 1. FP4量化降低模型footprint与memory traffic，DFlash块掩码并行推测解码单次验证可接受更多token。 2. MiMo与TileRT团队进行模型×系统深度协同设计，TileRT编译器与kernel针对FP4和DFlash精确优化。 3. 1T参数模型在标准8-GPU单节点上突破1000 tps，无需Cerebras晶圆级或Groq SRAM ASIC等专用硬件。
1,000+ token / i fa t. 🚀<br>But what doe that actually unlock?<br><video width="1920" height="1080" rc="http ://video.twimg.com/amplify_
查看来源🚀 MiMo Code V0.1 i now live and open- ource！<br><br>More than an AI coding a i tant in your terminal — it' the marte t coding partner you
查看来源推荐理由常规版本更新，跟进即可