智谱AI当日精选
GLM-5.2 发布,性能对标 Opus 4.8,支持 1M 上下文,采用新 IS 注意力机制,并已在 transformers、vLLM、SGLang 中可用
多源视角
RT Zixuan Li<br>GLM-5.2 is now available in @NotionHQ.<br><img width="1200" height="1200" style="" src="https://pbs.twimg.com/media/HK9kl5TX0AAuzs9?format=jpg&name=orig" referr…
查看这条来源RT @ZixuanLi_: Thanks for all the feedback. GLM-5.2 will begin rolling out to all Coding Plan users in 3 hours.
查看这条来源AI 摘要
GLM-5.2 发布,性能对标 Opus 4.8,支持 1M 上下文窗口。其采用新的 IS 注意力机制,每 4 个稀疏层复用 1 个索引器,在 1M 上下文下每 token FLOPs 降低 2.9 倍;改进了 MTP 层用于推测解码,并支持灵活的思考努力级别。模型发布首日即在 transformers、vLLM、SGLang 中可用,采用 MIT 许可证。对开发者而言,可立即在主流推理框架中使用,并受益于长上下文和推理效率提升。 核心观点: 1. IS 注意力机制每 4 个稀疏层复用 1 个索引器,在 1M 上下文下每 token FLOPs 降低 2.9 倍。 2. GLM-5.2 发布首日即支持 transformers、vLLM、SGLang,采用 MIT 许可证。
推荐理由高信息密度,值得细读
原文
无法获取正文,可打开下方原始链接查看。
GLM-5.2IS注意力1M上下文推测解码MIT许可证推理效率69/100
讨论
暂无评论。