智谱新模型,490 tokens/s!

听雨 发自 凹非寺 量子位 | 公众号QbitAI 智谱上新了一个 GLM-5.3-Highspeed 模型,就在Zcode里。 据网友@leo114119爆料,这个新模型目前已经在Zcode 3.15.1里开放体验,订阅用户随机获得。 他晒出来的速度,甚至达到了 490 tokens/s 。 我也第一时间去Zcode里试了试,尝试手动添加并切换了这个模型。 但不知道是因为Lite套餐用户还不具备享受资格,还是因为没灰度到。。。 只能先望洋兴叹了(:з」∠) GLM-5.3高速版来了? 既然是高速模型,那最值得关注的当然是 速度 了。 490TPS ——这个网友晒出来的速度数字,也是相当恐怖了,接近500TPS。 TPS指的是每秒生成的token数量。如果持续保持这一速度,输出1万token,单算生成阶段约需20秒。 要知道,上个月智谱刚发布的GLM-5.3-FlashX,最高速度也才200 tokens/s。 而按照Artificial Analysis的测速,GLM-5.3-Flash在Z.ai API上的输出速度约为60 tokens/s。 这新模型是什么速度仙人啊??? 而且GLM-5.3-Highspeed这个名字,此前已有迹象。 Pi的模型目录已经收录了GLM-5.3-Highspeed。 在这份目录中,GLM-5.3-Highspeed上下文窗口为100万token,最大生成token上限为131,072,约128k;还划分了low、high、max三档思考强度配置。 不过,这些配置与GLM-5.3普通版也都是一致的。 此外,也有网友在reddit上讨论过这款新模型,并猜测它是否与OpenCode上的匿名模型 Omen Alpha 有关。 Omen Alpha在9月份刚刚上新OpenCode,基本已经被网友扒出来与GLM有关。 还有网友实测了下鹈鹕踩单车的水平。。 总结来说就是: 速度快,思考久,效果还蛮好 。 至于Omen Alpha到底是什么模型,也是众说纷纭。 有人说它就是GLM-5.3-Highspeed,也有人猜GLM-5.3-Omni、GLM-5.4-Flash。 此前,智谱也推出过高速版模型。 今年5月,智谱推出了 GLM-5.1-highspeed ,模型输出速度为400tokens/s,在当时基本也是刷新了全球大模型厂商API的速度上限。 这回的GLM-5.3-Highspeed如果真能达到490 TPS的水平,那对于长程任务来说,速度也是相当可观的了。 目前这款新模型还在Zcode里随机灰度中,如果有灰度到的网友,欢迎分享你的实测体验呀!! 参考链接: [1]https://x.com/leo114119/status/2109148486239215803 [2]https://pi.dev/models/zai/glm-5-3-highspeed?name=pi+workspace+history [3]https://www.reddit.com/r/ZaiGLM/comments/1wfdfcg/glm53_highspeed/ 特别

about image