14 Say Something

Token 节省

之前的日记里提到过,我们公司近期开始采取各种手段限制 token 浪费行为,比如基本上只有开发紧急需求的研发才能用上 opus 4.6 模型,其他任务只能用 sonnet 等更便宜的模型。比如限制对于 MCP 的使用,检测到非白名单的 MCP 就会进行告警,并对 token 进行双倍计费等。

随着 GPT 5.5 模型的发布,我自己个人在 AI 工具上的花费也必须进行良好的管控才能最大化避免浪费了。之前OpenAI 的 token 价格比 opus 便宜很多,而 5.5 发布之后价格已经超越了 opus 4.7。开始我并未意识到这个价格的变化,毕竟是订阅的 coding plan,没有很在意 API 的计费体系。

然而随便折腾了一点儿小玩意儿之后,发现新模型极易触发 5h rate limit,通常来说不到一小时就能触发,而这一小时里甚至可能一个任务都没执行完。

上个周末我在做一个玩具,很快就烧光了 5 小时配额,很明显如果以这个消耗速度,ChatGPT plus 订阅里包含的 token 使用量将会像 Google AI pro 订阅里包含的配额一样,几乎没什么用了。我不得不思考接下来应该怎么做,才不至于白白浪费很多钱在 token 上。

其实我又那么一瞬间想着实在不行订阅 20x 的 ChatGPT 算了,不过 1s 之后就放弃了这个想法,200 刀的价格除非我能通过这东西挣钱,否则那就是在毫无意义地挥霍。

首先梳理了一下当前手里已经有的 token 来源,国外的大模型御三家里我订阅了 Google 的 Gemini 和 OpenAI 的 ChatGPT plus,都是 20 刀的方案(Google 的 plan 是在打折时以半价订阅)。

目前这两个 plan 里,Google 的 antigravity 几乎属于不可用,基本上半小时内就会触发限额,而这个限额触发前会显示 5 小时后重置,真正到了 5 小时,就会变成一周以后才重置了。但我并没有放弃 Gemini,因为其网页版还是可用的,并且附带原来是 2T 后来涨到了 5T 的 Google drive 空间。多年以来我一直有订阅 Google drive 2T plan 的,现在加上了 AI 价格变贵了,倒也可以接受。

而 ChatGPT plus 里包含的 codex,则是用来 vibe 的主力套餐,在 GPT 5.5 这个模型的费率之下基本也不可用了。限制花费的第一步,跟公司的做法一样,限制使用高级模型。不像此前那样不太关心任务是否需要用到高级模型和更高的推理强度,默认就用最高级的模型。

现在则是非必要不使用 5.5,effort 也尽量不适用 x high,自己判断一下任务难度,选个低阶的模型和更低的 effort 来做,这招效果立竿见影,消耗速度肉眼可见变慢。

此外是合理搭配不同的服务商来使用,前面提到 antigravity 给的 token 量少到几乎不可用,但多少还是有一些的,在 codex 5h rate limit 之后的冷却时间里可以先用 antigravity 顶一下,而且还能用到 Claude 的模型。

而在这之外,也要看备用的模型提供商了。海外御三家里的另外一家 Claude code,我当然也曾想尝试订阅,无奈封号太严重,而且需要海外手机号才能注册。尽管我其实有个手机号,但是网络环境不佳非常容易被封号,于是也就没有非要去注册了。

那么自然而然地,目光要投向国内的模型厂商了。Kimi 是个不错的选择,自打 2.5 之后获得了开发者的广泛认可,而 2.6 的能力则更上一层楼。然而 Kimi 最适合的一个 plan Allegretto 每个月的费用是 199 蚊,如果加上另外两个订阅,每个月花在这上面的钱就太多了。尤其是,这 199 蚊的订阅给的 token 量应当是很足的,如果只是当个备用肯定消耗不掉多少,每天都在浪费钱的感觉想必也不好。

恰逢 DeepSeek 久违地发布了他们的新一代模型 DeepSeek V4 Preview,包含 flash 和 pro 两个模型,flash 极其便宜,而 pro 限时 2.5 折, 5 月 5 日之前可以用 1/4 的价格体验 V4 Pro。DeepSeek 目前是没有 coding plan 的,都是按用量计费,这样的话比较符合我的需求,也就是在主力模型 rate limit 时临时拿来顶一下,用多少花多少钱,不会订阅一个备用模型每天不怎么用一直在浪费。

于是先充了 100 块钱体验,给几台机器都配上,用 pro 模型聊了半天才花了几块钱人民币,相当便宜。尽管 5 月 5 日之后就会贵 3 倍,但作为应急使用也不会花多少钱,况且还可以用价格更低的 flash 模型,反正我的很多小需求都是用 flash 就能满足的。

在我的小主机上配置好之后,还意外解决了一个以前困扰我的问题,就是海外模型在梯子断了时就不可用了。近期墙的干扰力度显著增强,很多梯子都变得极其不稳定或者干脆不可用,这也包括我自己订阅的梯子。而前几天就有一次我部署在小主机上的 claw 突然掉线了,排查下了其实是梯子的问题。

此时我已经习惯了用 Agent 来处理梯子的问题,在梯子不可用时就没有 Agent 能帮我处理这个问题了,而 DeepSeek 作为国内的服务提供商不需要梯子就能正常运作,遇到这种情况正好可以拿来救场。

总结一下,现在的方案是两个海外的订阅 + 国内 DeepSeek 的按量付费作为备用,可以在尽量少浪费钱的情况下满足自己的日常需求。

这一行的发展日新月异,相信用不了多久我的方案也会随之改变。

#折腾