收紧的 Token 预算
今天一个大学同学找我聊了点儿 AI 相关的话题,我想起来问她,现在互联网公司们已经纷纷放弃 token maximization 策略,转而限制员工的 token 消耗上限了,之前你们要求每周最低消耗 3000 块钱的 token,现在还有这个要求吗?
答曰已经没有了,因为领导发现 ROI 太低,并且建议大家使用更便宜的模型。
如此看来我们公司还是先进(没钱),从一开始就是限制 token 使用量上限而非下限,并且一直在尝试各种方式鼓励大家降低 token 的消耗。而我前司,给研发配的 token 预算大约是一个月 20 美元,就更显得有先见之明了。
想到前几天朋友发我一篇文章,标题大概叫某大厂配发 token 或变相压缩员工涨薪空间,朋友说这个可不兴学啊,我说有带头的就会有跟随的,难以避免吧。