为什么你的大模型 Token 用得这么快?
兄弟们,先来一个灵魂拷问。
你是不是也这样:API key 刚充上,信心满满打开 Claude Code,准备让它给你写个项目。一杯咖啡还没凉呢,账单已经先凉了——1 亿 token,没了。
我跟你说,这事真的不是你一个人。最近全网哀嚎一片,搞 Code Agent 的兄弟们集体破防:「我就让它改个 bug 啊,怎么 100 块钱就这么没了?」
来,今天咱不卖关子,一篇讲清楚——你的 token 到底是被谁吃掉的。
一、先讲个反直觉的事:你以为是在聊天,其实是在群发
普通人用 ChatGPT,感觉就是「我说一句、它说一句」,对吧?
错。大模型没有记忆。你以为的「连续对话」,本质上是每问一句,把前面所有的话重新打包发一遍。
举个例子。你和它聊到第 10 轮。你以为你只发了一句「那这个函数怎么改」。实际上发出去的是:
系统提示词(几千字)+ 第 1 轮你说的 + 它回的 + 第 2 轮你说的 + 它回的 + …… + 第 10 轮你说的
懂了吗?每一次发言,都在为前面所有的废话重新付费。
这就好比你去自助餐,吃第 10 盘的时候老板跟你说:「不好意思,前面 9 盘也得重新算钱。」你说气不气。
二、Code Agent 是吞金兽,不是聊天机器人
如果说普通聊天是「滴水穿石」,那 Claude Code 这种 Code Agent 就是消防水龙头对着你钱包冲。
为啥?因为它干的活儿根本不是聊天,是真·打工。我给你拆开看:
1. 它要看代码
你让它修个 bug。它得先 ls 看看目录,然后 read 你的文件。一个文件 500 行?2000 token 进去了。它一口气读 10 个文件?2 万 token,眨眼没。
而且——它读完不是看完就忘,是塞进上下文,接下来每一轮对话都带着这 2 万 token 再算一遍钱。回到第一节的梗:自助餐第 10 盘,前 9 盘重新结账。
2. 它要跑命令
npm install、pytest、grep 一通操作,命令的输出全部回流到模型脑袋里。一个报错 stack trace 动不动就 800 行,全是钱。
3. 它要思考(而且话痨)
现在的模型流行「推理」「extended thinking」「先想再答」。听起来很高级是吧?翻译一下就是:它在你面前自言自语 5000 字之后,才告诉你那一行该怎么改。
而且划重点——输出 token 比输入 token 贵好几倍。Claude 的输出价格是输入的 5 倍。它越话痨,你越破产。
4. 它会自己开小号
最骚的是 subagent(子代理)。主 agent 干活干一半,觉得这事得专门找个「专家」来,于是 fork 一个子 agent。子 agent 自己又是一套系统提示词、一套上下文、一套工具调用……
一个任务,可能在背后悄悄开了 5 个 Claude 在并行打工。 你以为你雇了一个人,其实你养了一个项目组。
三、为什么你总感觉「比官网说的贵」
官网价格表写得清清楚楚:input 几块钱、output 几块钱,看着挺便宜。你掏出计算器一算,1 亿 token 应该能用一个月啊?
结果一天就没了。问题出在哪?
问题是 Agent 的工作方式是「轮次爆炸」的。
普通人聊天,10 轮就算长的了。Code Agent 干一个稍微复杂的任务,轻轻松松 50 轮起步。每一轮都把前面所有内容重算一遍,这不是线性增长,是平方级别往上飙。
我给你算笔账。假设:
- 系统提示词 + 工具定义:1 万 token
- 每轮你和它各产生 2000 token
- 一共 50 轮
第 1 轮花费:1 万 + 2000 = 1.2 万 第 2 轮花费:1 万 + 4000 = 1.4 万 …… 第 50 轮花费:1 万 + 10 万 = 11 万
把 50 轮加起来:约 280 万 token。
而这还只是一个任务。你一天干 30 个任务呢?8000 多万 token。再加上 subagent 各种开小号、读大文件、跑长命令——1 个亿真的就是一顿午饭的事。
四、那是不是有救?有救的,朋友
讲完了焦虑,必须给点干货,不然就成了纯卖惨。省 token 这事其实有几个真实有效的招:
1. 用好缓存(Prompt Caching)
Claude 是支持缓存的,重复的系统提示词、长文档可以打个标记,命中缓存的部分价格直接打到一折。这是目前最大的省钱杠杆,没有之一。
2. 别什么文件都让它读全文
让它先 grep / glob 找到关键位置,再用 offset/limit 精读那几行。一个 2000 行的文件,可能你只需要其中 30 行。
3. 任务拆小,及时清上下文
干完一件事就开新会话。别让一个 session 拖到天荒地老——你以为是「连续作战」,实际上是「滚雪球收费」。
4. 警惕「让 agent 自由发挥」
你越是甩手掌柜「你看着办」,它越要疯狂探索、疯狂调用工具、疯狂烧钱。指令越具体,路径越短,账单越好看。
5. 选对模型
不是所有活儿都得 Opus 出马。Haiku 干活也很猛,便宜将近 10 倍。用 Sonnet/Haiku 干粗活,关键节点再上 Opus——这叫合理排兵布阵。
五、最后说句人话
Code Agent 烧 token,这事没法根治,因为它的工作模式就决定了它得这么烧。它不是在跟你聊天,它是在你电脑上真的打工——读代码、跑命令、试方案、改错误、再试一遍。
你花的不是「聊天费」,是**「雇了个 7×24 不喊累的实习生」的工资**。
一个亿 token 听起来很多,但摊到一个真·能干活的 AI 身上,其实就是几顿饭钱。关键是别让它瞎跑,跑得越精准,你的钱包越安全。
下次再看到账单暴雷,别慌——回来翻翻这篇,然后默念三遍:
缓存要开、文件别全读、任务要拆小、模型按需选。
行了,今天就唠到这。觉得有用,记得点赞收藏转发——啊不对,这是写写贴,那就……记得回来看《十万个为什么》第二期。
我们下期见。