第 3 章:拆开一次运行
本章目标:把第 1 章那次运行的三轮逐一摊开,看清每一轮发了什么、花了多少;再跑几次,看它的结论和路线会不会变。
开篇:4.4 秒里发生了什么
第 1 章那次运行,从提问到回答 4.4 秒,花了约 7 厘钱。看起来就是问了一句、答了一句。
可在幕后,程序和模型来回说了三轮话,每一轮发给模型的内容都比上一轮长。这一章把这三轮一轮一轮拆开,再把同一个问题多跑几次。
学完这一章,你能:
- 读懂一次 Agent 运行的记录:每一轮做了什么、花了多少
- 说清 Agent 为什么比聊天贵,而且步数越多贵得越快
- 明白 Agent 每次走的路、给的结论都可能不同,以及怎么让它稳定下来
3.1 三轮的账
| 轮 | 发给模型的(输入 token) | 模型写的(输出 token) | 模型做了什么 |
|---|---|---|---|
| 1 | 329 | 29 | 「我先看看文件夹里都有哪些笔记」,调用 list_files |
| 2 | 440 | 246 | 一次要了 6 个 read_file,每篇笔记一个 |
| 3 | 985 | 215 | 读完了,写最终回答 |
| 合计 | 1754 | 490 | 4.4 秒,约 0.0074 元 |
同一个问题在聊天模式下:输入 23 个 token,输出 147 个,约 0.0012 元。Agent 这次贵了 6 倍左右。
钱都花在哪了?一轮一轮看。
3.2 第 1 轮:还没干活,先花了 300 个 token
问题本身只有 23 个 token,第 1 轮的输入却有 329 个。多出来的 300 来个,是两个工具的说明书:名字、用途、参数,全部要发给模型,它才知道有什么可用。
而且这份说明书每一轮都要重新发一次。给 Agent 的工具越多,每一轮的固定开销越大。这也是为什么不该「把所有工具都塞给它」:用不上的工具,照样每轮收钱,还会让它更容易选错。
3.3 第 2 轮:一次要了 6 个工具
第 2 轮,它拿到了 6 个文件名,没有一篇一篇地读,而是一次性要求调用 6 次 read_file。程序把 6 篇都读出来,一起交回去。
这叫并行调用。好处是省轮数:如果一篇一篇读,要多跑 5 轮,每轮都得把前面所有内容重发一遍。
246 个输出 token 几乎都是这 6 个调用请求:每个都要写清楚工具名和文件名。
3.4 第 3 轮:读完再答
第 3 轮的输入涨到了 985 个 token:前两轮的全部对话,加上 6 篇笔记的全文。模型读完这一大段,不再要工具,写出了最终回答。
3.5 为什么越滚越多
模型没有记忆(《大模型 API 调用》第 2 章讲过)。每一轮,程序都要把从第一句开始的全部内容再发一遍:任务、工具说明、它之前说的话、所有工具的返回结果。
所以:
- 每多一轮,这一轮的输入就包含前面所有轮的内容
- 工具返回的东西越长(比如读了一篇长文),后面每一轮都得带着它
- 步数翻倍,总花费不止翻倍
这次只有 3 轮、6 篇短笔记,所以不到一分钱。要是让它翻一个有几百个文件的文件夹、每篇几千字,同样的做法,账单会大得多。这也是很多 Agent 产品会设「最多跑多少步」的原因。
3.6 再跑一次:结论变了
同一个问题、同一个文件夹,原样再跑一次。三轮的走法几乎一样(输入 329、438、973),最终回答却不同(未改一字):
我读完了全部 6 篇笔记,其中 3 篇还有没做完的事:
| 笔记名 | 要做的事 |
|---|---|
| **2026-10-12-周报生成器** | 第 4 章的流式输出还没试 |
| **2026-10-28-读书笔记-深度工作** | ①第 3 部分还没读完,读完补上;②整理书里的四条规则 |
| **2026-11-08-Git入门** | git restore 和 git reset 的区别还没搞懂 |
另外 3 篇笔记没有待办事项:
- **2026-10-20-Markdown表格**:纯知识点记录
- **2026-11-02-环境变量**:纯操作笔记
- **2026-11-05-想法**:两个想法(分拣助手处理邮件、周报生成器加「上周对比」)。这两条写得像待办,但笔记里没有标成 TODO,要不要也算进待办清单,由你决定。第 1 次说 4 篇,这次说 3 篇。分歧全在「想法.md」:两条点子算不算「没做完的事」?
两次它都读到了同样的内容,只是判断不同。你没说清的规矩,它每次自己定,每次可能定得不一样。 这和《Prompt 工程》第 1 章分留言时遇到的是同一个问题。
办法也一样:把规矩说清楚。问题改成「哪些笔记还有没做完的事?只算明确写了 TODO 的。 列出笔记名和要做的事」,再跑三次:三次都是 3 篇,「想法.md」都没有算进去。
3.7 换个问题:走的路也不一样
再问一个文件夹里找不到答案的问题:
看看我那篇讲 Docker 的笔记写了什么,给我总结三句话。跑了两次,结论都对:没有讲 Docker 的笔记。但走的路完全不同:
| 第 1 次 | 第 2 次 | |
|---|---|---|
| 第 1 轮 | 列出文件 | 列出文件 |
| 第 2 轮 | 一口气读了全部 6 篇 | 只读了「想法」 |
| 第 3 轮 | 回答:没有 Docker 笔记 | 又读了「环境变量」和「Git 入门」 |
| 第 4 轮 | — | 回答:没有 Docker 笔记,并注明「周报生成器那篇我没打开,但文件名与 Docker 无关」 |
| 总输入 token | 1734 | 1991 |
第 2 次更省着读,却多跑了一轮,总花费反而差不多。它还老实交代了哪篇没打开。
Agent 每次走的路不固定。 这对你意味着两件事:同一件事的花费和用时会有波动;出了问题要排查时,得看那一次具体的运行记录,而不是想当然。好的 Agent 产品都会把每一步摊给你看,就是这个原因。
幕后(可选)
本章表格里的数字,来自循环里每一轮记下的 resp.usage:
print(f"[第 {step} 轮] 输入 {resp.usage.prompt_tokens} / 输出 {resp.usage.completion_tokens} token")第 1 章那次运行的原始记录:
[第 1 轮] 输入 329 / 输出 29 token → 调用 list_files()
[第 2 轮] 输入 440 / 输出 246 token → 调用 read_file(周报生成器);read_file(Markdown表格);read_file(读书笔记-深度工作);read_file(环境变量);read_file(想法);read_file(Git入门)
[第 3 轮] 输入 985 / 输出 215 token → 给出最终回答
共 3 轮,输入 1754 / 输出 490 token,4.4 秒,约 0.0074 元(文件名省略了日期前缀。)
试一试
- [ ] 用 AI 编程工具或带搜索的 AI 做一件事时,留意它展示出来的每一步:它调用了什么、读了什么
- [ ] 想一想:如果第 1 章的文件夹有 600 篇笔记,「一口气全读」还是好办法吗?你会怎么给它定规矩?
本章小结
| 要点 | 说明 |
|---|---|
| 固定开销 | 工具说明每一轮都要重发;工具越多越贵 |
| 并行调用 | 一次要多个工具,能少跑几轮 |
| 越滚越多 | 每一轮都重发前面的全部内容;步数翻倍,花费不止翻倍 |
| 结论会变 | 没说清的规矩,它每次自己定;说清楚就稳了 |
| 路线会变 | 同一件事每次走的路不同;排查问题要看那一次的运行记录 |
下一章预告
到目前为止,它只能看,不能改。如果给它一个「删除文件」的工具呢?
下一章让它清理笔记文件夹:有时它会停下来问你,有时它真的删了,有一次还删错了。