第 4 章:Function Calling:让它调用你的函数
本章目标:学会把自己的函数「介绍」给模型,看懂它返回的调用请求;实测两种用法:让它调用函数查资料、让它调用函数做事情,弄清哪种划算。
开篇:从「给我一份数据」到「帮我调用这个」
前三章,模型输出的都是一份数据,程序拿去自己处理。Function Calling 换了个方向:你告诉模型「我这里有这些函数可以用」,它在需要的时候说「请帮我调用某个函数,参数是这些」。
《AI Agent 科普》第 2 章讲过这件事的原理:模型从头到尾不执行任何函数,它只是提要求,执行的是你的程序。 这一章讲怎么写。
学完这一章,你能:
- 用 JSON Schema 描述一个函数,交给模型
- 从返回里读出它要调用哪个函数、参数是什么
- 判断一件事适合「让它调用函数」,还是「直接把材料给它」
4.1 两种用法
| 用法 | 例子 | 函数结果交回给模型吗 |
|---|---|---|
| 查资料 | 写回复前,调用 search_faq 查常见问题清单 | 要:它看完结果才能写回复,要跑好几轮 |
| 做事情 | 读到纠错留言,调用 create_fix_task 建一条待办 | 不用:程序把待办存好就完了,一轮结束 |
两种都试一下。
4.2 用法一:查资料
《Prompt 工程》第 7 章的做法,是把 7 条常见问题清单整份塞进每一条回复的 Prompt 里。换成 Function Calling:清单不塞了,给它一个查清单的函数,让它自己查。
函数的「介绍」是这样写的:
TOOLS = [{"type": "function", "function": {
"name": "search_faq",
"description": "按关键词查博主的常见问题清单,返回最相关的一两条;查不到会说没有",
"parameters": {"type": "object", "properties": {
"query": {"type": "string", "description": "要查的关键词,比如「Python 版本」「视频」"}},
"required": ["query"]}}}]parameters 这一块就是第 2 章说的 JSON Schema:参数叫什么、什么类型、哪些必填。函数本身(search_faq 在清单里按关键词找)就是普通的 Python,模型看不到。
同样 14 条要回的留言,两种做法各跑一次:
| 整份塞进 Prompt | 让它调用 search_faq | |
|---|---|---|
| 调用函数次数 | 0 | 33 次(每条 1~4 次) |
| 输入 / 输出 token | 8506 / 370 | 24794 / 1528 |
| 花费 | 约 0.020 元 | 约 0.062 元 |
| 用时(14 条并发) | 2.9 秒 | 4.8 秒 |
| 交给你的(需人工) | 第 17 条 | 第 3、6、17、20 条 |
贵了 3 倍,效果还更差。 第 3 条(环境变量怎么永久保存)和第 20 条(能出视频版吗),清单里明明有答案,它查了好几次,最后还是交给了你。它查第 3 条用的关键词是(未改一字):
Windows 环境变量 永久保存
环境变量
大模型 API 调用 第 6 章 长期保存
setx 系统属性 环境变量设置查了四次,越查越拿不准。
贵的原因在《AI Agent 科普》第 3 章说过:每多一轮,就要把前面的全部内容重发一遍。一条留言查两次,就是三轮。
结论:资料少的时候,直接塞进 Prompt。 7 条清单不到 300 字,塞进去模型一眼看全,又快又准。等清单变成几百篇文章,塞不下了,才需要「先查再答」,而那时候光靠关键词查也不够用,要换成 Lv4 的 RAG。
4.3 用法二:做事情
第二种用法才是 Function Calling 的主场。
《Prompt 工程》第 6 章的第 2 步,是让模型输出「编号|位置|要我做的事」,再由程序拆开。换成两个函数:
TOOLS = [
{"type": "function", "function": {
"name": "create_fix_task",
"description": "读者指出文章有错、有遗漏、已过时时,建一条待核对的任务",
"parameters": {"type": "object", "properties": {
"comment_id": {"type": "integer", "description": "留言编号"},
"location": {"type": "string", "description": "文章哪一处:第几步、哪个链接、哪一段、哪个数字;说不清就写「未指明」"},
"todo": {"type": "string", "description": "要我核对或修改什么,动词开头,不超过 15 个字"}},
"required": ["comment_id", "location", "todo"]}}},
{"type": "function", "function": {
"name": "add_topic",
"description": "读者希望以后写某个主题、或者催更时,把选题记进选题池",
"parameters": {"type": "object", "properties": {
"comment_id": {"type": "integer"},
"topic": {"type": "string", "description": "选题,不超过 10 个字,比如「RAG 入门」「视频版」"}},
"required": ["comment_id", "topic"]}}},
]把 23 条留言(20 条测试留言加 3 条捣乱的)一次性发过去,Prompt 里说清哪类留言调哪个函数。第 1 次运行,模型一次回复里就要求了 8 次调用(未改一字):
create_fix_task {"comment_id": 2, "location": "第 3 步的 pip install 命令", "todo": "补上 openai 依赖"}
add_topic {"comment_id": 4, "topic": "RAG 入门"}
create_fix_task {"comment_id": 7, "location": "文中周报成本 0.0015 元一处", "todo": "核对成本算没算错零"}
create_fix_task {"comment_id": 8, "location": "文中第二个链接", "todo": "换掉 404 的链接"}
create_fix_task {"comment_id": 15, "location": "文中 deepseek-chat 模型名", "todo": "核对模型名现状"}
create_fix_task {"comment_id": 19, "location": "第 5 章 max_tokens 那段说明", "todo": "核对 max_tokens 解释"}
add_topic {"comment_id": 20, "topic": "视频版"}
add_topic {"comment_id": 23, "topic": "RAG 入门"}每一个参数都是现成的:程序直接拿 comment_id、location、todo 存进待办清单,不用再拆字符串。
跑三次:
| 第 1 次 | 第 2 次 | 第 3 次 | |
|---|---|---|---|
| 建核对任务 | 2、7、8、15、19 | 2、7、8、15、19 | 2、6、7、8、15、19 |
| 记选题 | 4、20、23 | 4、20、23 | 4、20、23 |
| 用时 | 3.2 秒 | 2.8 秒 | 4.1 秒 |
| 花费 | 约 0.007 元 | 约 0.007 元 | 约 0.008 元 |
5 条纠错三次都建了任务,地方和要做的事写得清清楚楚。两处不稳:
- 第 3 次把第 6 条(写得很好,就是图太少)也建成了核对任务,可它更像是建议
- 第 10 条(已三连,坐等下一篇)三次都没记成选题:它是催更,但没说想看什么
这两条恰好都是《Prompt 工程》第 1、2 章那几条「规矩没说清」的留言。第 5 章会用同样的办法补上。
4.4 读返回:和 Agent 那一章一模一样
模型要调用函数时,返回的不是正文,而是 tool_calls:
msg = resp.choices[0].message
for call in msg.tool_calls or []:
name = call.function.name # 调哪个函数
args = json.loads(call.function.arguments) # 参数,是一段 JSON 字符串
if name == "create_fix_task":
save_task(args["comment_id"], args["location"], args["todo"])
elif name == "add_topic":
save_topic(args["comment_id"], args["topic"])和《AI Agent 科普》第 2 章那段循环比,这里少了一步:做事情的函数,执行完不用把结果交回给模型,所以不需要循环,一次调用就结束。查资料的那种才需要循环。
arguments 是模型写的一段 JSON,和第 3 章一样,最好也校验一下再用。比如 comment_id 是不是真的在这批留言里。
给它的函数,就是给它的权限
create_fix_task 和 add_topic 只是往你自己的清单里加一行,出错了删掉就好。别顺手给它一个 send_reply(直接把回复发出去):发出去的东西撤不回来。《AI Agent 科普》第 4 章的三道保险,在这里一样适用。
试一试
- [ ] 照 4.3 写两个函数的介绍,用你自己的几条留言跑一次,打印出
tool_calls - [ ] 把
add_topic的description改得更具体(比如加一句「只说催更、没提主题的,topic 写「催更」」),看第 10 条会不会被记上 - [ ] 想一想:你手头有什么事,是「从一段文字里挑出信息,再填进某个系统」?它适合用 Function Calling 吗?
本章小结
| 要点 | 说明 |
|---|---|
| 函数介绍 | 名字 + 说明 + 用 JSON Schema 写的参数;说明也是 Prompt |
| 返回 | tool_calls 里有函数名和一段 JSON 参数;执行的是你的程序 |
| 查资料 | 结果要交回给模型,要跑多轮;资料少时不如直接塞进 Prompt(实测贵 3 倍、还更拿不准) |
| 做事情 | 程序执行完就结束,一轮搞定;参数现成可用,最适合「挑信息、填系统」 |
| 权限 | 只给能撤销的函数;会对外发东西的别给 |
下一章预告
零件齐了:JSON 输出、Pydantic 校验、Function Calling 记待办。最后一章把它们装进分拣助手:分类用 JSON 加校验,纠错和建议直接记成待办,回复也用 JSON 输出判断栏。