Skip to content

第 4 章:Function Calling:让它调用你的函数 ​

本章目标:学会把自己的函数「介绍」给模型,看懂它返回的调用请求;实测两种用法:让它调用函数查资料、让它调用函数做事情,弄清哪种划算。

开篇:从「给我一份数据」到「帮我调用这个」 ​

前三章,模型输出的都是一份数据,程序拿去自己处理。Function Calling 换了个方向:你告诉模型「我这里有这些函数可以用」,它在需要的时候说「请帮我调用某个函数,参数是这些」。

《AI Agent 科普》第 2 章讲过这件事的原理:模型从头到尾不执行任何函数,它只是提要求,执行的是你的程序。 这一章讲怎么写。

学完这一章,你能:

  • 用 JSON Schema 描述一个函数,交给模型
  • 从返回里读出它要调用哪个函数、参数是什么
  • 判断一件事适合「让它调用函数」,还是「直接把材料给它」

4.1 两种用法 ​

Function Calling 的两种用法:查资料,结果要交回给模型接着写;做事情,程序执行完就结束,不用再问模型

用法例子函数结果交回给模型吗
查资料写回复前,调用 search_faq 查常见问题清单要:它看完结果才能写回复,要跑好几轮
做事情读到纠错留言,调用 create_fix_task 建一条待办不用:程序把待办存好就完了,一轮结束

两种都试一下。


4.2 用法一:查资料 ​

《Prompt 工程》第 7 章的做法,是把 7 条常见问题清单整份塞进每一条回复的 Prompt 里。换成 Function Calling:清单不塞了,给它一个查清单的函数,让它自己查。

函数的「介绍」是这样写的:

python
TOOLS = [{"type": "function", "function": {
    "name": "search_faq",
    "description": "按关键词查博主的常见问题清单,返回最相关的一两条;查不到会说没有",
    "parameters": {"type": "object", "properties": {
        "query": {"type": "string", "description": "要查的关键词,比如「Python 版本」「视频」"}},
        "required": ["query"]}}}]

parameters 这一块就是第 2 章说的 JSON Schema:参数叫什么、什么类型、哪些必填。函数本身(search_faq 在清单里按关键词找)就是普通的 Python,模型看不到。

同样 14 条要回的留言,两种做法各跑一次:

整份塞进 Prompt让它调用 search_faq
调用函数次数033 次(每条 1~4 次)
输入 / 输出 token8506 / 37024794 / 1528
花费约 0.020 元约 0.062 元
用时(14 条并发)2.9 秒4.8 秒
交给你的(需人工)第 17 条第 3、6、17、20 条

贵了 3 倍,效果还更差。 第 3 条(环境变量怎么永久保存)和第 20 条(能出视频版吗),清单里明明有答案,它查了好几次,最后还是交给了你。它查第 3 条用的关键词是(未改一字):

text
Windows 环境变量 永久保存
环境变量
大模型 API 调用 第 6 章 长期保存
setx 系统属性 环境变量设置

查了四次,越查越拿不准。

贵的原因在《AI Agent 科普》第 3 章说过:每多一轮,就要把前面的全部内容重发一遍。一条留言查两次,就是三轮。

结论:资料少的时候,直接塞进 Prompt。 7 条清单不到 300 字,塞进去模型一眼看全,又快又准。等清单变成几百篇文章,塞不下了,才需要「先查再答」,而那时候光靠关键词查也不够用,要换成 Lv4 的 RAG。


4.3 用法二:做事情 ​

第二种用法才是 Function Calling 的主场。

《Prompt 工程》第 6 章的第 2 步,是让模型输出「编号|位置|要我做的事」,再由程序拆开。换成两个函数:

python
TOOLS = [
  {"type": "function", "function": {
    "name": "create_fix_task",
    "description": "读者指出文章有错、有遗漏、已过时时,建一条待核对的任务",
    "parameters": {"type": "object", "properties": {
      "comment_id": {"type": "integer", "description": "留言编号"},
      "location": {"type": "string", "description": "文章哪一处:第几步、哪个链接、哪一段、哪个数字;说不清就写「未指明」"},
      "todo": {"type": "string", "description": "要我核对或修改什么,动词开头,不超过 15 个字"}},
      "required": ["comment_id", "location", "todo"]}}},
  {"type": "function", "function": {
    "name": "add_topic",
    "description": "读者希望以后写某个主题、或者催更时,把选题记进选题池",
    "parameters": {"type": "object", "properties": {
      "comment_id": {"type": "integer"},
      "topic": {"type": "string", "description": "选题,不超过 10 个字,比如「RAG 入门」「视频版」"}},
      "required": ["comment_id", "topic"]}}},
]

把 23 条留言(20 条测试留言加 3 条捣乱的)一次性发过去,Prompt 里说清哪类留言调哪个函数。第 1 次运行,模型一次回复里就要求了 8 次调用(未改一字):

text
create_fix_task {"comment_id": 2, "location": "第 3 步的 pip install 命令", "todo": "补上 openai 依赖"}
add_topic {"comment_id": 4, "topic": "RAG 入门"}
create_fix_task {"comment_id": 7, "location": "文中周报成本 0.0015 元一处", "todo": "核对成本算没算错零"}
create_fix_task {"comment_id": 8, "location": "文中第二个链接", "todo": "换掉 404 的链接"}
create_fix_task {"comment_id": 15, "location": "文中 deepseek-chat 模型名", "todo": "核对模型名现状"}
create_fix_task {"comment_id": 19, "location": "第 5 章 max_tokens 那段说明", "todo": "核对 max_tokens 解释"}
add_topic {"comment_id": 20, "topic": "视频版"}
add_topic {"comment_id": 23, "topic": "RAG 入门"}

每一个参数都是现成的:程序直接拿 comment_id、location、todo 存进待办清单,不用再拆字符串。

跑三次:

第 1 次第 2 次第 3 次
建核对任务2、7、8、15、192、7、8、15、192、6、7、8、15、19
记选题4、20、234、20、234、20、23
用时3.2 秒2.8 秒4.1 秒
花费约 0.007 元约 0.007 元约 0.008 元

5 条纠错三次都建了任务,地方和要做的事写得清清楚楚。两处不稳:

  • 第 3 次把第 6 条(写得很好,就是图太少)也建成了核对任务,可它更像是建议
  • 第 10 条(已三连,坐等下一篇)三次都没记成选题:它是催更,但没说想看什么

这两条恰好都是《Prompt 工程》第 1、2 章那几条「规矩没说清」的留言。第 5 章会用同样的办法补上。


4.4 读返回:和 Agent 那一章一模一样 ​

模型要调用函数时,返回的不是正文,而是 tool_calls:

python
msg = resp.choices[0].message
for call in msg.tool_calls or []:
    name = call.function.name                       # 调哪个函数
    args = json.loads(call.function.arguments)      # 参数,是一段 JSON 字符串
    if name == "create_fix_task":
        save_task(args["comment_id"], args["location"], args["todo"])
    elif name == "add_topic":
        save_topic(args["comment_id"], args["topic"])

和《AI Agent 科普》第 2 章那段循环比,这里少了一步:做事情的函数,执行完不用把结果交回给模型,所以不需要循环,一次调用就结束。查资料的那种才需要循环。

arguments 是模型写的一段 JSON,和第 3 章一样,最好也校验一下再用。比如 comment_id 是不是真的在这批留言里。

给它的函数,就是给它的权限

create_fix_task 和 add_topic 只是往你自己的清单里加一行,出错了删掉就好。别顺手给它一个 send_reply(直接把回复发出去):发出去的东西撤不回来。《AI Agent 科普》第 4 章的三道保险,在这里一样适用。


试一试 ​

  • [ ] 照 4.3 写两个函数的介绍,用你自己的几条留言跑一次,打印出 tool_calls
  • [ ] 把 add_topic 的 description 改得更具体(比如加一句「只说催更、没提主题的,topic 写「催更」」),看第 10 条会不会被记上
  • [ ] 想一想:你手头有什么事,是「从一段文字里挑出信息,再填进某个系统」?它适合用 Function Calling 吗?

本章小结 ​

要点说明
函数介绍名字 + 说明 + 用 JSON Schema 写的参数;说明也是 Prompt
返回tool_calls 里有函数名和一段 JSON 参数;执行的是你的程序
查资料结果要交回给模型,要跑多轮;资料少时不如直接塞进 Prompt(实测贵 3 倍、还更拿不准)
做事情程序执行完就结束,一轮搞定;参数现成可用,最适合「挑信息、填系统」
权限只给能撤销的函数;会对外发东西的别给

下一章预告 ​

零件齐了:JSON 输出、Pydantic 校验、Function Calling 记待办。最后一章把它们装进分拣助手:分类用 JSON 加校验,纠错和建议直接记成待办,回复也用 JSON 输出判断栏。

👉 第 5 章:综合实战:分拣助手 JSON 版

本文阅读--次|全站访问--次|访客--人