Skip to content

第 7 章:换一家模型只改两行 ​

本章目标:理解「OpenAI 兼容接口」是什么,把周报生成器改成换一家服务商只改配置、不改代码。

开篇:只认一家的风险 ​

到现在为止,周报生成器只认 DeepSeek。这没什么不好,但总有一天你会想换:

  • 某家涨价了,或者出了更便宜的模型
  • 某家限流、宕机,周五下午正好用不了
  • 公司规定只能用某一家(比如已经采购了阿里云)

如果每换一家就要重写一遍代码,你就被绑死了。好在大部分国内外模型服务商都做了同一件事,让你换家只改两个值。

学完这一章,你能:

  • 说清「OpenAI 兼容接口」是什么、为什么各家都支持
  • 用一份配置表管理多家服务商,靠环境变量切换
  • 用实测数据判断「贵的模型值不值」

7.1 为什么改两行就够 ​

第 1 章装的是 OpenAI 的 SDK,却连上了 DeepSeek,靠的就是 base_url 这一行。

OpenAI 最早定下了 /chat/completions 这套请求和响应的格式:发 messages,回 choices[0].message.content 和 usage。用的人多了,后来的服务商为了让开发者「零成本迁移」,纷纷提供格式一模一样的接口,这就叫 OpenAI 兼容接口。

同一份代码只需改 base_url 和 model 两个值,就能连到 DeepSeek、通义千问、Kimi、OpenAI

所以换一家,只有两个值要变:去哪里(base_url)和找谁(model)。Key 当然也换成那一家的。

写这一章时,几家的接入信息如下(来自各家官方文档):

服务商base_urlKey 的环境变量文档示例里的模型
DeepSeekhttps://api.deepseek.comDEEPSEEK_API_KEYdeepseek-flash
通义千问(阿里云百炼)https://dashscope.aliyuncs.com/compatible-mode/v1DASHSCOPE_API_KEYqwen-plus
Kimi(月之暗面)https://api.moonshot.cn/v1MOONSHOT_API_KEYkimi-k3.1-pro
OpenAI不用设,SDK 默认就是它OPENAI_API_KEY见官网模型页

这张表会过时

模型名和地址各家都在改。DeepSeek 在写这门课期间就把 deepseek-chat 换成了 deepseek-flash(第 1 章);阿里云文档已经推荐换成带工作空间 ID 的新域名,旧域名仍可使用。照抄之前,去各家文档确认一下。另外,OpenAI 在国内网络下通常连不上。


7.2 周报生成器 v7:一张配置表 ​

把每家的不同之处收进一个字典,代码其余部分一行不动:

python
# 每家一行配置。换一家 = 换 LLM_PROVIDER;同一家换模型 = 换 LLM_MODEL
PROVIDERS = {
    "deepseek": {
        "base_url": "https://api.deepseek.com",
        "key_env": "DEEPSEEK_API_KEY",
        "model": "deepseek-flash",
        "extra_body": {"thinking": {"type": "disabled"}},  # DeepSeek 自己的参数,别家不认
    },
    "qwen": {
        "base_url": "https://dashscope.aliyuncs.com/compatible-mode/v1",
        "key_env": "DASHSCOPE_API_KEY",
        "model": "qwen-plus",
    },
    "kimi": {
        "base_url": "https://api.moonshot.cn/v1",
        "key_env": "MOONSHOT_API_KEY",
        "model": "kimi-k3.1-pro",
    },
}

name = os.getenv("LLM_PROVIDER", "deepseek")
cfg = PROVIDERS[name]
key = os.getenv(cfg["key_env"])
if not key:
    sys.exit(f"用 {name} 需要先设置 {cfg['key_env']}")

client = OpenAI(api_key=key, base_url=cfg["base_url"], timeout=60, max_retries=3)
model = os.getenv("LLM_MODEL", cfg["model"])

resp = client.chat.completions.create(
    model=model,
    messages=messages,
    max_tokens=4000,
    extra_body=cfg.get("extra_body"),   # 没有就是 None,等于不传
)

切换时不用改代码,只改环境变量(也可以写进 .env):

bash
python weekly.py                                  # 默认:DeepSeek flash
LLM_MODEL=deepseek-v4-pro python weekly.py        # 同一家,换模型
LLM_PROVIDER=kimi python weekly.py                # 换一家

我手上只有 DeepSeek 的 Key,前两条真实跑通了,输出第一行分别是 [deepseek / deepseek-flash] 和 [deepseek / deepseek-v4-pro]。第三条没有 Kimi 的 Key,得到的是:

text
用 kimi 需要先设置 MOONSHOT_API_KEY

踩坑:「兼容」不等于「完全一样」

基本的 messages、temperature、max_tokens、流式,各家都支持。但每家自己的扩展参数不通用:DeepSeek 的 thinking 开关,别家可能不认、报错,也可能悄悄忽略。所以上面把 extra_body 也放进了每家的配置里,而不是写死在调用处。

同理,usage 里的字段(比如 DeepSeek 的 prompt_cache_hit_tokens)、价格、思考模式的开法,换家时都要重新核对。第 5 章的 PRICES 字典也要按家补上。


7.3 贵的模型值不值?用数据说话 ​

同一家里也有选择。DeepSeek 的 deepseek-v4-pro 输入价是 flash 的 4.5 倍、输出价是 3.4 倍,周报交给它,会好多少?同一套规矩各跑 3 次(都关掉思考):

模型用时输出 token每份花费(峰时)长度
deepseek-flash1.3 ~ 1.8s126 ~ 132¥0.0015207 ~ 220
deepseek-v4-pro2.7 ~ 3.4s131 ~ 141¥0.0056 ~ 0.0058215 ~ 230

Pro 的一次输出:

text
【本周完成】
- 修复登录页偶发 500,定位为 Redis 连接池满,已调大到 50
- 与产品对齐月报导出需求,确认需支持 Excel
- review 小王 PR,提出 3 条意见
【进行中】
- 月报导出功能开发,已完成一半,Excel 样式待调整
- 线上再次出现 500,日志显示为超时,非连接池问题,仍在排查
【下周计划】
- 完成月报导出 Excel 样式调整并交付
- 继续排查线上 500 超时问题,定位并修复

和 flash 的输出(第 4 章)比,Pro 措辞更完整一点(「非连接池问题」「定位并修复」),还主动省掉了「参加周会」这条流水账。但差别不大,价格是 3.8 倍,速度慢一倍。

周报这种「照着整理」的任务,flash 够用。判断值不值的方法比结论更重要:同一份输入、同一套规矩,各跑几次,把用时、花费和输出摆在一起看。以后选任何模型,都可以照这个办法。


试一试 ​

  • [ ] 如果你有别家的 Key,在 PROVIDERS 里加上那一家,跑一次周报
  • [ ] 用 LLM_MODEL=deepseek-v4-pro 跑 3 次,自己对比 7.3 的表
  • [ ] 把第 5 章的 PRICES 改成按服务商分组,让 v7 也能打印花费

本章小结 ​

要点说明
OpenAI 兼容接口各家用和 OpenAI 一样的请求 / 响应格式,同一个 SDK 都能连
换一家改什么base_url 和 model,加上那家的 Key
配置表每家一条配置,扩展参数也放进去;环境变量选择用哪家
兼容的边界基本功能通用;扩展参数、usage 字段、价格各家不同
选模型同输入、同规矩各跑几次,把用时、花费、输出摆在一起比

下一章预告 ​

七章下来,周报生成器的零件都齐了:规矩、模板、流式、算账、重试、多家切换。但它们还散在七个版本里。

最后一章把它们组装成一个真正的命令行工具:python weekly.py notes.md,一条命令出周报。

👉 第 8 章:综合实战——周报生成器完工

本文阅读--次|全站访问--次|访客--人