第 7 章:换一家模型只改两行
本章目标:理解「OpenAI 兼容接口」是什么,把周报生成器改成换一家服务商只改配置、不改代码。
开篇:只认一家的风险
到现在为止,周报生成器只认 DeepSeek。这没什么不好,但总有一天你会想换:
- 某家涨价了,或者出了更便宜的模型
- 某家限流、宕机,周五下午正好用不了
- 公司规定只能用某一家(比如已经采购了阿里云)
如果每换一家就要重写一遍代码,你就被绑死了。好在大部分国内外模型服务商都做了同一件事,让你换家只改两个值。
学完这一章,你能:
- 说清「OpenAI 兼容接口」是什么、为什么各家都支持
- 用一份配置表管理多家服务商,靠环境变量切换
- 用实测数据判断「贵的模型值不值」
7.1 为什么改两行就够
第 1 章装的是 OpenAI 的 SDK,却连上了 DeepSeek,靠的就是 base_url 这一行。
OpenAI 最早定下了 /chat/completions 这套请求和响应的格式:发 messages,回 choices[0].message.content 和 usage。用的人多了,后来的服务商为了让开发者「零成本迁移」,纷纷提供格式一模一样的接口,这就叫 OpenAI 兼容接口。
所以换一家,只有两个值要变:去哪里(base_url)和找谁(model)。Key 当然也换成那一家的。
写这一章时,几家的接入信息如下(来自各家官方文档):
| 服务商 | base_url | Key 的环境变量 | 文档示例里的模型 |
|---|---|---|---|
| DeepSeek | https://api.deepseek.com | DEEPSEEK_API_KEY | deepseek-flash |
| 通义千问(阿里云百炼) | https://dashscope.aliyuncs.com/compatible-mode/v1 | DASHSCOPE_API_KEY | qwen-plus |
| Kimi(月之暗面) | https://api.moonshot.cn/v1 | MOONSHOT_API_KEY | kimi-k3.1-pro |
| OpenAI | 不用设,SDK 默认就是它 | OPENAI_API_KEY | 见官网模型页 |
这张表会过时
模型名和地址各家都在改。DeepSeek 在写这门课期间就把 deepseek-chat 换成了 deepseek-flash(第 1 章);阿里云文档已经推荐换成带工作空间 ID 的新域名,旧域名仍可使用。照抄之前,去各家文档确认一下。另外,OpenAI 在国内网络下通常连不上。
7.2 周报生成器 v7:一张配置表
把每家的不同之处收进一个字典,代码其余部分一行不动:
# 每家一行配置。换一家 = 换 LLM_PROVIDER;同一家换模型 = 换 LLM_MODEL
PROVIDERS = {
"deepseek": {
"base_url": "https://api.deepseek.com",
"key_env": "DEEPSEEK_API_KEY",
"model": "deepseek-flash",
"extra_body": {"thinking": {"type": "disabled"}}, # DeepSeek 自己的参数,别家不认
},
"qwen": {
"base_url": "https://dashscope.aliyuncs.com/compatible-mode/v1",
"key_env": "DASHSCOPE_API_KEY",
"model": "qwen-plus",
},
"kimi": {
"base_url": "https://api.moonshot.cn/v1",
"key_env": "MOONSHOT_API_KEY",
"model": "kimi-k3.1-pro",
},
}
name = os.getenv("LLM_PROVIDER", "deepseek")
cfg = PROVIDERS[name]
key = os.getenv(cfg["key_env"])
if not key:
sys.exit(f"用 {name} 需要先设置 {cfg['key_env']}")
client = OpenAI(api_key=key, base_url=cfg["base_url"], timeout=60, max_retries=3)
model = os.getenv("LLM_MODEL", cfg["model"])
resp = client.chat.completions.create(
model=model,
messages=messages,
max_tokens=4000,
extra_body=cfg.get("extra_body"), # 没有就是 None,等于不传
)切换时不用改代码,只改环境变量(也可以写进 .env):
python weekly.py # 默认:DeepSeek flash
LLM_MODEL=deepseek-v4-pro python weekly.py # 同一家,换模型
LLM_PROVIDER=kimi python weekly.py # 换一家我手上只有 DeepSeek 的 Key,前两条真实跑通了,输出第一行分别是 [deepseek / deepseek-flash] 和 [deepseek / deepseek-v4-pro]。第三条没有 Kimi 的 Key,得到的是:
用 kimi 需要先设置 MOONSHOT_API_KEY踩坑:「兼容」不等于「完全一样」
基本的 messages、temperature、max_tokens、流式,各家都支持。但每家自己的扩展参数不通用:DeepSeek 的 thinking 开关,别家可能不认、报错,也可能悄悄忽略。所以上面把 extra_body 也放进了每家的配置里,而不是写死在调用处。
同理,usage 里的字段(比如 DeepSeek 的 prompt_cache_hit_tokens)、价格、思考模式的开法,换家时都要重新核对。第 5 章的 PRICES 字典也要按家补上。
7.3 贵的模型值不值?用数据说话
同一家里也有选择。DeepSeek 的 deepseek-v4-pro 输入价是 flash 的 4.5 倍、输出价是 3.4 倍,周报交给它,会好多少?同一套规矩各跑 3 次(都关掉思考):
| 模型 | 用时 | 输出 token | 每份花费(峰时) | 长度 |
|---|---|---|---|---|
deepseek-flash | 1.3 ~ 1.8s | 126 ~ 132 | ¥0.0015 | 207 ~ 220 |
deepseek-v4-pro | 2.7 ~ 3.4s | 131 ~ 141 | ¥0.0056 ~ 0.0058 | 215 ~ 230 |
Pro 的一次输出:
【本周完成】
- 修复登录页偶发 500,定位为 Redis 连接池满,已调大到 50
- 与产品对齐月报导出需求,确认需支持 Excel
- review 小王 PR,提出 3 条意见
【进行中】
- 月报导出功能开发,已完成一半,Excel 样式待调整
- 线上再次出现 500,日志显示为超时,非连接池问题,仍在排查
【下周计划】
- 完成月报导出 Excel 样式调整并交付
- 继续排查线上 500 超时问题,定位并修复和 flash 的输出(第 4 章)比,Pro 措辞更完整一点(「非连接池问题」「定位并修复」),还主动省掉了「参加周会」这条流水账。但差别不大,价格是 3.8 倍,速度慢一倍。
周报这种「照着整理」的任务,flash 够用。判断值不值的方法比结论更重要:同一份输入、同一套规矩,各跑几次,把用时、花费和输出摆在一起看。以后选任何模型,都可以照这个办法。
试一试
- [ ] 如果你有别家的 Key,在
PROVIDERS里加上那一家,跑一次周报 - [ ] 用
LLM_MODEL=deepseek-v4-pro跑 3 次,自己对比 7.3 的表 - [ ] 把第 5 章的
PRICES改成按服务商分组,让 v7 也能打印花费
本章小结
| 要点 | 说明 |
|---|---|
| OpenAI 兼容接口 | 各家用和 OpenAI 一样的请求 / 响应格式,同一个 SDK 都能连 |
| 换一家改什么 | base_url 和 model,加上那家的 Key |
| 配置表 | 每家一条配置,扩展参数也放进去;环境变量选择用哪家 |
| 兼容的边界 | 基本功能通用;扩展参数、usage 字段、价格各家不同 |
| 选模型 | 同输入、同规矩各跑几次,把用时、花费、输出摆在一起比 |
下一章预告
七章下来,周报生成器的零件都齐了:规矩、模板、流式、算账、重试、多家切换。但它们还散在七个版本里。
最后一章把它们组装成一个真正的命令行工具:
python weekly.py notes.md,一条命令出周报。