AI 英语学习助手实战(二):大模型按需补全与成本控制
翻译之外,项目接了 DeepSeek 做两件事:AI 对话角色「小语」,以及单词详情的按需补全。这一篇讲怎么在不卡、不贵的前提下把大模型接进一个真实产品。
一、先想清楚它是谁
AI 对话角色叫「小语」,定位是"英语学习小伙伴"。这个角色的全部人格由一段 system prompt 定义:
base_prompt = """你是小语,温蒂的英语学习小伙伴和智能翻译助手。你的特点是:
1. 语言简单易懂,适合小学生理解
2. 回答生动有趣,充满鼓励
3. 善于用比喻和例子解释概念
4. 对学习问题有耐心和爱心
5. 回答要简洁明了,不要太长
6. 你是温蒂的学习伙伴,要像好朋友一样陪伴她学习
请用温暖、友好的语调回答问题,记住你的名字是小语。"""有几处是刻意写的:语言简单(读者是小学生)、回答要短(配合 max_tokens=2000,避免长篇大论)、明确"你的名字是小语、温蒂是用户"(不写清楚,模型很容易把自己和用户搞混)。
二、本地秒开 + 按需 AI 补全
这是我认为最值得抄的一个设计。单词详情弹窗要展示:词性、音标、最多 3 条例句、词态变化、同义词、反义词、记忆图片。
如果全部交给大模型生成,886 个词就要调 886 次 AI、每次好几秒 —— 点开一个词等几秒,体验直接崩。所以拆成两段:
- 第一段:本地数据秒开。 词性、音标、例句来自教材词表(导入时已存进
wordbook),断网可看 - 第二段:联网再补。 词态变化、同义词、反义词、记忆图片属于"锦上添花",显示一个按钮,点了才调 AI
- 生成结果写进
word_details表,同一个词只调一次 AI,下次打开直接命中
这个设计的本质是区分"必须立刻有"和"可以等、可以没有"。大模型的成本和延迟都花在后者身上,用户几乎无感。
三、prompt 拼装放在前端的代价
如实说,当前实现把"补全单词详情"的 prompt 拼装放在了前端:前端调 /api/chat,解析返回的 JSON,再 POST 到 /api/word/detail 持久化。
好处是后端极简,全项目只有一处大模型出口;代价也很实在 —— prompt 与解析逻辑耦合在 189 KB 的 api.js 里,没法单测,改一次 prompt 要回归整个前端。更稳妥的做法是把这类"结构化生成"抽成独立接口(例如 /api/word/enrich),prompt 与 JSON schema 校验都收回后端。
四、没配密钥也不能崩
所有密钥都在 .env 里,留空等于该功能不可用,但不影响其他功能:没配 DeepSeek key,对话页给一句友好提示,翻译和单词本照常工作;没配 Pixabay key,记忆图片显示不出来,其余内容照旧。
对单机应用来说,这种"部分降级"比"启动时强校验密钥"更合适 —— 孩子想查个单词,不该因为家长没配 OCR 密钥就打不开应用。