第 5 章:新手最容易踩的五个坑
本章目标:知道 AI 会在哪里骗你、成本会从哪里漏、哪些习惯必须提前养成。这一章建议隔一段时间就回看一次。
开篇:那个根本不存在的参数
你照着 AI 给的命令跑了一下午,反复报错。最后翻官方文档才发现:那个参数在半年前的版本里就被删了——AI 给的命令,语法漂亮、逻辑通顺,就是不存在。
这就是本章要讲的第一个坑。五个坑先总览一遍,后面逐个拆:
5.1 幻觉:它会把不知道说成知道
模型的目标是「生成像样的回答」,不是「保证真实」。于是它会:
- 编造不存在的论文、链接、API 参数;
- 把两个产品的功能混在一起;
- 在数字上给出「看起来合理」的估算;
- 同一个问题,换个问法就换个答案。
应对:让它给来源并自己点开;关键结论换个问法再问一次;明确允许它说「不知道」;数字、日期、接口签名一律查官方文档。
5.2 隐私:你贴进去的,可能不止你看到
风险不只来自「模型记住你的话」:
- 对话内容进入产品日志、被用于改进模型;
- 浏览器插件读取并上传整个页面;
- AI 编程工具把仓库文件发给模型服务;
- 截图里带了不该出现的窗口、姓名、邮箱。
应对:资料先分级(回顾第 1 章的红黄绿三级);脱敏后再贴;敏感场景用企业版或本地模型;装插件前看权限。
5.3 成本:token 是按量烧的
按量计费场景下,成本主要从四个地方漏:
| 来源 | 怎么漏 | 怎么控 |
|---|---|---|
| 长上下文 | 每次对话重复贴整份文档 | 先摘要、分段,只贴相关部分 |
| 反复重试 | 提示词不清楚,来回改十轮 | 用第 2 章的骨架,一次说清 |
| 批量任务 | 全量跑一遍才看结果 | 先抽 10 条试跑,估算单价 |
| 编程工具 | 让它读整个仓库、全量重构 | 限定文件范围,按任务拆 |
再补三条习惯:开用量告警和预算上限;每周看一眼用量曲线;免费额度先验证,别为「可能会用」提前充值。
5.4 时效:训练数据永远落后于现实
模型训练数据有截止时间,之后的变化它不知道:
- 推荐已经改名或下线的产品;
- 引用旧版本的命令、配置、API;
- 把旧闻当新闻,把预测说成事实。
应对:需要最新信息就开联网,或自己先查再让它总结;提示词里写明当前日期并要求标注不确定信息;版本相关内容以官方文档为准,笔记里写上核对日期;看到「据报道」就追问具体来源。
5.5 过度依赖:能力会退化,判断会外包
最常见的长期风险不是被骗一次,而是:
- 不再自己推导,遇到 AI 答不上来就卡住;
- 不再读原文,只看摘要;
- 代码能跑就提交,不知道为什么能跑;
- 把决策责任交给模型,「它说可以」。
应对:学新东西先自己写一遍,再让 AI 点评;重要决策让 AI 给选项和依据,你拍板;定期做「无 AI 练习」;保留自己的判断标准——能用、可靠、可维护,而不是「AI 说好」。
5.6 一张发布前验证清单
任何要用于工作或发布的内容,发出去前过一遍:
- [ ] 数字、日期、版本号是否核对过原始来源?
- [ ] 引用的链接是否真实可打开?
- [ ] 有没有把「可能/据说」写成了确定结论?
- [ ] 涉及公司或他人的信息是否已脱敏?
- [ ] 代码是否自己运行过,边界情况是否试过?
- [ ] 如果这条建议是错的,最坏后果是什么?我能不能承受?
六条里有一条答不上来,就先别发。
5.7 场景自测:哪条回答最可疑
AI 给了你三条回答,哪条最需要先验证?
A:「根据 2024 年发布的某研究报告,采用该方案的企业效率平均提升 37%。」 B:「这个概念可以类比成快递分拣:包裹是分片,传送带是队列。」 C:「你可以这样写:const result = await fetchData(id)。」
| 选项 | 参考答案 |
|---|---|
| A | 最可疑。精确数字 + 模糊来源是幻觉高发组合,必须让它给出报告全名和链接,并实际打开核对 |
| B | 相对安全。类比是解释,对错你能当场判断 |
| C | 中等。代码要自己跑一遍,但 fetch 是常见 API,编造概率低于研究报告 |
规律:越具体、越像「事实」、越难验证的陈述,越要核对。
5.8 本章小结
- 幻觉靠「要来源 + 交叉验证 + 允许说不知道」防。
- 隐私靠「分级 + 脱敏 + 企业版/本地」防。
- 成本靠「短上下文 + 清楚提示 + 小批量试跑 + 告警」控。
- 时效靠「开联网 + 官方文档 + 标注日期」补。
- 过度依赖靠「先自己做 + 保留无 AI 练习」抗。
练习
- 故意问 AI 一个你不熟悉、答案容易编造的问题(比如某个冷门库的参数),验证它会不会编。
- 打开你常用 AI 产品的用量/账单页面,找出最贵的一类任务。
- 把 5.6 的清单存进自己的笔记模板,下次发布前直接用。