Skip to content
Lv0AI 工具上手进度 5 / 6

第 5 章:新手最容易踩的五个坑 ​

本章目标:知道 AI 会在哪里骗你、成本会从哪里漏、哪些习惯必须提前养成。这一章建议隔一段时间就回看一次。

开篇:那个根本不存在的参数 ​

你照着 AI 给的命令跑了一下午,反复报错。最后翻官方文档才发现:那个参数在半年前的版本里就被删了——AI 给的命令,语法漂亮、逻辑通顺,就是不存在。

这就是本章要讲的第一个坑。五个坑先总览一遍,后面逐个拆:

5.1 幻觉:它会把不知道说成知道 ​

模型的目标是「生成像样的回答」,不是「保证真实」。于是它会:

  • 编造不存在的论文、链接、API 参数;
  • 把两个产品的功能混在一起;
  • 在数字上给出「看起来合理」的估算;
  • 同一个问题,换个问法就换个答案。

应对:让它给来源并自己点开;关键结论换个问法再问一次;明确允许它说「不知道」;数字、日期、接口签名一律查官方文档。

5.2 隐私:你贴进去的,可能不止你看到 ​

风险不只来自「模型记住你的话」:

  • 对话内容进入产品日志、被用于改进模型;
  • 浏览器插件读取并上传整个页面;
  • AI 编程工具把仓库文件发给模型服务;
  • 截图里带了不该出现的窗口、姓名、邮箱。

应对:资料先分级(回顾第 1 章的红黄绿三级);脱敏后再贴;敏感场景用企业版或本地模型;装插件前看权限。

5.3 成本:token 是按量烧的 ​

按量计费场景下,成本主要从四个地方漏:

来源怎么漏怎么控
长上下文每次对话重复贴整份文档先摘要、分段,只贴相关部分
反复重试提示词不清楚,来回改十轮用第 2 章的骨架,一次说清
批量任务全量跑一遍才看结果先抽 10 条试跑,估算单价
编程工具让它读整个仓库、全量重构限定文件范围,按任务拆

再补三条习惯:开用量告警和预算上限;每周看一眼用量曲线;免费额度先验证,别为「可能会用」提前充值。

5.4 时效:训练数据永远落后于现实 ​

模型训练数据有截止时间,之后的变化它不知道:

  • 推荐已经改名或下线的产品;
  • 引用旧版本的命令、配置、API;
  • 把旧闻当新闻,把预测说成事实。

应对:需要最新信息就开联网,或自己先查再让它总结;提示词里写明当前日期并要求标注不确定信息;版本相关内容以官方文档为准,笔记里写上核对日期;看到「据报道」就追问具体来源。

5.5 过度依赖:能力会退化,判断会外包 ​

最常见的长期风险不是被骗一次,而是:

  • 不再自己推导,遇到 AI 答不上来就卡住;
  • 不再读原文,只看摘要;
  • 代码能跑就提交,不知道为什么能跑;
  • 把决策责任交给模型,「它说可以」。

应对:学新东西先自己写一遍,再让 AI 点评;重要决策让 AI 给选项和依据,你拍板;定期做「无 AI 练习」;保留自己的判断标准——能用、可靠、可维护,而不是「AI 说好」。

5.6 一张发布前验证清单 ​

任何要用于工作或发布的内容,发出去前过一遍:

  • [ ] 数字、日期、版本号是否核对过原始来源?
  • [ ] 引用的链接是否真实可打开?
  • [ ] 有没有把「可能/据说」写成了确定结论?
  • [ ] 涉及公司或他人的信息是否已脱敏?
  • [ ] 代码是否自己运行过,边界情况是否试过?
  • [ ] 如果这条建议是错的,最坏后果是什么?我能不能承受?

六条里有一条答不上来,就先别发。

5.7 场景自测:哪条回答最可疑 ​

AI 给了你三条回答,哪条最需要先验证?

A:「根据 2024 年发布的某研究报告,采用该方案的企业效率平均提升 37%。」 B:「这个概念可以类比成快递分拣:包裹是分片,传送带是队列。」 C:「你可以这样写:const result = await fetchData(id)。」

选项参考答案
A最可疑。精确数字 + 模糊来源是幻觉高发组合,必须让它给出报告全名和链接,并实际打开核对
B相对安全。类比是解释,对错你能当场判断
C中等。代码要自己跑一遍,但 fetch 是常见 API,编造概率低于研究报告

规律:越具体、越像「事实」、越难验证的陈述,越要核对。

5.8 本章小结 ​

  • 幻觉靠「要来源 + 交叉验证 + 允许说不知道」防。
  • 隐私靠「分级 + 脱敏 + 企业版/本地」防。
  • 成本靠「短上下文 + 清楚提示 + 小批量试跑 + 告警」控。
  • 时效靠「开联网 + 官方文档 + 标注日期」补。
  • 过度依赖靠「先自己做 + 保留无 AI 练习」抗。

练习 ​

  1. 故意问 AI 一个你不熟悉、答案容易编造的问题(比如某个冷门库的参数),验证它会不会编。
  2. 打开你常用 AI 产品的用量/账单页面,找出最贵的一类任务。
  3. 把 5.6 的清单存进自己的笔记模板,下次发布前直接用。
本文阅读--次|全站访问--次|访客--人