幻觉 Hallucination
也叫：AI 幻觉、AI 编造
AI 一本正经地编：出处、数字、人名都可能是它凭空写出来的。它追求的是"像对的"，不保证"是对的"；编出来的东西格式标准、口气笃定，听着很真。
先知道：大模型
“AI 给我推荐的那篇论文，我怎么搜都搜不到。”
AI 给的论文、书名都有模有样，怎么会是假的？
它是在"预测最像答案的文字"（见大模型）。一篇论文该有标题、作者、期刊、年份，它就照着这个样子接出来，可这篇论文可能根本不存在。格式越标准，越不能直接当证据。
开了联网搜索，是不是就不会编了？
会少很多，但不会没有。它可能把网页的意思理解错、把两个来源拼在一起，引用的网页本身也可能不靠谱。联网后的回答，点开出处看一眼：链接打得开吗？原文真是这么说的吗？
像一位特别想表现的新同事：你问到他不知道的事，他不好意思说"不知道"，就凭印象编一个听起来很专业的答案，而且说得特别笃定。
本页有 7 节，点开跳到任意一节
最容易编的四类
- 冷门事实
知道的人少、网上写得少的事，它最没底，也照样敢答。
- 具体数字
销量、比例、金额，它会给你一个"看起来合理"的数。
- 引用出处
论文、法条、书名、某人的原话，格式全对，内容可能是编的。
- 最新消息
知识截止日期之后的事，没联网时尤其严重。
"幻觉"是借来的说法，AI 并不是故意骗人：它不知道自己不知道，没把握时也照样往下接。所以在提示词里写"不要编、找不到就说不知道"能减少编造，但不能杜绝。
三件真事：AI 编的，最后谁背锅
一位律师用 ChatGPT 查判例，写进了递给法院的诉状，其中 6 个判例根本不存在。结果：律师和律所被罚 5000 美元。
一位乘客问加拿大航空官网的客服机器人，丧亲机票怎么退差价，机器人编了一条退款政策。航空公司辩称"机器人说的不算"，裁判机构不认：官网上说的话，公司负责，判航空公司赔偿。
德勤给政府部门交了一份约 44 万澳元的报告，里面引用了不存在的文献，还有一句编出来的法官原话。德勤承认写报告时用了 AI，退还了部分费用，提交了修正版。
三次都是 AI 编的，没有一次是 AI 背锅：出了错，背锅的是用它的人和公司。
发出去之前，五查
偷懒的办法：先让 AI 自己把需要核实的地方标出来（下面那段话就是），你再挨个去查。但它标的不一定全，发出去之前的最后一眼，还得你自己看。
这样跟 AI 说
请检查你上面的回答：把里面所有具体的数字、人名、日期和引用的出处列成一张表，每条标明是"来自我给的材料""你自己的知识"还是"不确定"。不确定的，告诉我应该去哪里核实。最后告诉我，哪一条最该我优先去查。
考考你
AI 帮你写的报告里有一句："据《2025 年中国职场 AI 应用白皮书》，68% 的员工每天使用 AI。"（书名和数字都是为出题虚构的）你最该怎么做？
接下来学什么
- 1入门必懂 · 下一个（第 6 / 20 个）深度思考让 AI 先想一会儿再回答：复杂问题更准，但更慢、更费 Token。
- 2联网搜索让 AI 先去网上查，再根据查到的内容回答。
- 3深度研究让 AI 花较长时间自己查很多来源，写成一份带出处的报告。
‹ 上一个：提示词 · 入门必懂第 5 / 20 个
哪些词链接了我：大模型、提示词、深度思考、联网搜索、知识截止日期、多模态、AIGC、智能体……共 13 个