老师有没有告诉你，AI会一本正经地胡说八道，而且自信到让你不敢怀疑

一个让律师付出真金白银代价的离谱事件

2023年，美国纽约有位律师，接了一桩航空公司的官司。为了省事，他让ChatGPT帮他整理一批过往的判例，准备在法庭上引用。ChatGPT飞快地列出了一串案例，有案号、有判决结果、有引用来源，看起来专业极了，律师看都没细看就交了上去。结果，对面律师和法官一查，傻眼了：这些案子，一个都不存在，全是AI一本正经编出来的。这位律师最后被法官当庭训斥，还交了罚款。这就是AI最让人脊背发凉的能力——它不是偶尔出错，而是会用一种不容置疑的口气，把根本不存在的东西，说得头头是道。

AI从来不是在查资料，它是在猜下一个字

要理解AI为什么会胡说八道，你得先扔掉一个错误的想象。很多人以为，AI就像个知识渊博的图书馆管理员，你问它问题，它翻查资料、找到答案、再告诉你。错。AI脑子里根本没有一个装满事实的仓库。它做的事，从头到尾只有一件：猜下一个字。

怎么说？当你问它「世界上最高的山是哪座」，它并不是在记忆里搜索答案，而是根据它读过的海量文字，算出「世界、上、最、高、的、山、是、哪、座」这串字后面，最可能跟着的是什么字。它会算出「珠」后面大概率是「穆」，再算出「穆」后面大概率是「朗玛」，于是一个字一个字地往外蹦。它蹦出来的，是概率最高的那个字，而不是查证过的那个事实。所以AI的答案，本质上是一段长得特别像正确答案的文字，而不是正确答案本身。

为什么它错了，还错得那么自信

这就是最要命的地方。因为AI是在「造句」，不是「回忆」，所以当它撞上一个它没见过、或者记忆模糊的问题时，它不会停下来承认自己不知道——它只会照着「像个答案」的样子，继续往下编。更可怕的是，它编出来的东西，语法通顺、逻辑自洽、口气斩钉截铁，连专业术语都一个不差。你越是不懂这个领域，越容易被它骗过去。那位律师就是这么栽的：他自己没查过那些判例，而AI给他的东西，专业到让他毫不怀疑。

再给你看个事实。有研究机构专门测过，让AI回答法律、医学这类专业问题时，它答错的概率，比很多人想象的高得多；而答错的时候，它几乎从来不提示你一句「这个我不确定」。换句话说，AI最危险的时刻，恰恰是它最自信的时刻。

它是怎么变成这样的

要彻底明白，还得知道AI是怎么被训练出来的。工程师把互联网上能找到的文字——书、论文、新闻、维基百科、论坛帖子，几乎人类写过的所有东西，一股脑喂给AI。AI要做的，不是去记这些事实，而是从这些海量文字里，学出一套「什么字后面通常跟什么字」的规律。它学的是规律，不是事实。所以当你问它一个它没被喂过、或者喂得很少的问题，它手头没有现成答案，却学会了「答案长什么样」，于是它照着那个样子，硬给你拼出一个来——拼得还特别像。这就像一个背熟了范文套路的学生，遇到没见过的作文题，照样能写出一篇像模像样、其实全是套话的文章。更麻烦的是，AI越新、越能说会道，编起来就越自然，你越难看出破绽——因为它的目标从来不是「说对」，而是「说得像人」。

那AI到底还能不能用

能，而且大有用处，但前提是把它当成一个脑子快、但不负责任的实习生，而不是一个权威专家。它写初稿、理思路、翻译、总结、脑暴，都是一把好手；但凡是关系到钱、健康、法律、安全这些「错了要付出代价」的事，你一定要自己再去查一遍原始资料。一句话记住：AI给你的，是「看起来最像答案的那句话」，不是「已经验证过的那件事」。你可以用它加速，但别让它替你做决定。

怎么分辨它是不是在胡说？有个简单的小办法：凡是它给出具体的人名、数字、日期、出处、引文的地方，你都要格外当心——因为这些恰恰是AI最容易编、又最不容易被一眼看穿的地方。相反，那些讲道理、理思路、做总结的内容，它通常还算靠谱。换句话说，用AI帮你理清思路，可以放心；用AI替你核实事实，务必小心。一个负责的人，永远是自己先想清楚答案，再让AI帮忙把话说漂亮。

啪——老师把笔从地上捡起来，在讲台上敲了敲。

「同学们——AI不是骗子，它只是不知道自己不知道。它不会故意骗你，它只是在用全世界最流利的语气，把一句话说得像真的。所以从今天起，请把它当成一个聪明的助手，而不是一台不会出错的答案机器。它说得越肯定，你越要多看一眼。」

—— 丢笔哥