老师有没有告诉你，AI说起谎来比人还真——因为它根本不知道自己在骗你

啪——老师把笔丢在桌上。

前几天有个学生兴冲冲地跟老师说，他用AI查到一个特别好的数据，还附了一份看起来很正规的报告，有机构名、有年份、有页码。老师让他把那页找出来看看。他查了半小时，回来的时候脸有点白——那份报告不存在。

不是他笨。他做的事情和我们所有人做的一样：先看它说得顺不顺，再决定信不信。

老师有没有告诉你，人撒谎时其实很辛苦

先不说AI。我们说说人。

一个人要撒谎，脑子里得同时跑好几件事：真话是什么、假话是什么、对方知道多少、我这句假话会不会跟他已经知道的对不上、待会儿问起来我怎么圆。这套东西很耗脑力，所以人撒谎的时候会有破绽——眼神躲、语速变、细节太满或者太少。心理学上有个词叫认知负荷，说的就是这件事。

这就是为什么我们鉴定一个人有没有撒谎，靠的多半是他说话的方式，不是内容本身。人撒谎，是会累的。

现在把这个前提放到AI身上，你会发现整个判断逻辑塌了。

AI不是在一个「知道真相」和「编一个假话」的两个选项里选了后者。它是从一个极庞大的语言统计里，顺着你的问题往下接，接出最像答案的那一段。它没有第一个选项。它手里从来没有一份「真话清单」，所以它没办法在真和假之间做选择，也就谈不上隐瞒。

这就带出了一个很容易被忽略的结论：它说错话的时候，内心状态和它说对话的时候是完全一样的。都很平静，都很努力，都很真诚。

所以你不是遇到了一个骗子。你是遇到了一个从来不知道「真」长什么样，却极其擅长「像」的东西。

为什么会「像」到什么程度

这里要讲清楚一件事：AI被训练的目标，不是「说对」，而是「说得像」。

它读过的东西是海量的文字。这些文字里，绝大多数是关于世界的真实描述，也夹着小说、广告、段子、错误的知识、过时的数据。它从里面学到的不是「北京是中国的首都」这个事实，而是「北京是中国首都」这类句子在什么上下文里出现、长什么样、跟在哪些词后面。

这两件事听起来差不多，实际上差得很远。

「真」需要世界配合，而「像」只需要文本配合。一个句子可以完美地符合文本的规律，同时在世界上完全不存在。

这就是为什么它编出来的东西特别容易骗人：它不是在瞎写，它是在严格地按照「一份正规报告的写法」来写。机构名的格式、年份的排布、页数和章节名，全对。它只缺了一样东西——那件事发生过。

你可以把这件事想成一次极其高明的语法填空。你给它一个空，它填进去一个最符合前后文的词。可「符合前后文」和「符合现实」是两套标准，而它只被训练过前一套。

它不是在骗你，它是在非常认真地完成一道填空题，而你误以为它在回答问题。

什么时候最容易翻车

老师带你看三条规律，这三条能让你在大部分场合提前闻到味道。

第一，越权威、越具体的细节，越容易是编的。因为具体意味着罕见，罕见意味着它的语言统计里样本极少。当它要接一个很少见的空缺时，它只能凭「这类空缺通常长什么样」来填。于是它会毫不犹豫地给你一个年报页码、一条法条编号、一个实验年份。而你之所以会信，恰恰是因为它那么具体。

这一点非常反直觉：人编东西会往模糊里躲，AI编东西会往具体里冲。

第二，越冷门的话题越危险。网上关于它的文字越少，它接出来的东西就越没有依据。你对它越懂的领域，越容易发现它的错；你越不懂的领域，越容易被它说服。这个组合非常糟糕——它刚好在你最没有判断力的地方最自信。

第三，问它「你是不是在编」，它通常答不出真话。因为它对「我不知道」这件事没有直接的感知。它只能根据语言习惯去猜：这种问题一般该怎么答。而语言习惯里，「我不知道」出现的频率，远低于一段解释。所以它倾向于给你一段解释。

一个真实的教训，和一堆被编出来的「证据」

这不是新鲜事。国外有过律师在法庭上引用AI整理出的判例，被对方律师一查，那几个案子根本不存在——案子名、法官、判决年份一应俱全，唯独法院里没有这份卷宗。也有学者在论文里引用了AI给出的文献，后来发现作者和期刊是凭空生成的。

这些案例有一个共同点：出事的人，都是在自己比较熟悉的领域里出事的。他们能看到「这个格式是对的」，却没有花三十秒去查「这个存在吗」。

老师想说，这不是AI的失败，这是人机协作最容易失手的地方。它的强项——写出一段格式完美、语气笃定、逻辑顺畅的文字——正好压住了我们最省力的那道判断。

三招，很笨但有效

第一，凡是数字、人名、日期、条文、文献，一律当作「待核实」，而不是「已获得」。把它当草稿，不当结论。

第二，只要它给出的东西里有出处，就去看出处本身，不是看它转述的出处。它转述得到的永远是「像出处的东西」。

第三，用时间来检验。同一个问题，隔一天换一种问法再问一遍。真正知道的东西，换个角度还是说得通；靠填空接出来的东西，换个问法就打架了。

最后一条最笨也最管用：你越是觉得它说得对，越要问一句「这句话如果错了，我怎么会知道」。如果这个问题你答不上来，那这句话你其实还没有资格用。

真正的风险不是它会骗人

回到最开始那个学生。他后来跟老师说，其实他在意的不是那份报告是假的，而是他当时有多确定它是真的。

这才是这件事最值得警惕的地方。

一个骗子骗你，你事后会愤怒，会警惕，会从此不信他。而一个不知道自己在编的东西骗了你，你事后不会警惕它——你会警惕自己，觉得是自己没看懂。这才是最坏的后果：它没有让你失去对它的信任，它让你失去了对自己判断力的信任。

所以我们需要的不是「如何识破AI」这种技术，而是一种更朴素的分工意识：把它当一支笔，不当一个证人。笔可以写得很好，但它不为写下的内容作证。

啪——老师把笔丢在桌上。

他说：我把笔扔了没关系，纸还在你手里。写什么、信什么，最后签字的那个人，还是你。