老师有没有告诉你，AI 给你的答案里，其实藏着一个「我知道我可能错了」的分数

啪——老师把笔丢在桌上。

「我问你一件事。」他说，「你有没有遇到过这种情况：你问 AI 一个问题，它给你答了一大段，条理清楚、用词专业、句句笃定。你觉得这下稳了，结果一查——是错的。而且是那种凭空捏造出来的错。」

「你当时的反应大概是：它为什么要骗我？」

老师停了一下，「它没骗你。更准确地说——它根本没有『骗』这个动作。 它只是在一个它并不确定的地方，选了一个看起来很合适的词，然后继续往下写。而那个『不确定』，它其实算出来了。它一直知道。」

老师有没有告诉你，AI 每吐出下一个字之前，心里都在做一件事。

那件事叫打分。

想象一个极其简单的场景：你在写一句话——「今天天气很___」。你脑子里会自动冒出几个候选：好、热、差、冷、奇怪。这些词的「合适程度」不一样，你会挑那个最合适的填进去。

AI 干的就是这件事，只是它每一秒要做成千上万次。 它不是先想好一整段话再写出来。它是一格一格地填：看前面所有的字，给字典里每一个可能的下一个字打分，挑出分最高的那个，写下去，然后把刚写的这个字也放进前面，再算下一个。

这就是它工作的全部方式。听起来有点笨，对吧？但它就是这么笨地、一格一格地，写出了那些看起来很聪明的段落。

一、那个「分数」，其实是一句「我有多少把握」

关键的洞察在这里。

既然它每一步都在打分，那它就必然知道：这一次，我是拿到了一个 99 分的候选词，还是拿到了一个 51 分的候选词。

99 分的时候，它很确定。51 分的时候，它是在两个都很勉强的选项里硬挑了一个。

这个分数，本质上就是「它对自己这句话有多少把握」。

问题来了：当你看到「今天天气很好」的时候，你看不见那个分数。 你看到的是一句完整、流畅、语气正常的话。你不会知道这句话是 99 分选出来的，还是 51 分选出来的。

因为流畅度是一样的。

这就是最要命的地方：一个人不确定的时候，语气会虚、会停顿、会说「我想想」。而 AI 不确定的时候，语气和确定的时候一模一样。 流畅是它的默认输出格式，不是它的信心指标。

所以你以为的「它说得很肯定」，实际含义是——「它在两种可能都很勉强的情况下，随便挑了一种，然后继续写下去了。」

二、为什么「流畅」和「正确」是两件事

我们把这个机制再往下走一层，就能理解 AI 为什么会一本正经地胡说。

它的全部训练目标，其实只有一个：在给定的上文后面，接上最像人话的下一句。 它不是被训练成「说真话」，而是被训练成「接得像」。

这两件事平时高度重合——因为人话里大部分内容是真实的。所以它看起来在讲真话。

但到了边缘地带，两条路就分岔了：当它真的不知道答案时，「接得像」这条路上，仍然有一个得分最高的走法——那就是编一个格式正确、说法专业的答案。 在它内部，编一个像样的答案，和说出真话，得到的「合适分」可能差不多，甚至更高。因为「我不知道」这句话，在很多训练材料里的出现频率，远低于各种看似权威的解释。

你说它知道自己在编吗？它算出那个分数了。它只是没有把分数交给你。

这也解释了一个很奇怪的现象：同样是被问了不会的问题，有的 AI 会说「我不确定」，有的会张口就来。 差别不在「谁更诚实」——诚实不是它能选的东西。差别在它们被训练时，有没有人为「说出不确定」这件事专门打过分。

三、怎么让一个模型「知道自己不知道」

这里有一个很漂亮的做法，讲给你听。

正常训练里，人类给 AI 的答案打分——答对了加分，答错了减分。但这样训出来的模型，只学会了「输出正确答案」，没学会「在没答案的时候认输」。

于是一个很小的改动出现了：在训练的题目里，混进一批「这个信息我真的没有」的题，并且把标准答案设定为——「我不知道」。 它给出「我不知道」，加分；它硬编一个，减分。

训完之后，这个模型的行为就变了：在它算出来那个分数很低的地方，它会主动把「我不确定」说出来。 它不是变诚实了，它是被教会了：说出不确定，也是一条得分高的路。

这个改动的分量其实很大。因为在此之前，AI 最大的风险不是「笨」，而是「在它最不该自信的地方，表现得最自信」——而人恰好最容易相信这种自信。

四、小测一下

三句话讲完，来试试：

一、AI 在说出下一个词之前，它内部实际做的是什么？

二、为什么 AI 能把「我不知道」说得那么流畅？

三、一个模型要变得「知道自己不知道」，最关键的一步是什么？

「我不是让你别用 AI。」老师俯身把笔捡起来，「我是想让你换一个理解它的方式——它不是一个知道答案的人，它是一个每一秒都在打分、然后挑分最高的那个字的机器。」

「所以下次它给你一个笃定的答案时，你可以在心里加一句它没说的话：『这句话我只给它 60 分。』 你不需要它告诉你，你只要知道——它笃定的语气是格式，不是保证。」