老师有没有告诉你,同一个问题问 AI 十遍、十个答案,不是它靠不住——是「不稳定」这件事被故意装了进去
2026-09-21 · 🕐 约 9 分钟
由 丢笔哥 发布
啪——老师把笔丢在桌上。
「我先做个实验。」他说,「你们每个人,打开手机,把同一个问题问你们那个 AI 三遍,把它三个答案都念出来。」
教室里很快就乱了。同一个问题,有的答得几乎一模一样,有的第一次说东、第二次说西,第三次干脆兜了个圈子又绕回来。
「你们的第一反应是什么?」老师问。
「它不稳定。」有人说。「它靠不住。」另一个人说。
「这个反应很自然。」老师点点头,「不过它答错了一个前提。你以为 AI 追求的是一致,其实它从被造出来的那天起,就不是为了一致而生的。」
老师有没有告诉你,AI 每次答得不一样,不是它没学好——是有人在里面装了一个旋钮,故意让它不一样。
一、它说的每个字,都是抽出来的
我们先说清楚 AI 是怎么「说话」的。
大模型写一句话,不是先想好整句再打出来,而是一个字一个字往外吐。每吐一个字之前,它做的是同一件事:给所有可能的字算一个分,然后按分数高低决定下一个字是什么。
关键就在「决定」这一步。
如果它永远选分数最高的那个字,那结果就永远是同一句话——你问一百遍,一百遍一模一样。这时候的它,像一个复读机,而不是一个会说话的人。
所以工程师做了一件事:他们不取最高分,而是按分数变成概率,然后抽签。
举个例子。接下来这个位置,模型算出来:「的」得分最高,「了」次之,「是」再次,后面还有几十个候选。工程师没有直接选「的」,而是把分数换算成一组比例——比如「的」三成、「了」两成、「是」一成半——然后按这个比例去抽一次。抽到哪个,就用哪个。
这个过程会重复几十次。每一次抽签,都是一次小小的运气。 几十次运气叠加起来,你就得到了十个不同的回答。
有一个形象的说法:同一个问题的十个答案,就像同一个人十次即兴说话——骨架一样,用词和语气都不太一样。 这不叫失灵,这叫在「自由发挥」和「照着念」之间取了一个点。
🤔 那这个点能调吗?当然能。它有一个专门的名字,可以理解为「发挥度」。调低,它就变得严肃、稳定、像念稿子;调高,它就变得发散、跳跃、偶尔神来一笔。你看到的所有「每次不一样」,都是这个旋钮的位置在起作用。
二、为什么工程师不干脆把它调到零
你可能会想:那就调成零,永远选最高分,不是又稳又准吗?
听起来很合理,但实际跑起来会撞上一堵墙。有两个真实的问题。
第一个问题:它会绕圈。 当每一次都选最高分,模型很容易陷入一个循环——同一个短句反复出现,或者一句话说完了又绕回开头。因为走到某个状态后,「最高分」总是把路引回同一个地方。就像一个只会沿着最陡的坡往下走的人,最后卡在一个小坑里出不来。
第二个问题:它会变得很闷。 写东西这件事,很多时候最好的表达不是最高概率的那个,反而是稍微偏一点的那个。永远选最高分,出来的文字就像一份没有感情的说明书——对、但难看,而且没什么新东西。
所以调这个旋钮是一门真正的功夫。同一个模型,旋钮位置不同,用起来像两个产品:做数学题你要它稳,做头脑风暴你要它活。 你感觉到的「有的 AI 很聪明、有的 AI 像傻子」,很多时候不是模型不同,是旋钮位置不同。
三、这件事有一个特别实用的后果
理解了抽签,你就能明白一个非常朴素、但大多数人没在用的办法:
同一个问题,问它多遍。
如果几遍答得几乎一样,说明这是个稳定的地方——模型很确定,你可以比较放心。
如果几遍答得南辕北辙,那说明这恰好是它最没底的地方。这时候你要做的不是相信哪一遍,而是把差异点挑出来,自己去核实。
你想,很多「AI 一本正经胡说」的经历,其实就发生在那些它每遍都答得不一样的地方。它给出的那些数字、日期、人名、引用,如果每问一遍都变,那你手里拿的就不是答案,是一个待核对清单。
还有一个更实用的推论:当你需要它稳定的时候,给它一个具体、边界清楚的问题,比给它一个开放问题更容易得到一致的答案。 问得越松散,抽签的取值范围越大,答案就越飘。
四、那它到底算不算一个「会思考」的东西
我得在这里说一句诚实话。抽签这件事,不是智能本身,它是智能外面裹着的一层随机。
你可以这样理解:模型的肚子里面有一套从海量文字里压出来的规律,这部分是确定的——它知道「猫」后面更可能跟「坐在」,而不是「开走了」。 抽签只是在这个确定的地图上,让它每次选一条不太一样的路。地图没变,路线变了。
所以 AI 的「不一样」,跟人的「不一样」不是同一件事。人的每次不同,背后是心情、记忆、疲劳;AI 的每次不同,背后是一次次按概率抽出的数字。看起来像个性,其实是分布。
但这条区别恰恰有用。因为你知道它是抽签,你就知道该在哪里怀疑它,哪里可以信它。 一个把 AI 当神谕的人,和一个把 AI 当抽签机的人,用同一个工具,结果会差很远。
再往深一层说:这也解释了为什么 AI 需要被你「用」。它的肚子里有规律,但它不知道哪一条规律对你眼前这件事是重要的。它负责在许多条差不多的路里随机走,你负责判断哪条是对的。 这个分工,就是今天用 AI 最实在的一种姿势。
五、三招马上能用
第一招:重要的事情问三遍。 不用成本,只是多花你二十秒。三遍里那些稳定重合的部分可以先用,每次都变的部分自己查。
第二招:想稳就收窄问题,想活就放宽问题。 要一个准确答案,就把范围、时间、条件写清楚;要灵感,就把问题写得模糊一点、宽一点,让它敢往偏处走。
第三招:把「答得不一样」当成一个信号,不是当故障。 它飘的地方,就是它不确定的地方——那正是你该把注意力放上去的地方。
六、小测一下
三句话讲完,来试试:
一、同一个问题问 AI 十遍得到十个答案,主要原因是什么?
二、把随机性调到零,让 AI 永远选概率最高的词,最可能的后果是什么?
三、为什么「同一个问题问多遍、再比对答案」是一种有用的用法?
「我今天讲的不是技术细节。」老师俯身把笔捡起来,「我是想告诉你们:一个东西每次都不一样,不代表它坏了——先搞清楚它是怎么被造出来的。」
「我也顺便说一句:答得越一致,不代表越对。 有时候它整整齐齐地错,也是一致的。」
读完文章,测测你记住了多少?
点击选项,看看对不对
关于丢笔哥
丢笔哥不是一个具体的人——它是一种态度。在信息爆炸的时代,用最直白的语言,把硬核知识讲透。覆盖金融证券、AI 前沿、Web3、东方智慧。
一支笔丢在桌上,一堂课就此开始。
📬 订阅丢笔哥 →📖 继续阅读
🔗 Web3📬 不想错过下一堂丢笔课?
每周一篇硬核科普,用最好玩的方式讲最硬核的知识。
不卖课、不荐股、不画饼。
💬 讨论区