老师有没有告诉你，AI能从一百万条数据里看出规律，却说不出「如果当初」

「啪——老师把笔丢在桌上。」

然后他做了一件很奇怪的事。他在黑板上写了一行字，只有五个字：

冰淇淋，溺水。

底下有人笑了。

「你们笑什么？」老师问，「这两样东西，有关系吗？」

有人喊：没有关系，只是夏天热，吃冰淇淋多，游泳的也多。

「对。」老师点头，「你说出了这句判断的全部内容——而今天我们要讲的，是 AI 目前为止还做不到的那一半。」

先分清：AI 到底在做什么

我们先不谈玄的。把 AI 想象一个从没上过学的孩子，但你给了他一百万份记录。每一份记录上写着两栏：这一天的冰淇淋销量，这一天的溺水人数。

他看完后会很自然地告诉你：「冰淇淋卖得多的日子，溺水的人也多。」这个结论是正确的。 而且他很可能是自己发现的，没有人教他。

这就是 AI 最核心的能力：在大量数据里，找出「同时出现」的东西。

专业上，这件事叫「相关性」。你不需要知道任何原因，你只需要数——数得足够多，规律就会自己浮出来。过去十几年，AI 的所有突破几乎都建立在这个能力上：看图认猫、翻译句子、下棋、写文章。看起来很聪明。

但现在，请你想一个问题：这个孩子，能回答「如果那天冰淇淋卖光了，溺水的人会不会变少」吗？

他不能。不是他不够聪明，是他手里根本没有这类信息。数据里从来没有一个「那天冰淇淋停产了」的世界给他看。他看过的一百万份记录里，冰淇淋和溺水永远同时出现。他学到的是这个世界实际发生的样子，不是这个世界所有可能的样子。

关键问题：为什么「少了一个世界」是致命的

这里有一个很深的分界，我尽量说得慢一点。

你以为 AI 是在「理解」这个世界。其实它是在压缩这个世界——它把一百万份记录，压缩成了一条公式：「冰淇淋多的时候，溺水多。」

这条公式很好用。用来预测，它往往比人准。但它有一个致命的特点：它不知道哪一样是因，哪一样是果。

在它眼里，「冰淇淋」和「溺水」只是两个随时间一起波动的数字。它完全分不清谁推着谁。

所以有人问它「那我少吃点冰淇淋，是不是就安全了」，它没法回答。因为这句话在它的语料里从来没有出现过——那个「少吃冰淇淋」的世界，不存在。

这就带来一个反直觉的结论：AI 的强，和 AI 的弱，是同一个能力的两面。

它强在「大量观察」，弱在「干预」。而人类的每一次真实决策，本质上都是一次干预——「我要是当初早点卖，会怎样？」「我要是把价格降一块，会怎样？」

这些问题的共同点是：它们问的都是一个从未发生过的世界。 而预测「从未发生过的世界」，是 AI 迄今最薄弱的一环。

案例：为什么它算得准，却劝不动你

你去看市面上那些用 AI 做判断的场景，会反复看到同一个模式：算得越来越准，但给出的建议越来越像废话。 原因就在这。

假设一个模型告诉你：数据显示「每天走八千步的人，住院率更低」。这句话本身大概率是对的，是它从几百万人身上数出来的。

但是——它不能告诉你为什么。是因为走路让人健康？还是因为本来健康的人才能每天走八千步？这两种解释，对应两个完全相反的建议。

如果是第一种，你该去走路。如果是第二种，你该先去治病。

AI 可以给你那个数字，但给不出这个区分。 因为它手里只有「同时出现」，没有「谁导致谁」。

人类是怎么解决这个问题的？靠一种很费力的办法：主动制造那个不存在的世界。

想验证「走路是否让人健康」，就找两批本来条件一样的人，让一批走、一批不走，别的不动，然后看差别。这叫「控制变量」，这件事在学术上还有个更严肃的名字——随机对照实验。

它的精髓，是主动让世界分叉，制造出两份可以被比较的数据。这在数据科学里叫「反事实」。

而 AI 的训练方式是「世界已经发生了什么样，我就学什么样」。它天生拿不到反事实那份数据。

所以它看得见规律，看不见原因。

那你到底该信它哪一部分

现在问题是实际的了：既然它看不见因果，我们还能不能用它？

能。但用法要分开。

第一，把它当搜索器，不要当裁判。

让它做的事：从一大堆材料里找出「哪些东西常一起出现」。这个任务它做得比人快一万倍。你写报告、找线索、看趋势，都可以用它。但「这个东西能不能做」这个判断，必须由你来做——它需要「如果我做了，会怎样」，而那正是它的盲区。

第二，需要反事实的问题，去问人。

如果你的问题里出现了「如果当初」「要是我不这么做」「做了会怎样」这类句式，那它就该由人来回答，或者由人配合实验来回答。AI 在这里只会给你一个听起来很像答案的句子。

第三，注意它给的理由是不是事后编的。

这是一个非常实用的警觉。AI 经常先给出一个结论，然后给你配一套听起来合理的解释。这套解释不是它算出结论的依据——它是在数百万条文本里见过太多「人这样解释事情」，于是模仿出来的。

判断标准很简单：换一批数据，它会不会给出完全不同、但同样自信的结论？ 会的话，那个理由就是装饰品，不是地基。

一个可以马上用的笨办法

教你一个几乎零成本的动作。下次 AI 给你一个结论，别问「真的吗」，问它这一句：

「要让这个结论是错的，需要发生什么？」

这一问，就把问题从「相关性」推到了「因果」的门口。

如果它能回答，而且回答得具体（说得出哪种情况会让它翻盘），那这个结论背后通常有真东西。

如果它开始绕圈、含糊、重复刚才的话，那说明它手里只有「同时出现」，没有「谁推着谁」。这时候你把结论打个折，是明智的。

老师把话收回来

下课铃响了。老师走回黑板，把「冰淇淋，溺水」那五个字擦掉。

他没有重写。

「我一开始写这五个字，是想让你们注意到一件事，」他说，「你们听到『没关系』的时候，用的是脑子里的另一套系统——那套系统会问『谁推着谁』。」

「而机器没有这套系统。它有的是数不完的观察。」

「这不是谁高谁低的问题。它比我们看得多得多，但它从来没看过一个没发生的世界。」

他在黑板空白处写下一行字：

「看得见一起发生，不等于看得见为什么。」

然后他把笔丢在桌上，第二次。

「今天回去，找一句你深信不疑的『因为……所以……』。」

「然后问自己：这句话，是我验证过的，还是我只是见过很多次？」

「答案可能让你不太舒服。但你会开始用对工具。」