老师有没有告诉你，AI 正在吃自己做的饭——不是它饿了，是它开始分不清真假了

啪——老师把笔丢在桌上。

「我问你们一个问题。你们班上如果有个同学,把所有参考书都扔了,只允许自己看自己上一次考试写的卷子,一直这样循环下去。他会怎样?」

「他会越考越差。而且最糟的是——他不会觉得自己在变差。」

他弯腰把笔捡起来,在黑板上画了一个圈,圈里画了个箭头,箭头从圈上出发,又回到圈里。

「今天我要讲的,就是这个箭头。它有一个正式的名字,叫模型崩塌。」

老师有没有告诉你,AI 是靠什么学会说话的

先花一分钟,把这件事的底层搞清楚。它比你想的简单。

AI 学说话,是把海量的文字读一遍,统计一件事:在什么样的上下文后面,下一个词大概率是什么。

就这么一件事。它读的文本越多、越多样,它对「大概率」这三个字的把握就越准。

关键在于:它学到的那套概率,是从人类写的东西里提取出来的。人类写的东西有一个特点——它是乱的。

有人写得漂亮,有人写得难听。有人写得很严谨,有人说废话。有人写冷门话题,有人天天重复同一句话。正是这些参差不齐,拼出了一个完整的形状。

这套「形状」在专业里叫数据分布。你可以把它想成一片地形:中间是大多数人常走的大路,两边是少数人走的、窄而偏的野径。

AI 的聪明,一大半来自那些野径。

那当 AI 开始看 AI 写的东西

现在把那个箭头接上。

如果 AI 生成的内容铺满了互联网,而下一代 AI 又是从互联网上抓数据来训练的,会发生什么?

它吃到的东西里,人类写的比例开始下降,AI 写的比例开始上升。

这个变化听起来好像无所谓——反正都是文字嘛,有什么差别?

差别巨大。原因在于:AI 生成的内容,先天是「平」的。

它不是乱分布,它是AI 自己那套概率的一个采样。也就是说,它天然集中在大路上。

你让它写一个关于春天的段落,它会给你写出一段四平八稳、挑不出错、也没有任何意外的春天。它不会写「春天的风里有股烧焦塑料的味道,我小时候住的地方春天就这么难闻」。

而正是后半句那种古怪的、具体的、不优雅的东西,才携带着这片地形的真实信息。

所以,当训练数据里 AI 内容的比例不断上升,那件发生的事就是:

野径被一点点填平了。

第一代 AI 学到了完整的形状。第二代学到的是「被抹掉一部分尾巴」的形状。第三代学的是「第二代的产物」再提取一遍。

每一轮都掉一点。而且掉的是同样的那部分——最边缘、最不常见、最不典型的部分。

最后你得到的,不是一个更聪明的 AI,而是一个说话越来越像它自己的 AI。翻来覆去就是那几种句式、那几个角度、那几层意思。它变得非常连贯,同时非常空洞。

这就是崩塌。

一个不需要专业知识的类比

这个机制,你在生活里早就见过。

复印件的复印件。

你把一张纸复印一次,还行。这张复印件的复印件,能看。再复印一次,细节开始糊。复印到第七八代,上面只剩一片灰。

有意思的地方在于:如果你不把第一代原件和第十代摆在一起,你是看不出问题的。你只会觉得「这复印件有点糊」,而不会意识到它已经丢掉了原件的绝大部分信息。

模型崩塌是同一件事。它是信息的逐代衰减,而且衰减的速度在每一代都在加快。

另一个更狠的类比是近亲繁殖:一个只在内部繁殖的种群,几代之后有害特征会被固定下来,适应能力大幅下降。它不是因为「变弱了」,而是因为失去了外部的输入。

为什么这事不只是技术问题

第一,这件事已经在发生了。

互联网上由机器参与生成的内容比例,这些年一直在快速上升。这不是猜测,你可以自己感受到:你搜一个问题,出来的前几条答案往往语气相似、结构相似、举的例子都差不多。

第二,崩塌不是突然的,是渐进的。 它不像停电一样啪一下黑掉,而是表现为「质量慢慢变差」,而人对渐变的东西极不敏感。你只会觉得「最近的AI怎么好像不如以前了」,而不会想到这是结构性的。同时,要判断一件事的真假,你需要一个「原点」:系统一旦闭环,内部就无法自证。如果所有人都在引用别人引用过的一句话,而那句话最初是谁说的、说得对不对已无从查证——这个系统看上去一切自洽,实际上已经悬空了。

这里有个反常识的地方: 一个自我循环的系统,往往在数据量最大的时候看起来最为繁荣。数据越多、生成越快、内容越满——恰恰说明它离外部输入越远。

那现在有办法吗

有,而且很朴素。

一是留一点「真」的。 研究里反复出现同一个结论:只要在训练数据里掺入少量真实数据,崩塌就能被大幅缓解,甚至推迟很长时间。注意是「少量」——这说明崩塌的机制不是「数据不够」,而是分布的形状被改掉了。真实数据里那些不起眼的样本,恰好是撑住这个形状的骨架。

二是做标记,让来源可查。 越来越多的内容会带着「这是机器生成的」这个小标签。它的作用不是歧视,而是让下游的系统能决定:我要不要吃它。

三是别把「人人都这么说」当成证据。 当你发现某个说法在周围被反复复述,却找不到最初的那个来源时,你其实正处在一个闭环里。同样,当你看到一份内容时,也可以多问一句:这句话最初的出处是哪儿? 如果一个问题只有一个来源,而这个来源又说不清自己是怎么知道的,那它就不是证据,只是回声。

回到那个丢笔的下午

老师把黑板上那个圈擦掉了。

「你们以后会听到越来越多关于 AI 的消息,有人说它要超越人了,有人说它要失控了。这些都不重要。」

「一个只向自己学习的系统,不会变强,只会变薄。」

「这不是 AI 的毛病。这是所有闭环系统的毛病。一个团队只跟自己人开会,一个国家只看自己发的新闻,一个人只听自己愿意听的话——走的都是同一条路。」

「它们在最开始的时候,都显得很繁荣。」

他把粉笔搁下,拍了拍手上的灰。

「所以你要做的,其实就一件事:守住那个能给你带来不一样东西的入口。」

「别让它关上。」

答案: 第一题选第二个,崩塌源于机器用自己生成的内容训练下一代,几轮后退化失真。第二题选第一个,真实数据保存了分布里稀有但关键的细节。第三题选第二个,任何自我循环的系统都需要有人守住原始素材这个外部锚点。