老师有没有告诉你，AI大模型也会「闪崩」——而且崩的方式，跟你家股票账户一模一样

AI也有「闪崩」——它不叫亏钱，叫「忘了」

你让一个AI学会了认猫，花了三天时间，喂了十万张猫图，它终于能在任何角度、任何光线下认出「这是一只猫」。然后你开始教它认狗。数据喂进去，训练跑起来——狗认对了。但诡异的事发生了：你再让它认猫，它犹豫了。不是说完全不认识，而是开始把暹罗猫认成狗，把橘猫认成「不太确定」。它没有「亏钱」，但它「亏了知识」。在AI研究领域，这有一个专门的名字：灾难性遗忘（catastrophic forgetting）。它的逻辑跟美股闪崩出奇地相似——不是系统本身坏了，是它内部用来校准判断的「参照系」被新进来的信息冲垮了。你想想刚才金融那篇文章说的「锚」——一个AI模型在训练过程中，每一条新数据都在重新调整它的锚。调得太猛，旧的锚就断了。

为什么「学新东西忘旧东西」——你的大脑和AI犯了同一个错误

你可能觉得这是AI的毛病，人类不会这样。但你想一下：你学了三个月日语之后，突然发现英语单词开始卡壳了。刚学会用iPhone手势操作，回老家帮爸妈调安卓手机，手指愣是划不动。这不是你变笨了，是你的神经网络在重新分配「权重」。人类大脑有大约860亿个神经元，每个神经元和周围的连接强度是可以改变的——这个机制叫「突触可塑性」。AI的神经网络也是一模一样的逻辑：它由几百万到几十亿个「参数」组成，每个参数就是两个虚拟神经元之间连接的强度。当你训练它学新任务时，这些参数被重新调整，而那些专门负责「识别猫耳朵形状」的参数，可能被借调去「识别狗的尾巴方向」了。这个「借调」本身不是bug——它是所有会学习的系统共有的特征。问题在于，人类的记忆系统有一套AI还没有的防御机制：睡眠。你在睡觉的时候，大脑会把白天的记忆从临时存储区「重放」到长期存储区，同时加固旧的记忆——这被称为「记忆巩固」。AI不睡觉。它只是不停地学，参数被不断地改写，像一个永远不存档的word文档。

从「忘了猫」到「学会胡说」——灾难性遗忘的升级版

如果说灾难性遗忘只是忘了旧知识，那还有一个更隐蔽也更危险的版本：模型崩溃（model collapse）。2023年，一群研究者做了一个令人不安的实验：他们让AI生成一些文字，然后用这些AI生成的文字去训练下一代AI，再用下一代AI的输出训练第三代……到了第五代，AI开始输出完全无意义的胡言乱语。原因很简单：每一代AI都在「遗忘」真实数据中的稀有信息和边缘案例，只保留最常见、最「平均」的模式。就像你复印一份文档，再用复印件复印，复印到第十代——字还在，但笔画的边缘全糊了。这跟股市里的另一现象几乎一模一样：当所有人都在用同一个策略交易，市场的「多样性」就消失了，一个小小的扰动就会引发雪崩。

研究者找到了一个比你想象中简单的解法——让AI「复习」

2017年，DeepMind的研究者在《美国国家科学院院刊》上发表了一篇重要论文，标题叫《克服神经网络中的灾难性遗忘》。他们提出的方法简单到让很多AI从业者感到羞愧：让AI在学习新任务时，同时重放一小部分旧任务的样本。换句话说——让AI「复习」。这跟人类备考的逻辑一模一样。你不是只刷最新一套真题，你得把所有真题都过一遍。把这套方法用在AI上之后，研究者发现模型不仅不会遗忘，甚至在某些情况下新旧任务的表现都比单独训练更好。后来这个方向衍生出了「弹性权重巩固」（EWC）、「渐进式神经网络」等一系列技术，名字听着很唬人，但底层逻辑就一句话：不要让新知识把旧知识连根拔起，给每个知识一份「重要性评分」，重要的知识锁死，不重要的可以灵活调整。

这件事跟你有什么关系——比你以为的大

你可能觉得，AI忘不忘猫跟你没关系。但如果你用的是AI客服、AI翻译、或者AI医疗诊断系统，每一次系统更新都有可能让它在某个你关心的具体问题上突然变蠢——而你根本不知道它「忘了」。更隐蔽的风险是：你今天训练了一个AI助手，让它理解你的工作习惯和偏好。明天你喂了它一批新的行业数据想看它学习，结果它把你的习惯改掉了——它开始用「标准」的方式回答你，而不是你调教了三个月的那种方式。这就是为什么现在最先进的AI系统都在研究一种叫「持续学习」的技术——让AI像人一样，既能学新东西，又不丢掉旧的。而这件事的核心秘密，恰好和前面金融那篇里的结论撞在一起：要不要更新参考系，以及更新多少——是所有智能系统（不管是有机的还是人造的）都必须面对的一道终极选择题。