当AI可以在三秒内编出一条以假乱真的新闻时,最有效的防御不是更聪明的AI——而是让每一个阅读的人都变成一个「验证节点」。
老师有没有告诉你,AI造假越凶的时候——一群人正在用一种最笨的办法打败最聪明的机器
2026-08-04 · 🕐 约 9 分钟
由 丢笔哥 发布
你有没有想过一个问题:为什么一群人凑在一起「核对」一件事,比任何一个单独的专家更准确?
1906年的一个集市,早已给出了答案
1906年,英国科学家弗朗西斯·高尔顿做了一个著名的实验。他去一个乡村集市,那里正在举办「猜牛重比赛」——一头公牛被展出,围观的人花六便士猜这头牛的重量,猜得最准的拿奖。
高尔顿收集了787张猜票,心想:这群农民懂什么牛?他们的平均猜测肯定离正确答案差得远。
结果呢?787个人的平均猜测是1197磅。而那头牛的真实重量——是1198磅。只差了一磅。
没有一个农民猜中正确答案。但「这群人加在一起」比任何一个专家都准。高尔顿把这个现象叫做「群体的智慧」——它不是一群人聪明,而是每个人的误差在加总时互相抵消了。这个原理,恰好是今天对抗AI造假的最有力武器。
为什么「一个人判断」在AI时代彻底失效了
过去,你看到一条新闻,判断它是真是假,靠的是自己的经验、常识和直觉。这个方法在信息量不大的时代是够用的——你一天就看三份报纸,假消息的比例不超过5%。
但今天你一天刷几百条信息,其中「半真半假」的AI生成内容可能占到30%甚至更高。你的大脑根本来不及逐条验证——你只能靠「感觉」。而感觉,恰恰是AI最擅长操纵的东西。
AI生成的假消息之所以能骗你,不是因为它逻辑严密——而是因为它「感觉上像真的」。它模仿了真新闻的语气、结构、配图方式,甚至模仿了「评论区有人在质疑」这种细节。你的大脑在判断「这是真的吗」时,走的是一个快速的模式匹配通道,不是理性的逻辑推理。
这就是「一个人判断」在AI时代失效的根本原因:你用来判断真假的工具——你的模式识别直觉——已经被人用相同的方式攻破了。你需要换一种完全不同的判断方式:不是一个人判断,而是一群人交叉验证。
把每个读者变成「验证节点」——一个你每天都见过的系统
你可能没用过区块链,但你每天都在用跟区块链一样原理的东西——「网友鉴定」。
你有没有在社交媒体上看到过这样的情况:一条消息刚发出来时,评论里有人说「真的假的?」然后下面开始有人回复:「假消息,查过了」「原视频在这里」「当事人都辟谣了」。很快,一个隐形的「共识」就形成了——这条消息被标记为「假」。
这个过程,跟区块链的共识机制一模一样:一群互不信任的人,各自独立地验证同一件事,然后给出自己的判断。最终,「多数人的判断」成为某种版本的「真相」。这不是区块链的专属发明——这是人类社会组织信息的基本方式。区块链只是把这件事变得更高效、更不可篡改。
现在,有一群人正在把这个原理变成工具:每一个阅读者都可以对一条内容做出「可信」「存疑」「虚假」的标记,这些标记被聚合在一起,形成这条内容的「可信度分数」。你下次看到它的时候,就知道有多少人「验证过」这条信息——就像你买商品时会看「多少人评价过」一样。
不是「人取代AI」,是「人+AI」组成一个验证网络
你可能会想:让人来验证?那得多慢啊。AI三秒能生成五百条假消息,人一天能验证几条?
你说得对——纯人力验证在速度上永远打不过AI。但「人+AI」的混合验证可以。
这里的「人」不是指一个个去查资料——而是指一个分布式的「注意力网络」。就像你的免疫系统不是靠一个「超级白细胞」去打败所有病毒——它靠的是几百万个普通白细胞分散作战。信息免疫系统也一样:不需要每个人都有记者的调查能力,只需要足够多的人「注意到」同一条可疑信息,然后把它标记出来。
AI在这里的角色是什么?辅助。AI可以帮人类验证者做「预处理」:这条内容跟已知的假消息数据库有没有重复?这个账号的发布历史里,有没有「生产假消息」的模式?这条内容的语言风格是不是AI生成的特征?AI做完这些之后,把结果呈现给人类验证者——人只需要做最后一层的判断:「我觉得这东西不对劲。」
🤔 你可以把这个系统理解为:AI是「初筛机器」,人是「终审法官」。两者缺一不可——AI单独运行会被「对抗性样本」骗,人单独运行会被信息洪水淹死。
这个系统最大的敌人不是技术——是一个你每天都在做的小动作
集体验证系统听起来很理想,但它有一个致命弱点:你太懒了。
或者说,不是懒——是你没有动力去验证。你看到一条新闻,如果它是假的,你最多被骗几分钟;如果它是真的……你也不会得到什么。验证一条信息的回报是零,而不验证的成本也很低。
这就是「验证者激励缺失」问题。在区块链里,验证交易的「矿工」能拿到币作为奖励。但在信息验证系统里,谁来给你发钱?
有一群人在尝试解决这个问题:用「声誉」代替「钱」。如果你持续做出准确的判断,你的「可信验证者」分数就会上升。高信誉验证者的标记权重更重——系统会优先采纳他们的判断。对你来说,这是一种「你在网上说话越来越有分量」的社会资本积累。
这可能比你想象的更接近答案:钱不是唯一的激励。在人类历史上的大部分时间里,声誉比钱更值钱——因为它能打开所有需要「信任」才能打开的门。而在这个AI造假泛滥的时代,「我是一个可信的人」——可能是最稀缺、也最值钱的资产。
关于丢笔哥
丢笔哥不是一个具体的人——它是一种态度。在信息爆炸的时代,用最直白的语言,把硬核知识讲透。覆盖金融证券、AI 前沿、Web3、东方智慧。
一支笔丢在桌上,一堂课就此开始。
📬 订阅丢笔哥 →📖 继续阅读
🤖 AI 前沿📬 不想错过下一堂丢笔课?
每周一篇硬核科普,用最好玩的方式讲最硬核的知识。
不卖课、不荐股、不画饼。
💬 讨论区