← 返回AI 前沿
AI 前沿

开学季,一条新闻冲上热搜:AI仿制的学校通知书、缴费通知、奖学金通知被用来诈骗,已经有家长中招。评论区不出意外:AI太可怕了,连公章都能仿。但很少有人问另一个问题:一个PDF里放个红章,凭什么就能让你掏几万块钱?AI只是做了一个好看的印章,真正让你转账的——是你大脑里那扇从来不锁的门。

老师有没有告诉你,AI仿制的通知书能骗到你——不是因为做得像,是你大脑里有一扇从来不上锁的门

2026-08-04 · 🕐 约 7 分钟

丢笔哥 发布

🖊️ 老师有没有告诉你…

你回忆一下,你上次收到一封带红头文件的通知——无论是学校的、单位的、还是政府的——你有没有检查过那个公章是不是真的?你没有。不是因为你粗心,是因为你的大脑里有一个自动程序:看到红头+公章=「这是真的,照做」。这个程序运行了几千年了,从来没出过错——直到AI学会了画公章。

老师有没有告诉你,AI仿制的通知书能骗到你——不是因为做得像,是你大脑里有一扇从来不上锁的门

你的大脑里有一个「公章开关」,AI发现了它

说一个残酷的事实:你从来不是通过「验证」来判断一份文件真假的——你是通过「感觉」。「感觉」这东西怎么来的?格式。红头、公章、官方措辞、正规排版——这四个元素组合在一起,你的大脑会自动触发一个叫「权威认证」的信号。这不是你的问题,这是所有人类大脑的出厂设置。一个经典实验:普林斯顿大学的心理学家让受试者看两篇一模一样的文章,A版用Times New Roman字体打印在普通纸上,B版用清晰字体高质量打印。结果B版的「可信度评分」比A版高出25%以上。内容一个字没变。AI做的事就是把这个「感觉真」的阈值推到了人类历史最低点——过去伪造一份官方文件需要PS技术、专用打印机、甚至真的公章;现在一个提示词就够了。但问题不在AI这里——在「你看到格式就相信」的那扇脑门上。

你知道「公章」这个东西,本来就不是用来防伪的

这是最反直觉的地方:公章从诞生的第一天起,就不是一个安全工具。它的原始功能是什么?是「仪式感」。在古代,盖一个章等于说「我本人到场了」「我以我的名誉担保」。章只是一个象征——真正起作用的是盖章的人愿意承担后果。但现代的通知书呢?你收到一个PDF,上面有个红章。你既没见过盖章的人,也不知道这个章是不是从别的文件上抠下来的,更没法验证——但你信了。为什么?因为你大脑里那个「公章=权威」的程序,比印章的历史还要老。早在文字发明之前,人类就学会了用一个符号来代表权力——部落的图腾、国王的戒指印、皇帝的玉玺。你的大脑在石器时代就被训练好了:看到符号=服从。AI只是把这个几万年前的漏洞重新利用了一次。

最容易被骗的,不是最笨的人——是最「配合」的人

你觉得什么人最容易被这种AI通知书骗?文盲?老年人?恰恰相反。最容易中招的,是那种「积极配合」「不想添麻烦」的人。收到学校通知说「请于48小时内缴费,否则取消学位」——正常反应是:快快快,别耽误孩子。你怎么可能想到这是AI生成的?你根本不在这条防线上设防,因为你的大脑已经自动把它归类为「待办事项」而不是「可疑文件」。这叫「框架效应」:一件事被放在「官方通知」的框架里,你就不再启动质疑程序了。就像你不会怀疑超市的价签是不是真的——不是因为价签不能造假,是因为你的大脑不认为那个场景需要启动「怀疑模式」。AI诈骗的精髓就在这里:它不需要骗过你的理性判断,只需要让你根本不进入判断模式。

AI做的不是「以假乱真」——是做了一件人类早就该做的事

换个角度想:AI仿制通知书这件事,真正暴露的不是AI有多危险——是我们验证「身份」的方式有多少儿戏。一份文件只靠格式和公章来证明自己的真实性,这跟用一张纸条写「我是警察」然后期望所有人服从有什么区别?事实上,你可以把AI理解为一个「压力测试工具」——它用最低的成本,暴露了人类信任体系里最脆弱的环节:我们太依赖「看起来像」来判断「是不是」。银行APP用指纹和面部识别来验证你的身份,但一份通知书的真实性验证方式竟然还停留在「看看公章像不像」——这两个体系之间的差距,比1960年代的通信技术和5G之间的差距还大。AI不是在制造新问题——它是在用最暴力的方式,提醒你一个已经存在了几十年但你假装没看见的漏洞。

怎么堵上那扇从来不上锁的门?不是学更多的防骗技巧

很多人会说:多看看新闻,提高警惕。问题是——你不可能对所有事情都保持警惕。你的大脑有一个硬性的注意力预算,每天大概只能做35,000个决策。你不可能在「这个通知书是真的吗」这件事上消耗预算,因为你还有「今天中午吃什么」「孩子作业做完了没」「老板发的消息回了吗」。这就是为什么「提高警惕」从来不是一个可扩展的解决方案。真正的解决方案不在你身上——在系统设计上。如果每一份官方通知都附带一个你可以独立验证的数字签名(就像你的银行转账短信里那个验证码),AI仿制的公章就再也骗不到任何人。拆穿一个假公章最好的方法,不是练就一双火眼金睛——是让真公章自带一个骗子根本造不出来的东西。这个方向比「让所有人都变成防骗专家」靠谱一万倍。

**📖 真实故事:一个「看起来像」的骗局,骗了全世界最聪明的人** 2013年,一个叫艾利克斯·诺尔特的法国骗子伪造了一份法国政府的采购合同PDF。他用Photoshop做了公章、部长签名、官方编号。他把这份PDF发给了几家国际银行,声称法国政府要采购一批医疗设备,需要短期融资。三家银行——包括一家全球排名前十的——批准了贷款。总金额:18亿欧元。他不是黑客,没有入侵任何系统,没有盗取任何密码。他只是在电脑上画了一个很像的红章。后来银行起诉他,他的辩护词只有一句话:「你们的贷款审批流程,难道只看一个章吗?」
🖊️

关于丢笔哥

丢笔哥不是一个具体的人——它是一种态度。在信息爆炸的时代,用最直白的语言,把硬核知识讲透。覆盖金融证券、AI 前沿、Web3、东方智慧。

一支笔丢在桌上,一堂课就此开始。

📬 订阅丢笔哥 →

📖 继续阅读

🔗 Web3
老师有没有告诉你,你还没点「确认下单」的时候,已经有人替你涨了价
你在淘宝把一双鞋放进购物车,第二天它涨了50块。你觉得被大数据杀熟了。但更可怕的是:区块链上有一群人,能在你按下「确认交易」的那一秒,在你的交易前面插队——吃掉你的利润、抬高你的价格。这不是bug,是这个系统公开的秘密。而且,这种事不只发生在区块链上。
🌌 东方智慧
老师有没有告诉你,2157年的外星考古学家发现——地球上最「成功」的物种,都是被自己的成功杀死的
2157年,第三批外星考古队完成了对地球灭绝文明的全面扫描。他们发表了长达600页的《蓝色星球灭绝报告》,其中第317页有一个令人不安的结论:地球上的主导物种没有死于小行星、核战争或瘟疫——它死于「过度优化」。它把一件事做到了极致,然后这件事反过来掐死了它。
📈 金融证券
老师有没有告诉你,1755枚比特币被偷不是最可怕的——最可怕的是你的钱也不在你以为的地方
2026年8月,1755枚比特币被盗,价值7.43亿人民币。受害者打开账户,余额显示为零。你可能会想:幸好我不玩币。但等等——你手机银行里那个数字,和被盗的比特币,其实是同一种东西:一个别人替你保管的承诺。

📬 不想错过下一堂丢笔课?

每周一篇硬核科普,用最好玩的方式讲最硬核的知识。
不卖课、不荐股、不画饼。

💬 讨论区