← 返回东方智慧

东方智慧

百度热搜曝出奸商在视频号卖毒药材。你以为是审核不严？真相比那更可怕：不是系统失职了——是系统正常运转了。在算法那双只看得见「停留时长」和「转化率」的眼睛里，一个卖毒药材的账号看起来完全健康。

老师有没有告诉你，毒药材没有被抓住不是因为有人包庇它——是系统用来「看」世界的那双眼睛，天生就有盲区

2026-07-27 · 🕐 约 8 分钟

由 丢笔哥 发布

🖊️ 老师有没有告诉你…

一个只优化单一维度的系统，会在所有未被观测的维度上自动积累毒性——而它自己永远发现不了，因为测量毒性的传感器从来没有被安装过。

2026年7月，一条「奸商卖毒药材专攻视频号用户」的新闻上了热搜。很多人的第一反应是指责平台审核不严。但这条新闻真正让人脊背发凉的，不是有人敢卖毒药材——是系统根本不知道自己管理的领地里有一个毒瘤。

:::story title="一个买了假药材的老人"
2025年底，河南南阳一位72岁的老人，在视频号上花2300块钱买了一堆自称"祖传秘方"的中药材。吃了两个月后肝功能异常住院。她的女儿愤怒地去找那个视频号主播，发现账号已经被封了——但同一批人开了三个新号，换了个名字继续卖。平台的客服跟她女儿说："我们已经处理了违规账号。"但她们要的不是"处理"——她们要的是"我妈第一次下单之前，系统能不能在她面前弹一个弹窗：本平台无法验证该商品安全性的弹窗。"这个弹窗至今没有出现。因为它在产品的优先级表格里排在"降低用户跳出率"的下面——而且永远排在下面。
:::

毒药材不是突然冒出来的，它们在系统裂缝里住了很久

2026年7月，百度热搜曝出：有奸商在视频号上卖毒药材，专门瞄准那些信中医但不懂辨别药材的老年用户。你看到这条新闻的第一反应可能是："平台怎么不管？"但这个问题本身就是答案——不是平台不管，是平台根本"看"不到。你想想，一个视频号上卖药材的主播，在平台的审核系统里看到的是什么？是一串用户停留时长和转化率数据。数据显示这个人转化率高、用户停留时间长、投诉率低——在算法眼里，这是一个"优质内容创作者"。毒药材没有被发现，不是因为有人包庇它——是系统用来"看"世界的那双"眼睛"，天生看不见"药材是否含毒"这个维度。

任何复杂系统的崩塌，都不是从外面被攻破的

2023年，麻省理工的系统动力学实验室做过一个模拟：在一个由算法管理的市场中，如果有1%的卖家开始销售低质量商品，系统会自己走向崩溃——但不是因为那1%。是因为剩下的99%的优质卖家，看到劣质品卖得又好又快又不被惩罚，开始逐渐降低自己的质量标准。这个过程叫"系统信任的梯度腐蚀"。它不是一夜之间发生的，是每天掉一个螺丝。第一天：一个卖假药材的没被抓住。第二天：十个。第三十天：良心卖家心想"反正也没人查，我也掺一点吧"。第三十一天：消费者说"这个平台上的东西都是假的"。你看，系统崩溃不是因为那1%的坏人——是因为被那1%拖下水的沉默的大多数。而算法的近视眼，让这个腐蚀过程变得完全不可见。

视频号不是个例——所有单维度优化系统都有同一个死穴

这个问题有一个更高维度的名字："古德哈特定律"。一句话解释：当一个指标变成了目标，它就不再是一个好的指标了。视频号的目标是什么？用户停留时长和广告收入。验证药材安全需要什么？专业检测、人工审核、专家鉴定——这些全部都会降低停留时长和增加成本。所以当系统只优化一个维度（商业效率）的时候，其他所有维度（安全、真实、公正）都会被自动"优化掉"。这不是视频号的道德问题——这是所有单目标优化系统共同的结构性缺陷。你公司的KPI只看销售额，客服质量就会烂掉。你只看孩子期末考试成绩，他的心理健康就会被你自动忽略。你只盯着投资收益率，你就永远不会注意到那笔钱是怎么赚来的。

两千年前有人发现了这个bug——他管它叫「两者同出」

在所有文明的早期智慧中，有一个反复出现的洞见：你永远不能只看事物的一个侧面。系统越复杂，隐藏维度的数量就越多。当视频号只优化"转化率"这一个维度时，它实际上在制造一个"转化率高但有毒"的怪物——而这个怪物在系统的单维度视角里看起来完全是健康的。这不只是商业的问题。任何一个只用一个KPI管理自己的组织、国家、甚至个人，都会在看不见的维度上积累"毒性"。直到有一天——啪，那个被长期忽视的维度反噬了整个系统。毒药材事件不是被发现的——是被无视太久之后，毒性终于溢出到系统无法继续自欺欺人的那个临界点。

怎么办？——给每一个系统装上第二个「传感器」

回到毒药材的问题。平台怎么解决？不是增加更多审核员——审核员也是人，也会累，也会被同一套KPI绑架。真正有效的方案是：让系统同时优化两个互斥的目标。比如，除了停留时长，还要优化"用户投诉后48小时内的解决率"。当一个指标上升必须以另一个指标不下跌为前提时，系统就被迫在每个维度上保持一种最低限度的清醒。这不只是给平台的建议。你自己的生活也是：除了收入，你有没有设置另一个不能跌破的底线？比如睡眠时长、每周和家人吃饭的次数、每天花在自己身上的30分钟。只有一个指标的人生，和只优化转化率的视频号一样——总有一天会在你看不见的地方崩塌。