老师有没有告诉你，机器犯的每一个错，都是它自己分不清哪个错更贵

啪——老师把笔丢在桌上。

「我给你们出个题。」他在黑板上写了两个场景。

第一个：你让翻译软件把一句客套话翻成外语，它翻得有点生硬，对方愣了一下。

第二个：你坐在一辆会自己开车的车里，它在雨天没看清前面那辆白色的货车。

「这两个，都是同一个东西犯的错。」老师把笔捡起来又丢下，「一个是笑话，一个是事故。你们说，机器的这种错，到底算不算同一种错？」

老师有没有告诉你，错误是有层级的

我们平时说「机器会出错」，听起来像是一件事。其实至少是三件事。

第一种，是说了不该说的话。 它把 A 说成 B，把一段客套翻得怪里怪气，把一道题的答案算成了另一个数。这种错有个好处：只要人看一眼，就看得见。它落在纸面上，落在屏幕上，落在你眼前。

第二种，是做了不该做的事。 它替你点了「确认」，替你转了一笔钱，替你删了一批文件。这种错跟第一种的区别在于——话还能撤回，事撤不回来。

第三种，最麻烦：它做错的时候，一切看起来完全正常。 车在路上稳稳地跑，导航在平稳地播报，界面上没有任何红色警告，只是它认错了前面那个东西。

老师那天说的是第三种。

「前两种错，人是能当刹车的。第三种错，人是没有刹车的——因为你根本不知道要刹。」

为什么机器分不清哪个错更贵

这里得讲一个特别朴素的事实。

一个会说话的系统，本质上是在做一件事：给它前面的一堆字，让它猜接下来最该出现什么。它猜得准，是因为它见过足够多的类似情况；它猜不准，往往也不是因为它「想错了」，而是因为它碰到了一件它没见过的事。

而我们人有一个它没有的东西：我们能感觉到「这件事要是错了，会不会很严重」。

一个老司机在路上，看到的不是「前面有个东西」，而是「前面有个白的、方的、可能没在动的、可能没开灯的东西」——这个描述里已经包含了危险分级。他不需要真的看清，就已经在心里把刹车踏板摸到了。

机器不是这样的。它把眼前的画面切成很多小块，每块变成一串数字，然后判断「这块像不像路」。它判断得很准，但它不知道「这块要是判断错了，是需要命的」。

所以一个很关键的结论：

机器不是错得更少，是它不知道自己错在哪一层。

它把「翻错一个词」和「认错一辆车」，当成同一类问题去算。对它来说，两者都是「这次的输入和我训练时见过的不太一样」。可对这个世界来说，这两件事差了一个量级。

一个能讲清楚的例子：为什么它总能看见显眼的东西，却看不见安静的

这不是瞎猜。有一个被反复讨论的公开案例：一辆在辅助驾驶状态下的车，撞上了一辆横在路上的白色货柜车。

事后很多人在讨论「摄像头行不行」「激光雷达行不行」。但更值得看一眼的，是那件事的结构。

那辆货车横着停在路中间，侧面是一整片白色，没有明显的车头、车尾、车轮，也没有反光的车牌。在人的眼睛里，那是一片「不正常、值得警惕」的区域——正因为不正常，人才会多看两眼。

而系统在那一瞬间看到的，是一片亮度很高的、纹理很平的、跟天空很像的区域。它没有被训练成「遇到这种异常就危险」——它被训练成「这个形状像不像车」。当形状不像车的时候，它的答案就是「这里没有车」。

这就是第三种错的典型样子：它不是算错了，它是根本没有把这件事当成问题。

那我们该怎么办：一个非常实在的思路

老师后来给了一个特别朴素的答案，我记到现在。

他说：「你要是想让一个笨学生不出大错，最有效的办法不是给他请更多家教，是把考试范围划小。」

这句话翻译成今天的语言就是：让机器的任务边界变窄，而不是让它的本事变大。

一个只在固定场景里干活的机器，出错的种类是被限制住的。一个什么都能聊、什么都能替你做的系统，出错的种类是无限的——因为你连「它能错在哪」都列不出来。

这也解释了为什么同样是人工智能，有些东西用得让人安心，有些用起来让人手心出汗。区别不在模型多大、参数多少，而在边界有没有被画出来。

顺便说一句：边界不是写一句「本回答仅供参考」就算画了。真正的边界是——它在什么情况下会停下来，会不会的都说不会，不知道的就说不知道。

三招，普通人也能用

第一招：看一个智能工具，先看它错的时候你能不能立刻发现。 能立刻发现的，可以大胆用。不能立刻发现的，就要用得很小心。比如写文案、翻译、整理邮件，错了你一眼看得出来；而涉及到钱、涉及到安全、涉及到对别人的承诺，就要多一道人工复核。

第二招：把任务拆小，比把提示词写漂亮更有用。 很多人花大量时间研究「怎么问才能让它答得好」。其实更有效的做法是——别让它一次干一件很大的事。让它只做一件小事，做完你验一次。这样它的错就是可见的、可控的。

第三招：留意那种「一切正常」的时刻。 系统突然报错，是好事，说明它知道自己不行了。系统安静地、平稳地、看起来完美地运转，同时你没有检查过——这才是需要多看一眼的时候。

老师有没有告诉你，可靠不是不出错

课的最后，老师把黑板擦干净，只留了一句话：

「你们总觉得厉害的东西是不犯错的。错了。真正厉害的东西，是犯了错你能看见。」

一台机器可以很笨，但笨得明明白白，你还能用它。一台机器很聪明，但错在你看不见的地方，你连什么时候被它带沟里都不知道。

啪——老师把笔丢在桌上。

「所以下次你问『这东西靠不靠谱』的时候，别问它有多聪明。问一句：它错的时候，我能不能第一个知道。」

小测验