人们购买的特斯拉汽车越多，自动驾驶系统的故障就越多。尽管在人工智能和机器学习方面，故障是相当常见的。但在自动驾驶这样的敏感系统中，它可能会产生致命的后果。就像这辆特斯拉一直在猛踩刹车，即使没有停车标志。
这位特斯拉车主Andy Weedman最近在推特上说，他发现他的特斯拉Model 3在同一条路上一次又一次地出故障。即使没有停车标志，那辆车也一直在踩刹车。这种情况持续了一段时间，但安迪坚持了下来，最终发现汽车上的广告牌上写着“停止”，这是一个停车标志。一个非常奇怪但可信的假阴性。
为了确保特斯拉意识到这个问题，魏德曼自己也拍摄了一段关于这个奇怪故障的视频。在视频中，看到停车标志后，他的特斯拉就停在了路中间。以每小时35英里的速度全速前进。像这样的情况通常被称为边缘情况，意味着人工智能没有真正训练过的情况。
你可以查看下面的视频。
像这样的案例百万分之一，但它确实会发生。在魏德曼的案例中，道路相当空旷，所以没有发生事故的可能性，但事故可能发生。解决所有这些故障取决于特斯拉，但在现实世界中，预测每一种情况和变量几乎是不可能的。这正是特斯拉警告司机不要让方向盘无人看管的原因。
修复这个小故障需要的不仅仅是一个简单的软件更新和补丁，但它是可行的。还是不要太依赖自动驾驶系统。
