评论之星·视评 | 一杯奶茶引发的危机：人类对技术当有“戒心”-尊龙凯时首页

□梁杰隆 程正元 张思滢 李冼卡特（重庆大学）

近日，s9苏台高速上演了一场现实版的“生死时速”。谢先生驾驶的轿车在开启定速巡航之后，保持126码的高速行驶，可却发现该功能无法取消，无法制动熄火。绝望的谢先生经过一个多小时的惊险之旅，最终在汽车工程师的指导下关闭系统，安全停车。事后发现原因竟是一杯奶茶不小心泼到了方向盘上。（11月4日 澎湃新闻）

或许听数字我们无法感受到当时的恐怖与惊险，但是有过开高速经历的司机朋友不难想象：在高速上保持一百二十码以上的车速本就是很危险的，因为车子处在失控的边缘，极度脆弱，稍有不慎就会发生惨烈意外。这时候，如果被告知车子已经无法控制，只能任由其高速飞驰，想必再有经验的司机都会被吓出一身冷汗。而新闻中的这位司机，可想而知，之后也未必再敢再使用这种技术。

事发的直接原因，固然在司机：没有失手打翻奶茶，系统照例不会失灵。但是问题在于：这样的风险是随处可见的，是每个人都有可能会遭遇的。没有人可以保证今天不泼奶茶，明天就不泼一杯水，后天就不会被雨打湿……当一个风险的诱因处在大众都可以触及的范围内，那么即便事故发生，我们也不该将其归为大众的责任。所以，我们需要有所戒备的对象不仅是自身，而更多是技术。

一个最简单的道理就是：既然系统会因为被泼水或奶茶而失灵，那么负责设计系统的工程师将这一漏洞填补即可。不需要把防水工作做到一丝不漏，至少关键运行的地方，不能出现丝毫疏忽，否则下一次出现事故就未必有这么幸运了。但是问题是，这就够了吗？——人类的活动是高度复杂的，人们每天创造的、遭遇的、面临的风险更是数不胜数，永远没有“最安全”这一说，只有“更安全”可以被追求。技术，日新月异；而限制技术的保护措施，更需要与时俱进，因为我们无法考虑到下一次造成事故的原因是什么，只能尽最大能力去设想潜在的风险并弥补漏洞。

而对于普通的消费者来说，我们能做的或许很有限，那就是至少要对尚不成熟的技术保持一定的戒心与清醒。不要将自己的生命全权托付给技术，而把一部分控制权留给自己。以此事为例，我们会发现最后救司机的不是别人，而正是他自己，正是因为自己下意识地去时不时进行手动操作汽车，才发现车已经不受控制，从而间接救了自己。如果司机完全放权，交给驾驶系统来开，那么大概率事故发生的时候，已经来不及挽回了。技术带来的风险与危机，有时比人为的灾难更可怕。因为飞驰的汽车、高速运行的算法，它们不讲情面，它们没有理性，不会在紧急关头出于人道精神救司机一把。它们只会按照程序走下去，“至死方休”。这些完全足以引起人们的警惕，并采取一定的预防措施。

当然，我们也不可以因噎废食，因为现有技术的局限而去拒绝技术的进步，这也会客观扼杀人类的创意。我们需知道，技术发展的道路并不平坦，而是充满坎坷，但是一切技术的初心与前景，终究是给人类带来便利。对科学和技术的创新，多一些包容，多一些耐心，也是广大消费者在“戒心”之余所能做的事情。