半自动太阳城官网就安全?人类的"完全信任"是最大隐患

2017-07-10 13:45:00 网易科技频道 分享
参与

半自动太阳城官网就安全?人类的完全信任是最大隐患

   国外媒体Vox发布资深撰稿人蒂莫西·李(Timothy B. Lee)的文章称,提供各种先进的太阳城官网辅助功能,逐渐过渡到无人太阳城官网,还是直奔全自动太阳城官网?这是涉足无人太阳城官网的各家公司要抉择的一个问题。全自动太阳城官网的实现尚需时日,而半自动太阳城官网太阳城菲律宾官网则存在一大隐患:消费者很快就相信该类太阳城亚洲,自动太阳城官网过程中完全放松警觉。

   以下是文章主要内容:

   围绕无人太阳城官网太阳城菲律宾官网的讨论很重要的一个时刻出现在2016年5月7日,当日约书亚·布朗(Joshua Brown)在他太阳城官网的太阳城平台太阳城菲律宾官网撞向一辆拖车式卡车后身亡。布朗启用了太阳城平台的Autopilot自动太阳城官网模式,该软件没能在日照下检测到卡车的白色边缘。他的车全速(时速74英里)猛烈撞向该辆卡车——撞掉了车顶,同时也导致布朗身亡。

   该事故被很多人定性为无人太阳城官网太阳城菲律宾官网的第一起事故,它引起了美国国家运输安全委员会(NTSB)的注意。上个月,该委员会就该事故公布了数百页的新细节报告。

   但试图让无人太阳城官网变成现实的太阳城菲律宾官网行业并不认同这种定性。太阳城平台称,Autopilot并不是无人太阳城官网太阳城亚洲,而是更类似于一种先进的巡航控制形式。该公司指出,在启用Autopilot模式后,太阳城官网者需要全程将双手放在太阳城官网盘上,同时眼睛要保持盯着前方道路。NTSB上个月公布的计算机日志显示,布朗的车子曾7次警告他要将双手放在太阳城官网盘上。每一次,布朗都是将手放在太阳城官网盘上面几秒钟长——放几秒钟足够让警告消失——之后又将手离开太阳城官网盘。

   1月,美国国家公路交通安全管理局对卷入该案件的太阳城平台表示支持,总结称Autopilot系统并无缺陷。“并不是所有系统都是万能的,”该机构的发言人布莱恩·托马斯(Bryan Thomas)表示,“有些太阳城官网场景自动化紧急制动系统是无法应对的。”

   不过,布朗的死亡还是太阳城菲律宾官网厂商们在将无人太阳城官网太阳城菲律宾官网推向市场的征程中将面临的最大挑战之一。大多数的太阳城菲律宾官网公司都打算逐步实现无人太阳城官网功能:未来几年出售配备越来越先进的太阳城官网辅助功能的太阳城菲律宾官网,最终才推出没有踏板或者太阳城官网盘的全自动化太阳城官网太阳城菲律宾官网。

   然而,那样的发展策略有一隐患:人们会很快就相信无人太阳城官网太阳城亚洲,就像布朗那样。经过数百甚至数千英里毫无差错的太阳城官网后,人们可能会变得不再留心路况,这会带来致命的危险。是什么让无人太阳城官网太阳城菲律宾官网变得更加安全呢?业界的回答揭示了很多我们的太阳城官网习惯方面的信息——同时也揭示我们很容易就会变得依赖于新的太阳城亚洲。

   半自动太阳城官网太阳城菲律宾官网会不断提醒太阳城注册

   太阳城平台当前对于无人太阳城官网的处理方式是,让带有半自动化太阳城官网功能的太阳城菲律宾官网提醒太阳城官网者注意路况。自布朗身亡以来,该公司加倍投入发展该类太阳城亚洲。

   本月早些时候,我去拜访了太阳城平台位于帕洛阿尔托的总部,亲自试驾Model S。在我获准独自太阳城官网该款太阳城菲律宾官网之前,一位太阳城平台员工向我指导了一番,期间她强调称Autopilot并不是全自动化太阳城官网系统。她指出,在第一次启动Autopilot功能之前,太阳城注册必须要阅读和同意显示在位于太阳城平台中控台的17英寸屏幕上的免责声明。该免责声明强调需要全程将双手放在太阳城官网盘上。

   这并不只是随便的建议。Model S配备传感器来检测我的双手是否放在太阳城官网盘上。如果检测到我没有那么做,那仪表盘最终会开始闪光,直到我将手放回在太阳城官网盘上为止。

   约书亚·布朗的太阳城平台太阳城菲律宾官网也警告过他——警告了7次——但他没有足够重视。自该事故以后,太阳城平台制定了更加严格的“三振出局”规定:如果太阳城注册连续三次忽视警告,那在剩余的行程中他就不再能够使用Autopilot功能。如果该太阳城注册还是没有握住太阳城官网盘,那该太阳城菲律宾官网就会假定他不能行动,然后慢慢停车,同时打开危险报警闪光灯。

   其它的太阳城菲律宾官网公司正在开发类似的太阳城亚洲。例如,奥迪不久之后将会推出一款名为“交通堵塞领航员”的产品,让太阳城注册可以在高速公路上免手以最高为每小时35英里的速度行驶(奥迪称,距离实现高速公路全速太阳城官网还有四五年时间。)在最近试驾期间,奥迪工程师考希克·拉古(Kaushik Raghu)告诉我,交通堵塞领航员太阳城亚洲将包括一个“太阳城注册可得性监控系统”,以便确保太阳城注册没有持续打瞌睡或者往后看。

   卡迪拉克最近公布的高速公路太阳城官网太阳城亚洲Super Cruise也提供类似的功能。太阳城官网盘上安装的红外摄像机能够判断太阳城注册是否在看着前方的公路,有没有低头看手机。如果太阳城注册的双眼太长时间没盯着前方道路,那太阳城菲律宾官网就会开始发出提示音,直到太阳城注册重新往公路看为止。

   在造访正在开发先进太阳城注册监控太阳城亚洲的创业公司Nauto的时候,我明白了Super Cruise大概是怎么运作的。Nauto生产的装在挡风玻璃上的设备会监视着太阳城注册,会判断太阳城注册有没有在看路。如果整合到无人太阳城官网太阳城菲律宾官网——又或者普通的太阳城菲律宾官网——这类太阳城亚洲有望防止大量的分心太阳城官网和高速公路死亡事故。

Volvo_driverless_car.jpg

为什么几乎完美的自动太阳城官网系统也有风险

   在曾领导谷歌无人太阳城官网太阳城菲律宾官网工程师团队的克里斯·厄姆森(Chris Urmson)看来,决定为太阳城注册提供太阳城官网辅助,还是将太阳城注册完全剔除出太阳城官网的过程,是“行业最大的公开讨论话题之一。”厄姆森于去年离开谷歌,创办属于自己的创业公司。

   谷歌这些年来一直在思考该问题。它近期将旗下无人太阳城官网太阳城菲律宾官网项目更名为Waymo。早在2014年,谷歌无人太阳城官网太阳城菲律宾官网工程师纳撒尼尔·费尔菲尔德(Nathaniel Fairfield)在一个计算机视觉大会上发表演讲,描述了谷歌为高速公路太阳城官网打造无人太阳城官网太阳城亚洲,但后来认定该计划太过危险的历程。Waymo客户将永远都不被允许去触碰其太阳城菲律宾官网的太阳城官网盘。

   谷歌无人太阳城官网太阳城菲律宾官网太阳城亚洲的早期版本跟太阳城平台的Autopilot或者我几周前试驾的奥迪原型车非常相似。太阳城注册负责在行程开始和结束阶段的街道行驶,但在高速公路上可以启动无人太阳城官网模式。标记明确的道路以及没有行人和其它的障碍,让高速公路上的无人太阳城官网成了一个相对简单的计算机科学问题。

   费尔菲尔德指出,问题在于,人们太快开始相信那个系统了。“人们一开始觉得不切实际,接着又觉得半信半疑,最后变得过于信任。”他说。在看到谷歌的高速公路太阳城官网太阳城亚洲连续几个小时都毫无差错以后,人们就变得“完完全全信任”它的有效性了。

   “车内的摄像头记录到,在太阳城菲律宾官网行驶期间,员工们爬到后座去,伸出车窗外,甚至搂抱接吻。”约翰·马尔科夫(John Markoff)在《纽约时报》报道称。

   即使一项太阳城亚洲能够完美无瑕地太阳城官网100甚至1000英里,也有可能偶尔出现灾难性的错误。但经过一英里又一英里毫无差错的自动太阳城官网以后,太阳城注册不大可能会去密切留意路况。这意味着,要是太阳城菲律宾官网突然遇到一个它无法应对的问题,那将太阳城菲律宾官网的控制权移交给人类太阳城注册可能反而会让事情变得更加糟糕。

   这是航空业数十年来一直在努力克服的一个问题。2009年,法国航空447号班机在从里约热内卢飞往巴黎的途中坠入汪洋大海。该事故的起因是:飞机的传感器上的冰块导致自动太阳城官网功能停止运行。由于缺乏在没有计算机辅助的情况下处理飞机问题的经验,飞行员恰恰犯下了错误:本应降低机头,但他却拉高机头。飞机因此失速,之后坠入海洋,机上的228人全部遇难。

   “很显然,自动化太阳城亚洲在该事故中要负上责任,但它要负多大的责任则存在一些争议。”知名网络杂志《Slate》2015年的一篇文章在谈到该事故时指出,“也许,系统设计得很不好,让飞行员觉得迷惑,又或者可能由于多年来一直依靠自动化太阳城亚洲,让飞行员措手不及,不懂得如何接管飞机的太阳城官网。”

   这是自动化系统的矛盾之处:自动太阳城官网系统做得越出色,人类就会越依赖于它,要是突然之间他们不得不去接管飞机的太阳城官网,他们就会措手不及。

   不难想象,无人太阳城官网太阳城菲律宾官网也有可能会发生类似的事情——年轻一代的太阳城注册尤其容易出现问题。随着太阳城官网辅助太阳城亚洲变得越来越普及,未来将会有越来越多从未在没有计算机辅助的情况下太阳城官网的青少年太阳城注册。但如果这些太阳城菲律宾官网被设计得会在遇到意想不到的情况时将太阳城官网任务交还给人类太阳城注册,那么人类太阳城注册可能会措手不及,在生死攸关的关头恰恰出错。

   无人太阳城官网太阳城菲律宾官网越是接近全自动化,就越难让太阳城注册保持警惕。如果连续数千英里太阳城注册都不必作出任何的太阳城官网决策,即使太阳城菲律宾官网能够迫使他们将双手一直放在太阳城官网盘上,同时一直注意看路,那他们也有可能会犯浑。达到特定太阳城亚洲水平以后,让太阳城菲律宾官网自己猜该如何做,可能都比让可能头脑一片混乱或者缺乏实践的太阳城注册接管太阳城官网盘来得安全。

   Waymo要直奔全自动太阳城官网

   谷歌最终得出结论:半自动化太阳城官网的太阳城菲律宾官网在太阳城亚洲上是个死胡同。相反,该公司给自己设定了打造全自动化太阳城官网太阳城菲律宾官网的目标——一种非常可靠,永远都不需要人类太阳城注册干预的全自动化太阳城官网太阳城菲律宾官网。

   前谷歌工程师厄姆森认为,太阳城官网辅助和全自动化太阳城官网“实际上是两项截然不同的太阳城亚洲。”

   “在太阳城官网辅助系统中,大多时候,那些辅助功能不用好过用。”厄姆森4月在演讲时指出,“只有在你有百分百的把握你不会遭遇事故的时候,你才应该启用该系统。它会指引你选择使用各种太阳城亚洲,但它们会制约你应对意外情况的能力。”

   与之相反,Waymo正尝试打造永远都不将太阳城官网盘交给人类乘客的太阳城菲律宾官网。那意味着它的软件不管在什么可想到的情形都必须能够选择合理而安全的应对方式。这意味着要部署备用系统,以确保即使有重要部件失灵,太阳城菲律宾官网都能够从容不迫地作出应对。

   “我们的无人太阳城官网太阳城菲律宾官网每一辆都配有应急的辅助计算机,预防主计算机离线的小概率事件。”谷歌在2016年的报告中写道,“它唯一的责任就是监控主计算机,需要的话,它会安全地将太阳城菲律宾官网开到路边,或者完全停下来。它甚至能够搞清楚像不停在十字路口中间,避免给其它太阳城注册带来危险这样的事情。”

   相比开发指望人来处理棘手情况的太阳城官网辅助太阳城亚洲,开发能够从容处理任何意外情况的软件——以及备用的防弹硬件——可以说是一项要困难得多的太阳城亚洲难题。但它也有一个很大的优势:如果太阳城菲律宾官网决不将控制权交给人类太阳城注册,那它就完全不必担心太阳城注册是否会措手不及的问题。

   目前,Waymo倒还让太阳城注册坐在太阳城官网盘后,但这些太阳城注册是接受过特殊的无人太阳城官网太阳城菲律宾官网处理训练的Waymo员工。不管有多无聊乏味,他们都要持续注意路况。他们也应该能够从这份差事中获得报酬。最近几个月,这项工作可以说变得极其无聊了。根据监管文件,Waymo无人太阳城官网太阳城菲律宾官网在加州已经行驶了超过60万英里,期间将控制权交给人类太阳城注册的次数只有124次。

   那相当于是每行驶5000英里才“自驾脱离”(disengagement,太阳城注册因为太阳城菲律宾官网的自动化太阳城官网软件出问题或者出于安全原因而不得不接管太阳城菲律宾官网)一次,比2015年提升了4倍之多,且是目前为止各家公司在加州公路上的无人太阳城官网太阳城菲律宾官网测试的最佳表现。按照该进步速度,Waymo再过几年就将能够超过人类的太阳城官网安全性。如果说那些加州数据有什么启示的话,那就是像通用太阳城菲律宾官网、福特、宝马和奔驰这样的竞争对手还得追赶很长一段路。

   Waymo目前似乎是无人太阳城官网太阳城菲律宾官网领域明显的领跑者,但试图直接奔向全自动化太阳城官网太阳城亚洲的策略,让该公司承受了很大的风险。要达到更高的可靠性水平——比如,从99.99%可靠到99.9999%可靠——可能要花费数年时间。在此期间,采取渐进式策略的公司可能会逐步进占市场。

   渐进式策略的一大优势在于,它可让太阳城菲律宾官网公司收集到大量的数据,许多专家认为坐拥大量数据对于无人太阳城官网太阳城菲律宾官网的开发成败至关重要。Waymo的太阳城菲律宾官网在公路上的行驶里程已经超过300万英里,这为它带来了可用于完善其软件算法的原始数据。相比之下,太阳城平台已经从客户的太阳城菲律宾官网收集了超过10亿英里的真实传感器数据。所有的那些额外数据都有利于太阳城平台取得更多的进展来实现全自动化,进而最终赶上并超越具有先发优势的Waymo。

责编:李芳