主页 > 商务合作 >

hg0088: 自主车辆的威胁与承诺 试验我们知道会杀

时间:2018-11-12 19:04

来源:未知作者:admin点击:

hg0088  新月挂在天空中,几乎没有照明。米尔大道(Mill Avenue)是一条多车道公路,赫兹伯格(Herzberg)骑自行车穿过;她的一些财产中的一些塑料袋悬挂在车把上。走出黑暗,一辆优步拥有的沃尔沃XC90 SUV,向北行驶,以每小时39英里的速度接近,击中了赫兹伯格。优步来到一个毫不客气的停车位,一辆救护车被召唤,她后来在一家医院死亡。汽车一直处于自动模式。
 
至少有两名特斯拉司机在自动驾驶仪驾驶汽车时死亡,但赫兹伯格是自动驾驶汽车或AV的第一个行人死亡事故。她的死不只是一个严峻的历史事实。在技​​术的伟大乌托邦项目之一中,这是一个不幸的里程碑:在整个社会中部署AV。作为经济上的努力,它可能是革命性的 - 驾驶员是美国最常见的职业之一,而一些最重要的AV计划主要集中在使出租车和货运卡车自行驾驶。作为一项安全措施,AVs承诺每年消除约35,000人死亡,这是由于司机错误造成的。当然,虽然计算机容易出错 - 而且容易受到黑客攻击 - 无人驾驶的未来,我们被告知,其危险性远远低于我们习以为常的汽车景观。然而,要实现这一目标,将会有更多人死亡。丰田北美公司首席执行官詹姆斯伦茨在赫兹伯格遇害后的一次公开活动中表示,“现实情况是一路上会出现错误。” “就像我们在亚利桑那州看到的那样,一百或五百或一千人可能会在事故中丧生。”那一周,该公司宣布它将在公共道路上暂停AV测试。最近,当我询问丰田是否计算了预计会追求AV的人数伤亡人数时,一位发言人回答称该公司专注于减少人类驾驶员的死亡人数:“我们的目标是开发先进的自动化技术总有一天会制造一辆无法造成车祸的车辆。“
 
在这些评论中暗示的是像赫兹伯格这样的死亡是进步的代价。事故发生后,优步暂时停止了公共视听测试,但计划在未来几个月恢复,而不是在亚利桑那州。 (沃尔沃一直保持沉默,而几家为优步车辆提供自动驾驶技术的公司--Nvidia,Mobileye,Velodyne--声称他们的功能部署不当,将责任归咎于优步。)优步发言人告诉我该公司正在合作经过国家运输安全委员会的调查并检查其测试过程:“我们已经开始对我们的自动驾驶车辆计划进行自上而下的安全审查,我们已经邀请了前NTSB主席Christopher Hart为我们提供建议。整体安全文化。“但是,即使承诺的结果会挽救生命,试验我们知道会杀死人的技术意味着什么呢?

自动驾驶汽车正在看机器。随着传感器,摄像机和雷达收集数PB的数据,他们试图阅读并理解周围环境 - 感知车道,树木,交通信号灯。根据美国国家运输安全委员会的一份初步报告,撞上赫兹伯格的汽车最初将她称为“作为一个未知物体,作为车辆,然后作为自行车。”在撞击前1.3秒,汽车系统决定进行“紧急制动操作, “但是Uber已经禁用了沃尔沃的紧急制动机构,希望能够避免出现笨拙的骑行。 “车辆操作员依靠介入并采取行动,”报告指出,但“该系统并非旨在提醒操作员。”那天晚上在沃尔沃,车轮后面有一个人力备用驾驶员,但她是低头看屏幕,转发数据,所以她没有及时看到Herzberg接管。
 
就像为谷歌搜索或Facebook的新闻提供动力的算法一样,视听决策大多仍然是专有商业机密的东西。但NTSB的调查报告和其他报道有助于描绘出为什么优步系统在坦佩当晚失败的原因:事故发生后,路透社报道优步减少了其车辆上LIDAR(激光雷达)模块的数量并取消了安全驾驶员(以前,有两个人坐在方向盘后面,另一个人用来监控数据)。这些细节不一定是无罪的,但它们似乎表明了一项创新的全成本运作,很少强调安全性。
 
为了进行测试,视听行业已经悄然 - 甚至秘密地从私人轨道传播到全国各地的公共道路。市政,州和联邦法规的拼凑意味着,虽然重要的研究正在几十个州进行,但很难收集汽车的发展方向和安全标准。为吸引创新者,亚利桑那州,德克萨斯州和密歇根州一直致力于提供最轻微的监管手段。 2016年,在加利福尼亚州建立了相对强大的视听规则之后,亚利桑那州州长道格·杜西告诉优步,“加利福尼亚可能不会想要你,但我们会这样做。”谷歌的Waymo和通用汽车也来了。在公众被告知之前,Ducey鼓励开展AV试点计划 - Herzberg可能没有意识到这些公司在她被击中时正在她的社区进行测试 - 在事故发生前几周,他发布了行政命令明确允许无人驾驶车辆在城市街道上行驶。订单制定规定公司应对犯罪过失造成的死亡负责,但坦佩的警察局长西尔维亚莫尔说,该公司可能不会在事故中犯错; Ducey迅速禁止Uber在他的州测试AV,但数百辆其他自动驾驶汽车仍然在路上。
 
在联邦层面,对AV如何运作没有太多的审查。 AV Start Act是一项法案,旨在通过最小的联邦监督来鼓励AV测试,但民主党参议员担心这一法案并不足以解决安全问题。 NTSB已经建立了一个衡量自主功能的量表,范围从0到5(其中5是一辆汽车,因此它是自导的,它没有方向盘)。但大多数政策决定都落到了州立法机构和行业友好的州长身上。与具有严格标准的药物研究不同,硅谷的产品通常被认为具有内在的益处,而AV公司似乎可以通过全权委托来测试他们的发明。
 
如果自动驾驶汽车是技术上不可避免的,我们怎么知道他们什么时候到达?
这种免费监管使得有关公民和交通倡导者提出了许多问题。责任事项尚未标准化,这使得AV车祸时应该对谁负责 - 业主,制造商,保险公司? (Uber已经和Herzberg的一些亲戚订婚了。)那些硬件和软件组合在AV复杂系统中的公司是什么?机器人出租车如何确保客户合规,以及如何处理不支付或拒绝下车的人?警方是否有能力控制房车,迫使他们停车?更广泛地说,如果自动驾驶汽车是技术上不可避免的,我们怎么知道他们什么时候到达?
 
如果没有明确的规则或足够的数据,可能由市场决定AV标准。梅赛德斯等制造商正在测试自主程度,提供更多的计算机辅助巡航控制和停车功能,例如,不要求司机放弃他们的全部注意力。然而,在依赖于计算机自行决定的模型中,客户可能很快就能选择能够最大限度地利用所有人的实用车辆,或者能够不惜一切代价保护乘客安全的“自我保护”车辆。哪个可以负担得起?某人的生命可能取决于答案。


Uber的AV没有看到Herzberg,一个无家可归的女人,作为一个人类会产生一种反常的感觉,因为AVs - 特别是机器人 - 不是像她这样的人制造的。像坦佩这样庞大的城市也没有这些汽车正在接受测试。除了他们引人入胜的监管环境之外,这些地区的选择还因为它们开放的道路系统,良好的天气以及很少的骑自行车者和行人。在城市规划者宣扬多式联运的时候,从自行车到公共汽车,AV都是一种回归,使得街道对步行的人来说不那么容易;通过增加汽车数量 - 特别是无乘客运载工具 - 它们往往会恶化交通和污染。即使汽车行业可以开发出一种不可能完美的安全算法,广泛的AV采用也需要大规模的道路基础设施升级来修复车道线并嵌入通信信标;错误的GPS系统,过时的地图,监视和隐私挑战,网络安全漏洞,带宽限制和昂贵的硬件都将令人烦恼。
 
尽管如此,在北中德克萨斯州政府理事会担任AVs高级项目经理的Thomas Bamonte仍持乐观态度。当我们发言时,他告诉我关于Drive.ai的事情,该公司最近宣布将在弗里斯科市推出一个AV试播车队。他解释说,Drive.ai的服务并不像Uber robo-taxi,车辆是日产货车,仅限于在白天在小商业区漫游;为了让它们脱颖而出,它们被漆成鲜橙色,带有波浪形的蓝色条纹,上面写着“自动驾驶车辆”。这些货车还配备了屏幕,可以在乘客登机时以及何时可以安全地走过去。他们至少在一开始就会以人类安全驱动为特色。
 
Drive.ai计划缺乏Waymo的菲尼克斯地区视听服务的野心,该服务在没有人类驾驶员准备开车的情况下向乘客提供轮渡,但该项目公开宣布,范围小,与市政官员合作进行 - 似乎比其他地方采用更加严格的AV测试方法。 Bamonte将弗里斯科的AV节目描述为“爬行,走路,奔跑”。
 
“我们不希望开发人员只是在未事先通知的情况下开始提供服务,”Bamonte告诉我。他将Drive.ai的测试与特斯拉的测试结果进行了比较,特斯拉的跑车具有雄心勃勃的自动驾驶功能,已经部署在数千辆商用车上,无论驾驶员在哪里使用。到目前为止,特斯拉的自动驾驶模式已经在公共道路上造成了几次高调的撞车事故,包括佛罗里达州和加利福尼亚州的致命事故。 Bamonte表示,Uber的崩溃“增添了警告”,但“我们有责任继续以负责任的方式探索和测试这项技术。”对他而言,这意味着封闭的轨道和计算机模拟;在开展公众教育活动并征求反馈意见后,公共街道上的部署将不可避免地随之而来。他解释说,为了了解这些汽车是否适合我们,我们必须把它们放在现实世界的条件下。 “你不能在实验室里做到这一点。”

AV测试的核心是“小车问题”,基于这样一种情况,即失控的小车可能会在人群中致命地跑 - 除非有人可以拉动杠杆,将小车重定向到另一个轨道上,一个人站在那里。无论发生什么,这个思想实验都会提供,有人会死。这取决于我们选择。通过AV测试,该决定表面上是在软件中。关键是汽车是否可以通过充分的程序来选择两种恶魔中的较小者:如果意味着杀死一名行人或车辆的乘客,则转向避开一群行人。在2016年的一篇论文“自主车辆的社会困境”中,三位科学家研究了公众对该决策过程的信任。在一项针对约2,000人的调查中,大多数受访者都喜欢AV为了拯救他人而牺牲自己的想法;但作为乘客,他们说他们希望汽车无论如何都要保护自己的安全。 “为了使道德算法与人类价值观相一致,”研究人员建议说,“我们必须开始对AVs的道德规范进行集体讨论,即我们愿意接受的道德算法作为公民并被作为车主所接受。 ”
 
这项研究的作者担心强制实用的AVs--那些为了避免人群通过联邦监管而转向的实用AVs会带来一个混乱的问题:乘客永远不会同意理性地自我牺牲。他们写道,“监管可能会大大推迟AVs的采用,”这意味着通过使数百万AV实用主义所挽救的生命可能超过延迟造成的死亡人数。“在所谓的边缘情况下事情变得更加复杂, AV可能会同时面临各种棘手的天气,交通和其他条件,迫使一系列复杂的快速决定。该报告得出结论:“似乎没有简单的方法来设计能够调和道德价值和个人自身利益的算法。”


将道德规划到我们的车辆中是一个更深层次,几乎神秘复杂的问题。
 
 
Azim Shariff是该论文的作者之一,也是加州大学欧文分校的一名教授,他呼吁为AV提供“新的社会契约”。骑在一个人身上意味着将自己交给一台机器,这个机器的“心灵”是人类不理解的 - 并且在危机时刻,可能会被编程为优先考虑他人的生活。他告诉我,“我有点煞费苦心地想到另一种消费品,这种消费品会故意让他们的主人冒着违背他们意愿的风险。” “这真的是一个全新的局面。”
 
在实践中,沙里夫继续说,汽车不太可能面临严峻的选择。小车问题的目的是为了道德审议的目的而对艰难的决策进行标志化;将道德规划到我们的车辆中是一个更深层次,近乎神秘的复杂性问题。他说:“汽车将不得不选择他们所做的演习,以略微增加行人而不是乘客的风险,或略微增加非法行走的人与合法行走的人的风险。”这里或那里只有一小部分。 “只有在总体水平上,所有车辆都行驶了所有里程,你才能看到这些情景的统计版本出现。”
 
这需要花费数十亿英里 - 而且还有一些未知数量的人死亡 - 来衡量AV是否比人类驱动的汽车更安全。目前,主要是猜测和实验。根据为自动驾驶系统制造芯片的Nvidia首席执行官Jensen Huang的说法,Elaine Herzberg的死亡是“一个新的数据点”。 “我们不知道我们会采取什么不同的做法,但我们应该给自己一些时间,看看我们是否可以从这一事件中吸取教训,”他说。 “不会花很长时间。”
 

【责任编辑:admin】
热门文章 更多>>