自动驾驶汽车(AV)的支持者经常吹捧安全是自动驾驶汽车主导的未来交通的最重要好处之一。正如我们在政策简报中解释的那样最大化自动驾驶汽车的好处金宝博的网址：
虽然自动驾驶汽车有可能减少与车辆相关的金宝博的网址死亡人数，但这并不是一个有保证的结果。必须确保车辆计算机系统不受黑客攻击，严格的测试和对车辆编程的监管对于确保自动驾驶车辆保护车内人员和车外人员至关重要。金宝博的网址
玛丽"米西"卡明斯教授，前战斗机飞行员现任主任杜克大学人类与自主实验室他是自动化系统方面的专家。卡明斯博士在人类和无人驾驶汽车之间的互动、自动驾驶汽车的监管以及无人驾驶汽车的潜在风险方面进行了广泛的研究和写作。金宝博的网址我有幸与卡明斯博士进行了交谈，并向她询问了一些关于当前自动驾驶汽车安全的技术限制，以及如何使用监管来确保所有美国人的安全，无论他们是开车、走路还是骑自行车。
以下是采访中的一些要点，以及卡明斯博士在上述主题上的一些工作的链接。
杰里米·马丁:安全性是我们听到的推动自动驾驶汽车发展的最大理由之一。美国国家公路交通安全管理局将94%的交通事故归咎于人为选择或错误，因此安全似乎是一个很好的激励因素。实际上，我们离拥有比人类司机更安全、更好的自动驾驶系统还有多远?在我们将人类从方向盘上移除之前，我们是否需要改进特定的软件限制?
玛丽·卡明斯博士(MC):我认为关于无人驾驶汽车的一个谬论是，即使在设计软件代码时，所有的决定都必须由人类做出，但它们不会因为没有人类驾驶而出现人为错误。是的，我们都希望把人类司机从方向盘后面拿出来，但这并不能完全把人类从等式中移除。我有个11岁的孩子，我希望无人驾驶汽车能在五年内问世，这样她就不用开车了。但是，作为一个教育工作者，作为一个在这些系统中工作的人，我们还没有做到。
我们在软件开发中仍然很容易出错。所以，在安全方面，我希望看到的是我们开发出一系列的测试和认证，让我们觉得汽车至少会比人类司机更安全。如果我们能在人类的基础上可靠地提高10%，我会很满意。我认为，考虑到自动驾驶系统的性质，目前真正的问题是，我们还不知道如何定义这些车辆的安全性。金宝博的网址
JM:所以你对实现五年目标并不乐观?
主持人:不，但这不是一个独立的是或否的答案。现实是，我们将看到越来越多的改善。例如，自动紧急刹车(AEB)是很棒的，但它实际上仍然是一项非常新的技术，仍然有许多问题需要解决。随着时间的推移，AEB会变得更好。车道检测，以及汽车看到正在发生的事情和避免事故的能力，以及类似丰田的功能《卫报》模式，随着时间的推移，一切都会变得更好。
我觉得你什么时候能用手机叫辆车，让它来接你，然后跳到后座上，带你去维加斯?我们离这个目标还有15-20年。
JM:你提到如果自动驾驶汽车的表现比人类司机好10%，这是一个很好的起点。这是不是门槛太低了?我们如何设定这个门槛然后如何随着时间的推移提高门槛?
主持人:我认为我们需要作为一群利益相关者来定义它，我实际上不认为我们需要一套静态的标准，就像我们习惯的那样。
对于自动驾驶汽车来说，它完全是软金宝博的网址件而不是硬件，但我们不会逐个细胞地认证司机的大脑，我们所做的是通过你在一组商定的测试中的表现来认证你。我们需要把这个比喻应用到无人驾驶汽车上。我们需要弄清楚如何进行基于结果的测试，以足够灵活地适应新的编码方法。
例如，在早期的无人驾驶汽车的视觉测试应该更加严格，因为我们已经看到了一些死亡，我们知道像激光雷达和雷达这样的传感器有严重的局限性。但是，随着这些问题的解决，我愿意接受不那么严格的测试。这几乎就像分级许可。我认为青少年应该比50岁的我经历更多的测试。随着时间的推移，你会对一个系统产生信任，因为你看到了它是如何运行的。另一个问题是，现在汽车可以进行无线软件更新。那么，汽车是否需要在新车型上市时进行测试，或者在新软件升级时进行测试?我并不是说我知道所有的答案，我可以告诉你，现在没有人知道。
JM:关于自动驾驶汽车的讨论中出现的一个安全问题是网络安全。我们应该担心哪些网络安全威胁?
主持人:我担心的网络安全威胁有两种，一种是主动黑客攻击，即有人如何侵入你的系统，并以某种方式接管或削弱它。另一个担忧是在去年，有很多研究表明，为这些汽车的视觉系统提供动力的卷积神经网络是如何被被动入侵的。我的意思是，你不是在破坏汽车的系统本身，而是在破坏环境。你可以阅读更多相关内容但是，例如，你可以用很小的方式修改一个停止标志，它可以欺骗一个算法，让它看到一个45英里每小时的限速标志，而不是一个停止标志。这是一个全新的网络安全威胁，正在研究环境中出现，据我所知，没有人在公司解决这个问题。这就是为什么，尽管我通常不是监管的超级粉丝，但在这种特殊情况下，我确实认为我们需要更强有力的监管行动，以确保我们作为一个社会和一个行业，都在解决我们知道会出现的问题。
JM:我们经常听到3级和4级自动化，即人类备用司机需要保持警惕，并准备在某些情况下接管汽车，在亚利桑那州发生致命事故后，我们知道如果备用司机感到无聊或分心会产生什么后果。有哪些解决方案可以让司机在驾驶自动驾驶汽车时远离手机?还是说我们会陷入很多麻烦直到我们达到5级自动化，不再需要备用司机?
主持人:我写了关于无聊和自主系统的论文我得出的结论是，这是没有希望的。我这么说是因为人类的大脑活动是天生的。所以，如果我们感到无聊，或者我们没有意识到世界上有足够多的事情要做，我们就会让自己忙碌起来。这就是为什么手机在车里如此糟糕，因为它们提供了你大脑所需的刺激。但即使我把手机从人们手中拿走，你会发现人类的警惕性很差。对我们来说，在没有其他刺激的情况下坐等坏事发生几乎是痛苦的。例如，几乎每个司机都有过这样的经历:他们太专注于自己的想法，以至于错过了出口。感知实际上与你头脑中的活动有关，所以你的眼睛在路上并不意味着你能看到眼前的一切。
JM:在自动驾驶汽车的安全法规方面，我们最好的解决方案是什么?金宝博的网址这只是更新我们目前对人类驾驶车辆的标准的问题，还是我们需要一个全新的监管框架?金宝博的网址
我们需要的是一个全新的监管框架，由NHTSA这样的机构来监督整个过程。他们将把利益相关者聚集在一起，比如所有汽车制造商、一级供应商、编写代码的人，以及少数接触机器学习和计算机视觉等相关技术的最新和最好的学者。但我们不仅需要无人驾驶汽车的新技术，我们也需要无人机，甚至医疗技术。我写了纸关于在社会上推进具有机载推理的自主系统。一般来说，我们要如何考虑对他们进行认证?
真正的问题是，不只是无人驾驶汽车，我们有一个不喜欢监管的政府，所以我们被迫在我们现有的框架内工作。现在，NHTSA确实有权强制测试和其他干预措施，但他们并没有这样做。他们的工作人员中没有人知道如何设置这个。在政府及其周边工作的合格人工智能专业人士真的很缺乏。这就是为什么我非常支持公私合作，把这些组织聚集在一起——让NHTSA充当四分之一的角色，但让公司和其他专家一起参与进来，自己开始解决这些问题。
玛丽·"米西"·卡明斯医生是个机械工程与材料科学系教授他是杜克大学的主任人类与自主实验室杜克机器人公司。她的研究方向包括人-无人车辆交互、人-自主系统协作、人-系统工程、无人车辆的公共政策影响以及技术的伦理和社会影响。金宝博的网址
卡明斯教授1988年在美国海军学院获得数学学士学位，1994年在海军研究生院获得空间系统工程硕士学位，2004年在弗吉尼亚大学获得系统工程博士学位。卡明斯教授在1988年至1999年期间担任海军军官和军事飞行员，她是海军首批女战斗机飞行员之一。