在汽车电动化、网联化、智能化发展趋势下，由于汽车自动驾驶技术的快速发展，汽车产业正日益逼近一场根本性的变革。然而，近年来自动驾驶汽车的安全挑战日益凸显，相关事故在一定程度上削弱了社会公众对自动驾驶汽车的信心和信任。为有效应对自动驾驶算法带来的安全挑战，需要构建一个统一的自动驾驶算法安全框架，推动自动驾驶汽车从研发测试阶段加快转向商业化应用阶段。
自动驾驶算法安全问题的主要表现
我国当前的自动驾驶汽车立法主要侧重在道路测试、示范应用、汽车数据安全这几个方面，尚未针对以人工智能算法为核心的自动驾驶系统形成一个完整统一的安全监管框架。未来立法需要重点回应三个方面的问题。
第一，一般性技术安全是最主要、最相关的变量。与受制于一套既定监管框架（涵盖安全标准、检测认证、产品审批等事项）的传统汽车和受到驾照与责任机制约束的人类驾驶员相比，自动驾驶系统的安全标准尚待建立，所以自动驾驶汽车还不能像传统汽车那样证明其安全性与合规性。因此在现阶段，最核心的问题乃是确立自动驾驶系统的安全门槛、安全标准、检测认证方法、审批机制等要求。
一个关键问题是，自动驾驶系统的安全性需要达到何种程度，政策制定者和监管者才可以允许自动驾驶汽车的商业化部署。社会大众对技术的偏见可能导致可接受的安全门槛被不恰当地抬高。例如，认为自动驾驶汽车需要达到足以实现零事故的绝对安全水平。在笔者看来，自动驾驶算法的安全门槛不应是基于绝对目标（例如零事故、零伤亡）的自动驾驶水平，而应以一般人类驾驶水平为衡量之基准，来确定科学合理的安全门槛。例如，2022年8月英国发布的自动驾驶政策文件《互联和自动出行2025：在英国释放自动驾驶汽车的效益》明确提出了自动驾驶汽车的安全门槛，即自动驾驶汽车应当达到与“胜任且谨慎的人类司机”（Competent and Careful Human driver）同等水平的安全性，这一标准高于一般人类司机。
第二，网络安全挑战。网络安全作为影响自动驾驶汽车发展应用的关键性因素，与之相关的风险与威胁将成为自动驾驶汽车最复杂、最难解决的威胁。整体而言，自动驾驶汽车的网络安全挑战主要呈现以下特征：
一是自动驾驶汽车比传统汽车更容易遭受网络安全风险。自动驾驶汽车是“车轮上的机器人”，除了需要面对传统意义上的网络安全风险，还将面对自动驾驶算法所带来的全新的网络安全挑战、风险和威胁。
二是自动驾驶汽车的网络安全风险来源主体更加多元化，在生产制造、运营、维修、智能基础设施、保险、监管等多个环节，不同主体对自动驾驶汽车的访问或控制，都可能带来网络风险。
三是自动驾驶汽车面临的网络入侵方式更加多样化。例如，黑客可以针对软件漏洞发起攻击，可以通过连接恶意设备对自动驾驶汽车发起物理攻击，也可以攻击智能道路基础设施等自动驾驶汽车生态系统的组成部分。
此外，就攻击效果而言，黑客可以采取多种类型的攻击，包括失效攻击、操作攻击、数据操纵攻击、数据窃取等，这些攻击的影响可大可小，不容小觑。四是自动驾驶汽车的网络安全风险同时呈现广度和深度特征，带来全方位、多层次的危害后果。在广度上，自动驾驶汽车的软件和硬件漏洞可能是广泛的，这意味着网络攻击会被放大；在深度上，自动驾驶汽车被入侵、控制后可能造成不同层次的不利后果，包括人员伤亡、财产损害、数据窃取等。
第三，伦理安全挑战。自动驾驶算法的最首要的伦理安全问题是，在面对不可避免的事故（Unavoidable Accident）时，算法该如何抉择并行动？尤其是在面对两难处境（即道德困境）时该如何抉择？是选择最小化人员伤亡，还是不惜代价地保护车乘人员，即使这可能意味着选择牺牲行人等其他道路参与者？自动驾驶汽车道德困境的可能性，让技术与伦理之间的互动成为不可回避的问题，即如何将复杂的人类道德编程到自动驾驶算法的设计当中去。对于这个问题，社会各界尚未形成共识。
构建自动驾驶汽车的算法安全框架
为了确保实现《智能汽车创新发展战略》提出的“到2025年，中国标准智能汽车的技术创新、产业生态、基础设施、法规标准、产品监管和网络安全体系基本形成。实现有条件自动驾驶的智能汽车达到规模化生产，实现高度自动驾驶的智能汽车在特定环境下市场化应用”的目标，需要加快修订、革新针对传统汽车和人类司机的立法和监管框架，为自动驾驶汽车融入现行道路交通体系建立新的法律制度和监管框架。其中的一个核心层面是，构建以自动驾驶算法为核心的安全监管框架，需要涵盖技术安全标准与审批认证、网络安全认证、伦理风险管理三大维度。
第一，建立新的自动驾驶系统安全标准和认证机制。国家亟须为自动驾驶汽车建立新的、统一的安全标准，从传统上以汽车硬件和人类司机为核心的安全标准，转向以自动驾驶算法为核心的安全标准，这意味着允许创新性的汽车设计——无需驾驶舱、方向盘、脚踏板、后视镜的自动驾驶汽车。此外，为了更加准确可靠地评估、验证自动驾驶系统的安全性，将来立法和政策需要为自动驾驶系统设定科学合理的安全门槛与基准，可以考虑要求自动驾驶汽车至少达到与“胜任且谨慎的人类司机”同等水平的安全性，并确立一套基于道路驾驶技术水平的科学合理的检测方法。
第二，需要为自动驾驶汽车建立新的网络安全框架。政策制定者需要考虑融入传统的网络安全原则，从整体上保障自动驾驶汽车的网络安全。一是建立自动驾驶汽车的网络安全认证机制，只有通过网络安全认证的自动驾驶汽车才允许销售、使用。而且该机制需要延伸到软硬件供应链。二是需要明确自动驾驶汽车的网络安全防护能力和要求，包括技术措施和非技术措施。三是需要在行业与政府之间实现B2B、B2G、G2B等形式的数据共享，尤其是安全事故、网络安全、自动驾驶系统脱离等安全事件相关的数据。建立事故数据报告与分享机制，对于提升整个自动驾驶行业的发展水平意义重大。
第三，建立自动驾驶算法等伦理风险管理机制。一方面，需要明确的政府监管给自动驾驶算法设计中的伦理选择设定标准，以确保自动驾驶算法在伦理上符合一般的社会公共利益，并在公众的接受度和道德要求之间实现某种平衡。另一方面，自动驾驶汽车企业需要加强汽车自动驾驶技术的科技伦理治理，积极履行科技伦理管理主体责任，坚守科技伦理底线，针对汽车自动驾驶技术开展科技伦理风险评估审查、建立科技伦理风险监测预警机制、强化科技人员的伦理培训等。例如，英国的监管者提出建立“自动驾驶汽车伦理与安全委员会”（Committee on AV Ethics and Safety），以更好支持自动驾驶汽车的治理。
总结而言，自动驾驶汽车的广泛部署和使用，是实现其诸多正向效益的必要条件。而其广泛部署和使用的必要条件则是建立合适的安全框架，加快实现自动驾驶汽车从测试到商用的飞跃。但任何合理的法律政策都不能对公众的接受度视而不见。换句话说，自动驾驶汽车要想成为最优选的交通方式，就必须考虑其使用者和社会整体的预期，这些预期包括使用者的满意和安全以及信任、责任、透明等设计价值。
对自动驾驶汽车的安全规制也必须考虑这些预期，甚至去调和其中的过高预期。基于这些考虑，本文创新性地提出了一个全新的自动驾驶算法安全监管框架，来应对自动驾驶汽车迈向商业化应用之前必须直面的算法安全挑战。从长远来看，自动驾驶汽车的商用只是未来交通法治的起点，而非终点，汽车设计、交通法规、责任承担、保险赔偿、驾驶习惯等一系列变革将纷至沓来。
