把好驾驶自动化的伦理“方向盘”

这份由国家科技伦理委员会人工智能伦理分委员会组织编写的文件，意在指导驾驶自动化技术研究开发和应用的规范开展，防范驾驶自动化技术研究开发与应用过程中的科技伦理风险，推动该领域健康发展，确保驾驶自动化技术研发和推广符合社会公众利益。

对生命安全的尊重和保护摆在首位

“驾驶自动化系统具有技术和社会‘双重’属性，相关技术创新和产业化过程必须充分考虑社会公众的价值追求和伦理考量。”国家科技伦理委员会人工智能伦理分委员会委员、中国新一代人工智能发展战略研究院执行院长龚克表示，提出符合我国国情的伦理指引，是为了规范驾驶自动化技术研发和推广行为，防范和化解相关领域伦理风险。

《指引》的适用对象是与驾驶自动化技术相关的责任主体，包括技术研发主体、生产制造主体、使用主体等，适用的客体化载体为具有驾驶自动化功能的汽车，既适用于具有先进驾驶辅助功能的汽车，也适用于装载了自动驾驶系统的汽车。

《指引》提出了四个基本原则——以人为本、增进福祉；安全优先、尊重生命；公平公正、避免偏见；知情保障、信息公开。同时，《指引》提出了合法合规、效益提升、控制风险、及时调整、隐私保护等五项一般要求。

在龚克看来，《指引》呈现四大特点：倡导安全性、体现共识性、遵循渐进性、强调可应用性。比如，将驾驶安全置于突出地位，提出驾驶自动化技术研究开发和应用必须充分考虑安全性，其中既包括驾驶自动化参与者的生命主体安全，也包括道路交通环境安全和数据、算法等技术安全。

《指引》明确，驾驶自动化系统的研究开发和应用要在注重技术提升效益的同时，更加强调相关风险的防范和责任落实。

“在风险防范方面，高度重视驾驶自动化系统对生命安全的尊重和保护，明确提出在不可避免的交通事故和极端行车环境中，应最大限度降低对人的伤害。”龚克认为，《指引》还注重防范数据隐私、算法歧视、算法解释等因素可能对相关主体造成的风险。

不同类型驾驶自动化系统皆“有规可循”

在综合借鉴国际标准、国家政策和地方实践的基础上，基于《汽车驾驶自动化分级标准》等文件，《指引》将驾驶自动化划分为先进驾驶辅助阶段、有限制阶段的自动驾驶、无限制阶段的自动驾驶三种类型，对不同类型驾驶自动化的责任主体进行划分。

先进驾驶辅助阶段是指2级及以下的驾驶自动化，其责任主体通常是人类驾驶员；有限制阶段的自动驾驶包括3级和4级驾驶自动化，责任主体因具体运行场景而异，用户和自动驾驶系统都可能成为责任主体；无限制阶段的自动驾驶包括5级驾驶自动化，除非特殊情况下用户主动介入操作，无限制阶段自动驾驶的责任主体一般以自动驾驶系统为主。

《指引》明确，当自动驾驶系统作为自动驾驶责任主体时，应当能够根据有关法律法规、技术标准向相关自然人主体或法人主体（包括但不限于自动驾驶系统开发者、自动驾驶系统生产商、自动驾驶汽车权利人、自动驾驶系统用户）清晰追责。

《指引》在“科普宣传”部分指出，在发布重大研究成果时，相关主体应坚持客观准确、实事求是，避免片面夸大、隐匿风险，不得编造、传播与驾驶自动化系统实际功能和效果不相符的虚假信息。

“由于受到专业知识限制，社会公众容易陷入对驾驶自动化技术的认知鸿沟，造成对相关产品的错误认知和使用。”龚克告诉记者，在商业竞争诱导下，技术开发商和汽车生产商可能夸大技术能力或隐匿风险，诱发驾驶自动化系统相关事故导致的技术恐慌和信任危机。为了推动驾驶自动化技术健康发展，构建广泛的社会信任和伦理共识，《指引》单独列出了相关主体在“科普宣传”方面需遵循的伦理规范。

后续，《指引》将根据技术迭代、应用场景拓展，以及社会反馈动态修订并适时发布。

关键词：