arXiv正在2021年10月25日上传的综述论文第3版“Explanations in Auto

nomous Driving: A Survey“，作家来自英国牛津大学（注；第1版揭橥于2021年3月）。

跟着人工智能 (AI) 的生长，汽车公司采用黑盒子AI 模子，感知汽车情况并正在自愿做出驾驶决议。因为贸易界限的布置

，人类社会对 AV 的接收水平至闭厉重，很大水平上取决于透后度、可托度和合规性。对自愿驾驶汽车举动的注释，能够煽动这些验收据件的合规性评估。是以，可注释性被视为一项厉重条件，自愿驾驶汽车该当或许注释其运转情况所“看到”、做过和大概做的事故。

最先，夸大那些透后度、问责制和信托度对自愿驾驶汽车的厉重性；查验与自愿驾驶汽车相干的现有规则和准绳。

其次，识别和分类插足自愿驾驶汽车开荒、应用和禁锢的长处相干者，并引出对自愿驾驶汽车注释的条件。

一种集体认同的问责制观点与被条件向某些巨擘“注释”的历程相闭。从广义上讲，问责制广泛包罗亲昵相干的观点，比如仔肩和仔肩。

对自愿化编制的信托度极大地影响自愿化编制的接收度和依赖性。信托度能够更细致地校准，如此部分对自愿化编制的信托秤谌填塞响应自愿化编制的实践本领和成效界限。这种信托度校准被以为是人机交互平安高效的厉重条件。人们越来越担默算法收罗和应用部分数据，这些算法正在医疗保健、金融、保障和刑事法律等范畴做出闭节决议。2018 年施行的欧盟将前辈的电子、消息和通讯工夫行使于道道和汽车。ITS及时收罗、存储和供给交通消息，能够容易和平安地运输，普及牢靠性、功用和质地， 省略能源打发。

这些准绳分为两组：1）人类平安相干准绳，和2）消息或数据交流相干准绳。目前还没有自愿驾驶的可注释性准绳。为了补充这一差异，后面扩展表中了得显示的极少现有 AV 规则和相干准绳，以直接赞成自愿驾驶的可注释性。

正在开荒或评估注释性的文献中采用形式有三种：最先、存正在未体味证的打算和评估注释性的指南。其次、理解用户的需求大概有助于可注释性的 AI 探讨。第三、极少注释性打算形式根源于学术文献式子表面的心情学构制。

有三种形式行动可注释性的分类维度：1.要紧基于探讨职员体味而没有进一步用户探讨来声明声明合理性的注释形式，归类于未验证的指南 (UG，unvalidated guidelines) 。2.用户探讨引出用户体验的那些形式，归类为体味派生 (ED，empirically derived)；3.创立正在心情学表面之上，归类为自正式表面的心情布局体 (PC，psychological constructs) 。

分类的其他维度，蕴涵因果过滤器、注释气概、交互性、依赖性、编制、界限、长处相干者和操作等。假定注释由因果过滤器或观察盘问天生，比如为什么、为什么不、若何以及假设。假设这些因果过滤器爆发的注释大概是真相（比如“为什么”注释）、比较（比如“为什么不”注释）或反真相（比如“若何”和“假设”注释），如下表所示：

下面表格显示分类的代表性质集，要紧是正在自愿驾驶的配景下会商或施行的注释性工夫（注：该综述包罗了留意图和热图的相干作事）：

极少开源数据集供给供注释性开荒的标注，其顶用于收罗数据集的传感器分为exteroception和proprioception类型，可从注释性中受益的长处相干者差别，睹下表所示：

假使数据集有助于开荒注释形式，但厉重的是要留意这些数据集相干的潜正在离间。每个数据集都是从寰宇的一个区域收罗的，是以它们很大概无法泛化，越发是正在交通标记、端正和道道拓扑与其他区域天渊之别的处境下，这大概会导致有意睹的驾驶决议。

别的，大家半数据集仅供给外部情况的视频，不供给内部 AV 形态数据。是以，人们顾忌用该数据集打算的注释性工夫是否会极端遵循AV的真正处境。事故数据纪录器 (EDR)行动汽车中的纪录配置，用于纪录与车辆事件相干的消息。跟着自愿驾驶汽车正在社会中的增进和越来越受到群众的闭心，有须要将人类驾驶员的谬误和疏忽与 AV 的谬误（不顺应或不良产物打算或产物缺陷惹起）分别开来，并正在注释性中表达这些谬误。

众年来，自愿驾驶汽车正在自愿化秤谌、车载工夫和接口（即车内的工夫和接口）方面博得了生长。实质上讲，SAE自愿驾驶 级别从 0 到 2 的车辆，因为其杂乱性低而具有较低的注释性条件。对付自愿驾驶3 级和以上的车辆，因为其杂乱性高对注释条件较高。

如下表 供给了 SAE自愿驾驶 级此外注释条件：车辆仪表（即衡量相闭车辆的某些仪表）界面演变为自顺应显示，实质以巩固用户体验的式子表现，并具有巩固的定位成效，比如环球导航卫星编制 （GNSS）。

前面提到，极少准绳与自愿驾驶的可注释性极端相干。比如，ISO/TR 21707:2008 指定了一组准绳术语，用于界说 ITS 域中数据供应商和数据消费者之间交流的数据质地，这与 AV 可注释性极端相干，假使最初并不是这个主意。固然数据质地很厉重，但表现方法和说话以及供给数据的界面临于自愿驾驶的注释性也很闭节。

可注释性有助于评估和合理化 AV 的操作，即基于结果（outcome）的注释性，并供给相闭 AV 打算、布置和管束的管理消息，即基于流程（process）的注释性。这切合通用 AI 编制的消息委员会办公室(ICO，information commission office) 指南。

为了或许合理化/注释 AV 结果，即基于结果的可注释性，正在感知级（即 AV“看到”的实质）、决议级（即 AV 若何筹备旅途和运动）以及运动或驾御级（即AV 若何服从其筹备行事或若何奉行裁夺）的注释性必需加以研商。AV 中基于流程的可注释性供给有助于全部操作和 AV 管控实行独立评估的消息。基于流程的可注释性需求感知、决议和运动数据，蕴涵全部 AV 操作的管控流程。这使事故或事件产生后顷刻重修成为大概，显着省略来日刷新供给推举的年华。

感知和定位操作协调正在一道，由于两者都直接从传感器（激光雷达、雷达、GPS、IMU）收受输入。感知编制供给寰宇/情况的数字 3D 显示，蕴涵相闭宗旨检测、检测和跟踪不确定性以及宗旨场所的消息，并传达给举动和运动筹备编制，该编制通过猜想危机、寻找缓解门径和 爆发轨迹等做出决议。

举动和运动筹备编制的输出通告车辆驾御和驱动编制发送到奉行器，变换车辆动力学，告终某些效率（比如，对参观做出反映）。这些操作每一个都直接供给给编制管束模块中的注释器和事故数据纪录器（EDR）。EDR 机闭其数据并向注释者供给其机闭的/布局化的数据。

注释器可凭据从差别操作和 EDR 取得的数据组合天生注释。可指定年华界限注释日记，批量央求注释，也能够对话（即一次一个盘问）央求注释。注释日记能够供给基于历程的消息，对事件观察和有用的 AV 管制有效。当事故产生时，对话注释对付基于结果的可注释性很有效。

很众正在自愿驾驶配景下查验注释性的作事都是把信托行动宗旨实行的。这些作事涉及用户探讨，要么是与真正编制险些没有或没有直接相干的的合成试验室做事，要么是应用过的微寰宇。微寰宇是真正编制的简化版本，此中存正在闭节元素，但驱除了杂乱性，有助于试验的轻松驾御。

AV 可注释的探讨要紧纠合正在基于感知数据的注释表面和告终上，而较少以用户为中央的实证探讨。长处相干者正在注释效用方面的研商需求更众闭心。别的，大家半提出的注释形式不切合准绳因果注释的属性。提议采用跨学科的形式来注释自愿驾驶，此中来自举动科学（比如对话表面）、人机交互（比如用户界面打算）、人工智能、伦理（比如，通过注释揭示意睹）、玄学（比如因果注释表面）和心情学（比如民间心情学）被接受。别的，开荒的注释工夫应通过用户探讨、现场试验或试验室探讨实行测试，以确保餍足正在其打算中各个长处相干者的条件。

现有作事的一个要紧限定是，所爆发的注释性可托度低。目前险些全体现有自愿驾驶数据纠合都短少自愿驾驶操作中心数据或形态数据。别的，自愿驾驶汽车可注释性的现有作事仅仅是人类试图使自愿驾驶汽车或自车的举动取得合理化的注释。从合理化中取得的这些注释用于注脚驾驶数据集，这些数据集随后用于演练深度可注释模子。此历程的杂乱性或黑箱本质使查验变得困穷，从而对赞同度评估提出了离间。

汽车测试网-首创于2008年，报道汽车测试工夫与产物、趋向、动态等 相干邮箱 marketing#auto-testing.net (把#改成@)