OOD（Out-of-distribution）检测对确保呆板研习体系的牢靠性和安然性至闭苛重。比如，正在自愿驾驶中，愿望驾驶体系正在检测以前从未睹过的特殊场景或目的而且无法做出安然决议时，要发出警报并将统制权移交给人（安然员）。

OOD检测仍旧开采了大宗方式，从基于分类的、基于密度的、到基于间隔的方式。同时，其他几个题目正在动机和方式论方面都与 OOD 检测亲热相干。网罗特殊检测 (AD，anomaly detection)、新奇性检测 (ND，novelty detection)、绽放集识别 (OSR，open set recognition) 和特殊值检测 (OD，outlier detection)。虽然有分别的界说和题目设备，这些题目时时使民众感觉疑心。

该综述提出了一个广义 OOD 检测的通用框架，包蕴上述五个题目，即 AD、ND、OSR、OOD 检测和 OD。这五个题目，可能看作是该框架的特例或子工作。

现有的呆板研习模子众人基于紧闭寰宇假设实行锻练，此中假设测试数据是来自与锻练数据沟通的分散，称为in-distribution (ID)。然而，当模子安置正在绽放寰宇场景时，测试样本也许是OOD。分散漂移也许由语义漂移（比如，OOD 样原来自分别类）或covariate shift（比如，来自分别域的 OOD 样本）惹起。这里要紧接洽语义漂移检测。

如图是本文提出的广义OOD检测框架：网罗 anomaly 检测 (AD), novelty 检测 (ND), open set 识别 (OSR), out-of- distribution 检测 (OOD)和outlier 检测 (OD) 。

ntainer css-xi606m style=text-align: center;

AD旨正在检测正在测试功夫偏离预订义正态性的任何特殊样本。误差也许因为covariate shift或语义漂移而发作，同时假设其他分散漂移不存正在。这带来两个子工作：感官 AD 和语义 AD。感官AD 检测 covariate shift 的测试样本，基于正态性来自沟通协变量分散的假设。语义 AD 检测有标签漂移的测试样本，基于正态性来自沟通的语义分散（种别）假设，即正态性应当只属于一个类。感官AD 仅体贴具有沟通或好似语义的目的，并识别其外面的观测差别。具有感官差别的样品被识别为感官特殊。示例使用网罗反抗防卫、biometrics和艺术品的伪制识别、图像取证、工业反省等。一种盛行的实际寰宇 AD 基准是用于工业检测的 MVTec。与觉得 AD 比拟，语义 AD 只体贴语义漂移，不存正在covariate shift。实践使用的一个例子是坐法监控。特定类的活泼图像爬虫也必要语义 AD 方式来确保网罗的图像纯度。ND旨正在检测不属于任何锻练种别的任性测试样本。检测的新样本广泛是为来日的创办性圭表盘算，比如更专业的领会，或模子自己的步进研习（incremental learning）。依照锻练类数目，ND 包蕴两种分别的设备：1）只一个类的新奇性检测（one-class ND）；2）众个类新奇性检测（multi-class ND）。值得小心的是，虽然有良众in-distribution（ID）类，但众个类 ND 的目的只是将新样本与in-distribution划分开来。一个类ND和众个类 ND 都被表述为二元分类题目。OSR 恳求众类分类器：（1）同时无误分类来自“已知的已知类”的测试样本，以及（2）同时检测来自“未知的未知类”的测试样本。OOD检测旨正在检测相对锻练数据不重叠标签的测试样本。步地上，OOD 检测设备中的测试样原来自in-distribution（ID）语义漂移的分散。这个in-distribution（ID）数据可能包蕴单个类或众个类。当锻练中存正在众个类时，OOD 检测不应损害其in-distribution（ID）数据分类才能。OOD检测的使用广泛属于安然-紧要处境，比如自愿驾驶。正在构修算法基准时，OOD 数据集不应与in-distribution（ID）数据集有标签重叠。OD旨正在检测因为covariate shift或语义漂移与给定视察荟萃其他样本显然分别的样本。固然OD要紧使用于数据发现工作，但也用于实际寰宇的推算机视觉使用，如视频监控和数据集算帐。数据集算帐的使用，OD广泛用作要紧工作的预收拾步伐，比如从绽放集噪声标签中研习、微监视研习（webly supervised learning）和绽放集半监视研习。

ntainer css-xi606m style=text-align: center;

Exemplar problem settings for tasks under generalized OOD detection f

虽然 OSR 和实践使器械相闭联性，但如故存正在极少限度，好比正在锻练功夫不首肯特地的数据，以及对表面绽放危险范围的须要保障。这些限度袪除了更着重有用性鼎新但也许违反 OSR 管理的方式。另一方面，OOD 检测包蕴更通俗的研习工作和处分计划空间。

兴趣的是，特殊值检测（OD）工作可能被视为广义 OOD 检测框架中的特殊值，由于特殊值检测器（OD）是给定全盘视察值，而不是从命锻练-测试计划。其它，正在迩来的深度研习规模很少看到这个中心的著作宣布。然而，从直观上讲特殊值也属于一种OOD。

ntainer css-xi606m style=text-align: center;

1 特殊检测 (AD) 和单类新奇性检测（ND）基于密度的方式试图对平常数据分散 (ID) 实行修模，并假设特殊测试数据有低似然，而臆度密度模子下的平常数据有高似然。其方式可细分成经典密度臆度、深度天生模子的密度臆度、基于能量的方式和基于频率的方式。基于重构方式的核情绪念是，正在 ID 数据上锻练的编码器-解码器框架广泛会为 ID 和 OOD 样本发作分别的结果。模子功能的差别可能用作检测特殊的目标。模子功能的差别可能正在特质空间或通过重构差错来量度。基于分类的方式网罗单类分类、正-无标注（PU）研习和自监视研习。特殊检测（AD ）和单类 新奇性检测（ND ）广泛被表述为一个无监视研习题目，此中全盘 ID 数据属于一个类。分类器范围的念法已获胜竣工并象征为单类分类工作。PU研习是引入未象征数据实行锻练的半监视特殊检测（AD） 。自监视研习方式从两个方面处分 特殊检测（AD ）和单类新奇性检测（ND） 题目：（1）特质质料的加强可普及 AD 功能；(2) 极少安排优良的代办工作可能助助揭示平常样本的特殊数据。基于间隔的方式通过推算目的样本与很众内部存储样本或原型之间的间隔来检测特殊。这些方式广泛必要内存锻练数据。代表性方式网罗 K-nearest Neighbors、基于原型的方式，以及基于聚类的方式和基于图的方式。基于梯度的方式属于元研习或研习怎样研习，依照学到的经历或元数据，体系地视察所研习工作或模子的内部机制。为明晰决特殊检测（AD ）工作，极少方式视察正在重构工作中平常和特殊数据之间锻练梯度的分别形式，于是基于梯度的表征可能描画特殊数据。2 众个类新奇性检测（ND） 和 绽放集识别（OSR）因为众个类 ND 和 OSR 正在锻练功夫商酌众个类，于是大无数方式都是基于分类。替换方式可能是基于 ID 原型（间隔）和基于重构，另有少量基于密度的方式。基于分类的OSR方式，最初闪现的是One-class SVM 和binary SVM。厥后One-vs-Set SVM 收拾绽放集的危险是通过求解双平面优化题目而不是经典二元线性分类器的半空间。除了限度 ID 危险以外，还应当限度绽放集空间。基于间隔的OSR方式恳求原型是类条目的，即首肯保留 ID 分类功能。基于种别的聚类和原型安排，往往是基于分类器提取的视觉特质。OOD样本推算相对聚类群的间隔来检测。极少方式还操纵比拟研习为已知类研习更紧凑的聚类群，这也推广了 ID样本 和 OOD 样本之间的间隔。基于重修的方式巴望 ID 与 OOD 样本的重修作为分别。可正在1）潜特质空间或2）重修图像的像素空间捉拿差别。注：因为仅限于用 ID 数据实行锻练的限度，OSR 方式没有竣工后台种别或特殊值的揭穿。3 OOD检测基于分类的OOD检测出处于一个单纯的基线方式，即最大softmax概率动作ID数据目标得分。早期的 OOD 检测方式重视于依照神经搜集的输出得出鼎新的 OOD 分数。基于密度OOD检测方式运用极少概率模子昭着地对分散实行修模，并将低密度区域的测试数据象征为 OOD。虽然 OOD 检测与特殊检测（AD）的分别之处正在于分散中有众个类，但用于AD 的密度臆度方式将 ID 数据联合为全部直接合用于OOD检测。当 ID 包蕴众个类时，类条目高斯分散可能显式地对ID实行修模，如此依照似然去识别OOD 样本。基于流的方式也可用于概率修模。固然直接臆度似然类似自然，但极少作事发掘概率模子有时会为 OOD 样天职拨更高的似然。总体而言，天生模子的锻练和优化也许具有极高的挑衅性，而且功能广泛掉队于基于分类的方式。基于间隔方式的根本思念是测试 OOD 样本应当远离ID类的质心或原型。4 特殊点检测（OD）特殊值检测必要视察全盘样本，旨正在检测那些明显偏离大无数分散的样本。OD 方式广泛是transductive，而不是总结（inductive）。固然深度研习方式很少直接处分 OD 题目，但数据算帐经过是从绽放集噪声数据中研习，而绽放集的半监视研习正正在处分 OD 工作。基于密度的OD，其根本思念将全盘数据集修模为高斯分散，并象征出与均匀值起码有三个圭臬误差（three standard deviations）的样本。其他参数概率方式操纵马氏间隔和搀和高斯分散来模仿数据密度。与“三个圭臬误差”礼貌相仿，四分位距（interquartile range）也可用于识别特殊值，造成经典的非参数概率方式。个别特殊值因子 (LOF，Local outlier factor) 通过自己及其邻域个别可达之比臆度给定点的密度。RANSAC迭代臆度数学模子参数拟合数据并找到对臆度功绩较小的样本动作特殊值。广泛，用于AD 的经典密度方式，比如核密度臆度也合用于 OD。虽然这些方式受到维度灾难（curse of dimensionality）的影响，但可能通过降维方式和基于 NN 的密度方式来缓解。基于间隔检测特殊值，一种单纯方式是推算特定半径内的邻域样本数目，或丈量第 k 个迩来的邻域样本间隔，网罗基于聚类群的方式和基于图的方式。AD 方式（比如独立丛林和OC-SVM）也合用于 OD 的设备。当数据集有众类时，深度研习模子——用特殊值锻练——如故可能显示庞大的预测才能并识别特殊值。运用大型预锻练模子实行数据算帐熟行业中也很常睹。加强模子鲁棒性和特质泛化性的时间可用于此工作，比如集成法、协同锻练和蒸馏等。种种方式宣布岁月表如图所示：（a）特殊检测（OD）和单类新奇性检测的代表性方式；（b）众个类新奇性检测和绽放集识别；（c）OOD 检测。分别的颜色表现分别种别的方式论。每个方式正在右下角都有其对应的参考文献（不显眼的白色）。因为深度研习时期推算机视觉方面的作事数目有限，没有正在该图列出特殊值检测（OD）方式。

汽车测试网-创造于2008年，报道汽车测试时间与产物、趋向、动态等 联络邮箱 marketing#auto-testing.net (把#改成@)