TPAMI 2025 | 基于Wasserstein度量的分布无关异常样本学习

主要观点总结

本文介绍了一种新的基于Outlier Exposure（OE）的学习方法，称为Wasserstein Distribution-agnostic Outlier Exposure（W-DOE），用于提高模型的分布外检测能力。W-DOE旨在通过合成与原始辅助分布外数据不同的新样本，来扩大训练中分布外数据的覆盖范围，以减轻真实场景中分布外检测性能损失的问题。文章还介绍了方法的关键技术点及理论分析，并通过实验结果验证了W-DOE的有效性。

关键观点总结

关键观点1: W-DOE作为一种新的基于OE的学习方法，旨在解决辅助分布外数据与真实情况不同导致的问题。

W-DOE通过扩大训练时分布外数据的覆盖范围，保证模型在部署时会遇到更少未见过的分布外情形。

关键观点2: W-DOE的核心思想是基于隐式数据合成的新方法，有效获取更多的分布外数据以扩大训练期间分布外情形的覆盖范围。

该方法通过模型扰动隐式地导致数据转换，将现有数据转换为分布层面非常不同的数据，从而让模型从这些隐式转换后数据中学习。

关键观点3: W-DOE提出了一种新的学习框架，以应对分布外数据的差异带来的挑战。

该框架通过以辅助分布外数据为中心的Wasserstein球来定义扩展后分布外数据的覆盖范围，并引入了一种最坏情况下的学习方案，通过对模型分布外数据性能的遗憾值进行定义，以优化总体性能。

文章预览

在开放世界环境中，分类模型需要识别与分布内数据语义不同的分布外数据，引发了近年来对于分布外检测的广泛研究。Outlier Exposure（OE）作为一种有效的学习方案，使模型能够从额外的辅助分布外数据中进行学习，显著提升模型的分布外检测能力。然而，辅助分布外数据通常无法覆盖真实的分布外场景，因此导致真实场景中分布外检测的性能损失。为此，我们提出了一种改进OE的新学习方法，称为 Wasserstein Distribution-agnostic Outlier Exposure   (W-DOE)，其理论可靠且实验性能优异。 其核心思想在于，通过扩大训练时分布外数据的覆盖范围，以此保证模型在部署时会更少遇到未见过的分布外情形 。在W-DOE的具体实现中，我们设计一种基于隐式数据合成的新方法，有效获取更多的分布外数据以扩大训练期间分布外情形的覆盖范围。此外，我们提出了一个通 ………………………………