随着计算机视觉的快速发展，大量深度学习模型被部署到实际场景中，为人们的生活带来了便利。然而，深度学习模型从实验室走向实际应用的过程并非一帆风顺，研究人员发现，即使是在测试集数据上表现良好的模型，也并不能绝对妥善地处理实际场景中的输入。这是因为，传统的计算机视觉任务通常会假定训练集和测试集满足独立同分布条件，即训练和测试数据来自于同一数据分布的随机采样。尽管独立同分布条件的成立难以检验，但是在构造视觉任务时，通常会避免让测试数据和训练数据的差异太大，从而保证评测的有效性。在独立同分布假设条件下，模型性能的评判标准更多地侧重到了模型在不同任务上对数据的拟合能力（例如，分类的准确率、目标检测的准确率和召回率等），而忽视了模型的泛化性能。对于部署到真实场景下的模型来说，其泛化性恰恰是至关重要的。由此，在实际需求的驱动下，对于“开放世界”设定下的视觉研究大量涌现。

通常来讲，“开放世界”的设定主要体现在两个方面，以图像识别问题为例：其一是类别上的开放，即测试数据集的类别不被限制在预先定义的封闭集合中，而是允许有新的类别出现。具体来讲，传统的图像分类问题要求训练集和验证集（或测试集）的类别是一致的，但是在实际场景中，我们无法有效地约束输入到模型的图像信息。因此，模型必须具备一定的处理“预期之外的样本”的能力。该能力是分布外样本检测研究领域的重点关注内容，这些“预期之外的样本”被定义为“分布外样本”，它们与训练集不存在类别上的重叠；其二是域信息上的开放。关于域信息的定义各有不同，本文将域信息限制为图像风格，例如，卡通风格的钢琴画与真实的钢琴照片，它们属于同一类别的不同域。详细说来，在有些场景下，我们能保证模型的输入一定包含符合期望的语义信息（即输入的类别包含在训练集中），但是这些语义信息的表现形式与训练数据的差异可能会非常大（即图像的风格完全不同）。无论是风格、背景、还是外观等方面的特性都可以被统称为“域”，本文重点关注图像风格的差异。当测试数据的域信息与训练数据有明显差异时，导致传统模型无法进行有效的识别。考虑到系统的安全性和可靠性，部署到实际场景中的深度学习模型应当具有较好的分布外样本检测能力和域泛化能力，同时，这也代表了模型鲁棒性的两个重要研究方向。

根据真实应用场景对深度学习研究的要求，本论文聚焦于提升模型的分布外检测能力和域泛化能力，减少深度学习模型部署到实际生活过程中可能遇到的障碍。本文章的主要内容和贡献点总结如下:

从分布外样本生成的角度提出了两种用于增强模型检测分布外样本能力的方法，分别是边缘分布感知学习方法（boundary aware learning，BAL）和贝叶斯数据增强（BayesAug）方法。前者通过生成对抗网络和单步迭代攻击法（fast gradient sign method，FGSM）产生位于分布内与分布外之间的边界样本数据，模型通过学习这部分困难样本的特征可以更好地辨别输入是否为分布外样本，形成紧密的分布内/外样本分界面；后者通过从原始训练图像中发掘背景信息，并把这些背景信息作为分布外特征来引导模型学习如何判别分布外样本，从而使模型获得拒识能力，即聚焦到分布内样本的典型特征上去，防止背景信息（分布外的目标也是一种背景信息）等因素干扰识别。

从特征学习的角度提出了一种用于增强模型泛化性能（域泛化）的方法，即势能排序方法（potential energy ranking，PoER）。该方法通过构造数据对（pair）之间的势能并对能量按照语义信息的相似程度进行排序，来引导模型学习不同类别和不同域的典型特征。按照此思想，该方案约束深度神经网络在浅层中显式地捕捉类别特征和域特征，以此为基础，在深层网络中将域相关的信息过滤掉，仅保留与类别相关的特征进行后续的分类任务，从而使得模型获取对于域的鲁棒性。此方法的本质思想在于仅生成类别相关的特征，引导模型将注意力放在与任务相关的特征属性上去，避免受到域信息的干扰。

通过详细的对比实验和消融实验展示上述方法的有效性，从数据统计和可视化等多个方面分析每个算法模块的作用，为未来相关的研究提供了实验性参考，丰富了“开放世界”设置下图像识别问题的研究思路。除此之外，本文对算法使用到的数据集以及源代码进行了细致的整理，提供了简洁易用的用户接口，为后续研究人员复现或使用等提供了便利，自觉维护了计算机视觉领域注重开源的良好氛围。