基于卷积神经网络的目标检测方法在众多视觉任务上取得了很大的成功，然
而大多数现有的目标检测方法是基于封闭类别集假设来设计的，只能对场景中
出现的预定类别的物体进行检测，而未训练过的类别的物体往往作为背景被忽
略掉。为此，本文研究开放集目标检测方法，使其能够在检测出预定类别目标的
同时，将未知类别的目标也检测出来并标记为未知类。本文探索提出了几种方法
并开展了实验验证。主要工作和贡献如下:
1. 提出一种基于异常目标拒绝的开放集目标检测方法。该方法将现有的检
测算法与开放集识别算法相结合，并使用one-versus-all 准则进行训练，打破常
规检测算法中分类器的封闭集假设，实现未知类别目标的发现。在自然场景未知
类别昆虫检测任务上，取得了满意的效果。
2. 提出一种基于原型学习的一阶段开放集目标检测方法。该方法将原型分
类机制引入检测算法中，利用原型分类器可以在特征空间中形成紧凑的类内分
布和松散的类间分布，在保持对已知类物体检测性能的同时，有效地提高了检测
器对未知类目标的检测能力。在PASCAL VOC 数据集上的实验表明，本方法能
够在保证已知类别目标检测性能的同时，有效鉴别出未知类别的目标。
3. 提出一种基于显著性引导的训练策略。该策略以图像中的显著性信息为
线索，引导检测器对图中未标注的目标区域做出更有效的响应，从而克服了训练
图片中未标记目标对新类别发现造成的不利影响，使算法能够利用更多的数据
对模型进行充分训练，有效地提高对未知类目标的发现能力。在PASCAL VOC
数据集上的实验表明，本方法对基于CenterNet 的开放集目标检测器有效提升了
目标发现性能。