多目标检测是计算机视觉和数字图像处理的一个热门方向，广泛应用于智能交通、无人驾驶、机器人导航、智能视频监控等诸多领域。
根据待检测的目标形状表示的不同，本文将目标检测的研究分为通用目标检测和精细目标检测两个方面。通用目标检测关注于多种目标的边框坐标和类别标签，精细目标检测还必须确定每个目标的精细边缘，需要预测每一个像素的类别(即实例分割)。通用目标检测算法一般可以适用于检测各类目标，但是为了追求在实际应用中有更好的表现，则需要考虑在图像中精确地分割每个目标的像素。
目前，摄像机已成为自动驾驶以及智慧城市中最常用的感知设备，可以产生海量的图像视频数据，必须依靠多目标检测技术才能实现对这些数据的实时分析与处理。从图像视频中实时准确地检测出各类交通目标，获取它们的位置和运动状态，能够为智能交通和智能车辆提供重要的基础信息。但是交通场景具有极高的复杂性，许多复杂因素交织在一起，给视觉计算系统带来了严峻考验：通用目标检测中，同一类的目标差异巨大，不同类的目标相似性高、交通目标的快速移动和高密度产生的运动模糊和严重遮挡等问题；精细目标检测中，像素级的标签信息标注成本高、难以覆盖复杂交通环境、极端交通场景样本稀少等问题。针对这些问题，本文进行了深入探讨和研究。
本文主要的研究内容和贡献归纳如下：
1、针对交通场景中目标存在的巨大差异性以及难以检测小目标等困难样本的问题，本文提出了基于多特征融合的通用目标检测方法。
该方法的核心思想是通过将多尺度局部特征和全局特征进行融合来提高交通目标的检测准确率。
首先，通过融合不同卷积层上的局部特征来建立不同空间分辨率的特征表达；
然后基于空间金字塔池化的方法获得全局特征表达；最后，融合不同深度的卷积层的局部特征以及具有上下文信息的全局特征，增强模型判别能力。
实验结果表明，本文提出的方法在交通目标检测上具有更好的性能，尤其是针对常规模型难以检测出的小目标和存在遮挡的困难目标，对于交通监控和智能车辆具有非常重要的意义。
2、针对目标检测任务中单阶段检测器低层特征语义信息少以及检测精度低的问题，本文提出了注意力增强的渐进式学习方法。该方法的核心思想是通过采用渐进式学习方法进行多阶段逐步检测，来提高单阶段检测器的检测性能。为了解决低层特征仅具有基本视觉模式而缺少丰富的语义信息的问题，本文设计了一个注意力增强模块，通过用坐标框引导产生的弱分割标签来监督产生用于增强低层特征的注意力图。实验结果表明，该方法在保持单阶段目标检测算法的速度优势的同时，显著提升了其检测准确率，在多个评测数据集上超过了同期最好的算法。
3、为了有效平衡速度和精度，实现更加准确高效的精细目标检测算法，本文提出了基于单阶段检测的实例分割方法。该方法的核心思想是通过将单阶段检测框架引入到实例分割任务中，在避免损失检测精度的情况下，显著提高其检测速度。首先，多尺度特征反馈模块用于预测不同比例和长宽比的目标；然后，本文提出辅助分类网络，将分类分为目标先验和类别后验，并把这两个任务与回归分支并联连接到多尺度特征空间用于对目标进行分类和定位；最后，在无区域建议模型的基础上增加了一个由卷积层和反卷积层构成的实例层级的分割子网络，实现同时进行坐标框预测和像素级分类的任务。实验结果表明，本文提出的方法在多个公开数据集上均取得了良好的性能，并且远高于同期其他目标检测方法。
4、为了解决交通场景中缺乏大规模精细标注的数据集以及人工标注成本巨大的问题，本文提出了虚拟-现实交互的目标检测方法。该方法的核心思想是利用计算机图形学以及虚拟现实技术产生大量虚拟数据集，结合虚拟数据集和实际数据集进行模型训练，实现从人工场景到实际场景的迁移。首先，通过分析数据分布的差异，将其划分为全局图像特征和局部区域特征层面的差异；然后设计了三个特征适应模块：全局级别特征对齐模块、局部级别特征对齐模块与一致性对齐模块，来解决虚拟数据集和实际数据集之间的数据集偏移问题。最后，本文从概率角度上对这三种模块如何实现领域适应进行了理论分析。实验结果表明，特征适应模块有效解决了数据集偏移带来的精度下降问题，提升了其准确率，同时使得本文提出的方法的性能优于当前许多最新的技术。