中国科学院机构知识库网格
Chinese Academy of Sciences Institutional Repositories Grid
多源图像融合目标检测技术研究

文献类型:学位论文

作者胡宇轩
答辩日期2024-05
文献子类硕士
关键词多源图像融合 目标检测 双全局注意力 记忆模块 原始输出
英文摘要

得益于过去十余年人工智能的迅猛发展,目标检测算法模型的性能取得了持续提升。然而单源图像的目标检测任务,受单源传感器只能获取物理世界片面信息的限制,在很多应用场景中并不足以满足应用需求。利用多个异构传感器对感兴趣目标或区域同时成像,可以获取包含互补与冗余信息的多源图像,能为揭示、辨识目标提供更全面的物理信息,并产生了多源图像融合目标检测技术的研究。在深度学习的背景下,多源图像融合目标检测也取得了长足的发展,当前的多源图像融合目标检测研究在道路交通、遥感监测、安防监控等场景中取得了一定成果,但对于一些特殊应用场景下的任务需求,依然需要进一步研究。

在全天时多源光学图像融合感知任务中,一些非理想成像条件下多源图像感知系统中某些传感器获取的数据较为低质,单幅图像中也可能出现局部信息的受损或缺失,需要深入研究在上述差异化像质情形下有效进行特征级融合的算法。在安防监控等场景下的多源数据增强单源图像视觉感知任务中,出于对降低系统采购、运行与维护成本的需求,希望突破单源检测系统的性能上限,提升单源图像目标检测器的性能,需要继续研究适用性强的多源数据增强单源图像目标检测算法。在分布式对地观测系统的决策级融合感知任务中,为满足系统对高时效性的要求,在每个平台上利用轻量级目标检测器完成初步检测,并将数据规模很小的检测结果传输到融合节点进行决策级融合,需要研究适用于轻量级目标检测器的决策级融合算法。本文围绕上述三类特殊应用场景下的多源图像融合目标检测算法开展研究。全文工作主要包含以下三部分:

(1)空间与通道双全局注意力多源图像目标检测算法。通过对多源图像差异化像质情形的考察,认为增强互补信息挖掘与融合效果,有助于提升多源图像融合目标检测器性能。本项研究提出了双注意力Transformer特征融合模块,用于采用双流结构的多源图像融合目标检测器中的特征级融合。该模块使用跨特征图的全局空间注意力挖掘与融合互补信息,使用跨特征图的全局通道注意力增强冗余信息。在可见光-红外数据集上进行的系列实验表明,相比其他检测器,使用该特征融合模块的多源图像融合目标检测器在选用的数据集上取得最佳效果,在差异化像质情形下的性能得到提升。

(2)保持记忆单元独特性的多源数据增强目标检测算法。当前最先进的方法采用Key-Value结构的记忆模块,在训练阶段将红外深度特征与可见光深度特征分别作为Key和Value存储在记忆单元中,在部署时使用红外深度特征读取记忆模块,得到伪可见光深度特征。记忆模块参数通过损失函数梯度反向传播进行更新,容易导致记忆模块中记忆单元的独特性不足,直接影响模型的泛化性能。本项研究提出了保持记忆单元独特性记忆模块与多源数据增强红外目标检测器。记忆模块使用由删除、重填、分配和更新四个主要步骤组成的参数更新方法,保持了记忆单元独特性。检测器使用记忆模块读取过程的中间结果产生权重,用于伪可见光特征与红外特征之间的特征级融合。在可见光-红外交通场景数据集上进行系列实验,验证了算法的有效性。

(3)基于轻量级检测器原始输出的决策级融合检测算法。已有的决策级融合方法直接使用最终检测结果进行融合,没有充分利用目标检测器的原始输出,损失了有用信息。本项研究提出了基于轻量级目标检测器原始输出的决策级融合算法。该算法由算法框架与融合方法组成。算法框架用于由检测结果集合产生配对的检测结果;融合方法利用目标检测器原始输出,针对检测器原始输出组成与Yolov3和Yolov8相同的两类常见轻量级目标检测器分别进行设计。在可见光-红外航空遥感数据集上的实验表明,本项研究提出算法具有提升全类平均精度等性能指标或减少虚警数量的效果。在全色光学-合成孔径雷达图像舰船检测数据集上进行定性试验,验证了本项研究所提出算法在分布式对地观测卫星系统中的适用性。

语种中文
页码76
源URL[http://ir.ia.ac.cn/handle/173211/57139]  
专题自动化研究所_模式识别国家重点实验室_遥感图像处理团队
推荐引用方式
GB/T 7714
胡宇轩. 多源图像融合目标检测技术研究[D]. 2024.

入库方式: OAI收割

来源:自动化研究所

浏览0
下载0
收藏0
其他版本

除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。