本发明涉及目标检测,特别涉及一种遥感影像的目标检测方法、装置、介质和设备。
背景技术:
1、sod(salient object detection,显著目标检测)是计算机视觉领域的一个研究方向,主要目的是从图像中自动检测出最吸引人注意的部分,即图像中与周围环境在颜色、亮度、纹理或者形状上具有明显差异的显著目标。由于sod能够有效地识别出图像中最引人注意的部分,因此可以辅助图像编辑软件自动识别显著目标,从而指导自动裁剪或缩放操作;或者辅助视频压缩软件保留显著区域而在非显著区域则采用更高的压缩率。
2、在sod研究领域,深度学习方法是目前的热门研究方向,考虑到cnn(convolutional neural networ,卷积神经网络)倾向于捕捉局部信息,transformer擅长建模全局依赖,因此可以设计一种如图1所示的基于并行架构的融合策略来实现两个模型的互补,该基于并行架构的融合策略通过多阶段对图像进行处理,并在每个阶段中将cnn和transformer的输出进行融合,充分利用了cnn和transformer的特性,使得每个阶段的特征可以进行互补和交互。
3、但是,由于遥感影像中目标物体的尺度变化显著,现有技术中基于并行架构的融合策略难以在cnn和transformer之间平衡,容易出现全局特征过多导致对前景细节捕捉不足或局部特征过多导致对背景理解不充分,从而造成对遥感影像中的目标检测结果不准确。
技术实现思路
1、基于此,为了解决现有技术对遥感影像中的显著目标检测结果不准确的技术问题,本发明提供一种遥感影像的目标检测方法、装置、介质和设备。
2、本发明提供了一种遥感影像的目标检测方法,包括:
3、构建包括依次连接的编码模块、多头交叉注意力模块和解码模块的深度学习网络;所述编码模块包括并行的卷积神经网络和transformer,以及与卷积神经网络输出端和transformer输出端同时连接的交叉模块;
4、采集包含目标的遥感影像用以构建数据集;使用所述数据集对所述深度学习网络进行训练,获得显著目标检测模型;
5、将待检测遥感影像输入到显著目标检测模型中,通过卷积神经网络和transformer对遥感影像进行特征提取,获得遥感影像的局部特征和全局特征;通过交叉模块将局部特征和全局特征沿不同的维度进行交叉互换,以将遥感影像的局部特征和全局特征进行交叉互补感知,获得交叉局部特征和交叉全局特征;通过多头交叉注意力模块中的多个头从多方面学习交叉局部特征和交叉全局特征对于遥感影像中的目标的贡献程度,并根据学习结果动态扩大交叉局部特征和交叉全局特征中与遥感影像中的目标具有响应的权重,以获得平衡特征;通过解码器对平衡特征进行解码操作,获得遥感影像中的显著目标。
6、进一步地,所述卷积神经网络包括:4个依次连接的第一残差卷积模块、第二残差卷积模块、第三残差卷积模块和第四残差卷积模块;所述残差卷积模块用于提取遥感影像中不同尺寸的局部特征;
7、所述transformer包括:4个依次连接的第一金字塔视觉transformer模块、第二金字塔视觉transformer模块、第三金字塔视觉transformer模块和第四金字塔视觉transformer模块;所述金字塔视觉transformer模块用于提取遥感影像中不同尺寸的全局特征;
8、所述交叉模块包括:与第一残差卷积模块输出端和第一金字塔视觉transformer模块输出端连接同时连接的第一空间交叉模块、与第二残差卷积模块输出端和第二金字塔视觉transformer模块输出端同时连接的第二空间交叉模块、与第三残差卷积模块输出端和第三金字塔视觉transformer模块输出端同时连接的第一通道交叉模块以及与第四残差卷积模块输出端和第四金字塔视觉transformer模块输出端同时连接的第二通道交叉模块;所述空间交叉模块用于沿空间维度对局部特征和全局特征进行交换;所述通道交叉模块用于沿通道维度对局部特征和全局特征进行交换。
9、进一步地,所述第一空间交叉模块和所述第二空间交叉模块结构分别在空间维度对第一残差卷积模块的输出和第一金字塔视觉transformer模块的输出以及第二残差卷积模块的输出和第二金字塔视觉transformer模块的输出进行特征交互操作;
10、所述第一通道交叉模块和所述第二通道交叉模块分别在通道维度对第三残差卷积模块的输出和第三金字塔视觉transformer模块的输出以及第四残差卷积模块的输出和第四金字塔视觉transformer模块的输出进行交互操作,具体包括:
11、对输入交叉模块的特征图进行通道归一化操作,以对齐局部特征和全局特征的通道数:
12、
13、其中,表示第i残差卷积模块输出的全局特征;表示第i金字塔视觉transformer模块输出的局部特征;其中,i=1,2,3,4;cbr(·)表示依次执行卷积、批归一化和激活函数操作;
14、对通道归一化操作后的局部特征和全局特征进行通道增强:
15、
16、其中,表示通道归一化操作后的全局特征;表示通道归一化操作后的局部特征;⊙表示通道元素相乘;fc表示全连接层;gmp(·)表示全局最大值池化操作;gap(·)表示全局平均值池化操作;σ(·)表示sigmoid激活函数;
17、对通道增强后的局部特征和全局特征进行交叉互换:
18、
19、
20、其中,表示进行交叉互换后的全局特征;表示交叉互换后的局部特征;sex(·)表示空间交互操作;cex(·)表示通道交互操作。
21、进一步地,所述交叉模块的输出端和所述多头交叉注意力模块的输入端之间连接有并行的局部特征输入分支和全局特征输入分支;
22、所述全局特征输入分支用于对所述第二通道交叉模块的输出的进行交叉互换后的全局特征添加位置编码,并基于添加位置编码后的构造所述多头交叉注意力模块中的查询q;
23、所述局部特征输入分支用于对所述第二通道交叉模块的输出的进行交叉互换后的局部特征添加位置编码,并基于添加位置编码后的构造所述多头交叉注意力模块中的键k和值v。
24、进一步地,所述解码模块包括依次连接的第一解码子模块、第二解码子模块、第三解码子模块、第四解码子模块;其中,第一解码子模块的输入端与交叉模块的输出端连接;第二解码子模块的输入端与第一通道交叉模块的输出端连接;第三解码子模块和第四解码子模块的输入端与第二空间交叉模块的输出端连接;第四解码子模块和第四解码子模块的输入端与第一空间交叉模块的输出端连接;所述解码子模块用于对交叉模块的输出进行重建。
25、本发明提供了一种遥感影像的目标检测装置,包括:
26、模型构建模块,用于构建包括依次连接的编码模块、多头交叉注意力模块和解码模块的深度学习网络;所述编码模块包括并行的卷积神经网络和transformer,以及与卷积神经网络输出端和transformer输出端同时连接的交叉模块;
27、模型训练模块,用于采集包含目标的遥感影像用以构建数据集;使用所述数据集对所述深度学习网络进行训练,获得显著目标检测模型;
28、目标检测模块,用于将待检测遥感影像输入到显著目标检测模型中,通过卷积神经网络和transformer对遥感影像进行特征提取,获得遥感影像的局部特征和全局特征;通过交叉模块将局部特征和全局特征沿不同的维度进行交叉互换,以将遥感影像的局部特征和全局特征进行交叉互补感知,获得交叉局部特征和交叉全局特征;通过多头交叉注意力模块中的多个头从多方面学习交叉局部特征和交叉全局特征对于遥感影像中的目标的贡献程度,并根据学习结果动态扩大交叉局部特征和交叉全局特征中与遥感影像中的目标具有响应的权重,以获得平衡特征;通过解码器对平衡特征进行解码操作,获得遥感影像中的显著目标。
29、本发明提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述遥感影像的目标检测方法。
30、本发明提供了一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述遥感影像的目标检测方法。
31、本发明采用的上述至少一个技术方案能够达到以下有益效果:
32、在本发明提供的遥感影像的目标检测方法中,通过交叉模块将局部特征和全局特征沿不同的维度进行交叉互换,实现了局部特征和全局特征在不同的维度上的信息交换,使得模型是在不同维度上平衡了局部特征和全局特征的信息后再输出检测结果,避免模型更偏向于某一特征进行输出,提高了模型对显著目标尺度变换的敏感度;接着,使用多头交叉注意力模块中的多个头,从多方面学习交叉互换后的局部特征和全局特征对于遥感影像中的显著目标的贡献程度,根据学习结果动态扩大与遥感影像中显著目标具有响应的特征权重,进一步对局部特征和全局特征进行了平衡;通过将交叉模块与多头交叉注意力模块相结合,使得模型可以更灵活地适应遥感影像中显著目标的尺度变化,避免出现过多的全局特征导致对前景细节捕捉不足或过多的局部特征导致背景理解不充分的情况,提高了对于遥感影像中显著目标检测任务的准确性。
1.一种遥感影像的目标检测方法,其特征在于,包括:
2.如权利要求1所述的遥感影像的目标检测方法,其特征在于,所述卷积神经网络包括:4个依次连接的第一残差卷积模块、第二残差卷积模块、第三残差卷积模块和第四残差卷积模块;所述残差卷积模块用于提取遥感影像中不同尺寸的局部特征;
3.如权利要求2所述的遥感影像的目标检测方法,其特征在于,所述第一空间交叉模块和所述第二空间交叉模块结构分别在空间维度对第一残差卷积模块的输出和第一金字塔视觉transformer模块的输出以及第二残差卷积模块的输出和第二金字塔视觉transformer模块的输出进行特征交互操作;
4.如权利要求3所述的遥感影像的目标检测方法,其特征在于,所述交叉模块的输出端和所述多头交叉注意力模块的输入端之间连接有并行的局部特征输入分支和全局特征输入分支;
5.如权利要求2所述的遥感影像的目标检测方法,其特征在于,所述解码模块包括依次连接的第一解码子模块、第二解码子模块、第三解码子模块、第四解码子模块;其中,第一解码子模块的输入端与交叉模块的输出端连接;第二解码子模块的输入端与第一通道交叉模块的输出端连接;第三解码子模块和第四解码子模块的输入端与第二空间交叉模块的输出端连接;第四解码子模块和第四解码子模块的输入端与第一空间交叉模块的输出端连接;所述解码子模块用于对交叉模块的输出进行重建。
6.一种遥感影像的目标检测装置,其特征在于,包括:
7.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述权利要求1~5任一项所述的方法。
8.一种计算机设备,其特征在于,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述权利要求1~5任一所述的方法。
