本发明属于图像处理,进一步涉及高光谱图像超分辨率重建技术,具体为一种基于微分特征和跨域特征的高光谱图像超分辨率重建方法,可用于在放大目标图像的同时,补充图像细节信息,实现高光谱图像的超分辨率重建。
背景技术:
1、随着我国航空航天事业和遥感探测技术的飞速发展,对高光谱探测技术的需求也逐渐增大,并已经发展成为一项具有重要科研价值和应用前景的前沿技术。高光谱图像可以获取更加丰富的光谱信息,即着有较高的光谱分辨率,从而可以更好地反映出物体的材质、组成和结构等特征。但是高光谱图像较低的空间分辨率限制了其后续更高一级的任务处理效果,因此针对高光谱的超分辨率重建技术就体现出了重要的科研意义和应用价值。而在重建技术中常常会遇到重建图像细节丢失等问题,如何充分提取和利用图像中的空间信息和光谱波段之间的相关性成为重建过程中需要着重考虑的方面。
2、z.jing等人在其发表的论文“hyperspectral image super-resolution basedon feature diversity extraction”中,提出了一种基于特征多样性提取的高光谱图像超分辨率重建的方法,首先将输入图像通过一个卷积核大小为3×3×3的卷积层提取浅层特征,再将浅层特征依次通过五个特征多样性提取模块,每个模块包括四个基于通道注意力的空-谱特征提取模块,最后将特征多样性提取模块的输出特征经过基于改进的3d亚像素卷积的图像重建模块得到最终的结果图。该方法虽然在一定程度上提升了重建效果,然而仍存在卷积神经网络对于图像细节信息的学习不充分,导致重建后图像细节失真的问题。
技术实现思路
1、本发明目的在于针对上述现有技术的不足,提出基于微分特征和跨域特征的高光谱图像超分辨率重建方法,用于解决高光谱图像超分辨率重建中不能对光谱域和空间域中复杂特征充分提取与抑制噪声的问题。
2、实现本发明目的的技术思路是:利用高光谱图像光谱域和空间域特征的跨域联系,对高光谱特征进行了特征提取与强调,同时利用光谱域的微分特征分布情况,使用一阶微分特征对光谱域进行重建;针对空间域的特征信息,利用拉普拉斯算子提取空间域特征,利用二阶微分特征对空间域特征进行噪声的抑制。本发明能够对高光谱图像光谱域和空间域这两种跨域特征进行充分提取与利用,从而有效改善重建后图像出现细节失真的问题。
3、本发明实现上述目的具体步骤如下:
4、(1)对原始数据集中的图像进行采样和归一化处理,获取低分辨率图像块,利用低分辨率图像块生成训练数据集;
5、(2)搭建基于微分特征和跨域特征的特征提取子网络:
6、(2.1)构建跨域特征提取层,其结构依次为:第一卷积层、第一采样层、第二卷积层、第三卷积层、第二采样层、第一数学运算层、第四卷积层、第二数学运算层、第五卷积层、第三采样层、第六卷积层、第七卷积层、第四采样层、第三数学运算层、第八卷积层、第九卷积层;其中,第一和第二采样层分别为光谱域下采样层和上采样层,第三和第四采样层分别为空间域下采样层和上采样层,且所有采样层均使用三线性插值函数作为采样函数;第一至第三数学运算层均为逐点加法运算;
7、(2.2)构建光谱微分特征提取层,其结构依次为:微分层、第一卷积层、第二卷积层、第一数学运算层、第二数学运算层、第一积分层、第三卷积层、第四卷积层、第一激活函数层、第二激活函数层;其中,所述第一数学运算层为逐点乘法运算,第二数学运算层为逐点加法运算,第一激活函数层采用exp(-|x|)指数函数实现;第二激活函数层采用softmax函数实现;
8、(2.3)构建空间微分特征提取层,其结构依次为:第一卷积层、第二卷积层、二阶微分算子层、第一数学运算层、第一微分层、第二微分层、第二数学运算层、第一激活函数层、第三数学运算层、第四数学运算层、第五数学运算层、第六数学运算层、结合层、第二激活函数层、第三激活函数层。其中,二阶微分算子层采用拉普拉斯算子作为二阶微分特征提取算子;第一数学运算层为逐点减法运算,第二数学运算层为逐点海森矩阵行列式运算,第三至第六数学运算层采用逐点乘法运算;第一微分层应用在空间域中,采用一阶差分运算;第二微分层应用在空间域中,采用二阶差分运算;结合层采用并联的方式进行特征联合;第一激活函数层采用relu函数实现,第二和第三激活函数层采用exp(-|x|)指数函数实现;
9、(2.4)利用步骤(2.1)-(2.3)构建的特征提取层,搭建基于微分特征和跨域特征的特征提取子网络,其结构依次为:跨域特征提取层、光谱微分特征提取层、空间微分特征提取层、第一结合层、第二结合层、第三结合层、数学运算层;
10、(3)利用浅层特征提取层和5个基于微分特征和跨域特征的特征提取子网络,搭建基于微分特征和跨域特征的高光谱图像超分辨率重建网络;
11、(4)将训练数据集输入步骤(3)搭建的高光谱图像超分辨率重建网络,通过反向传播和梯度下降迭代更新网络参数,直到损失函数收敛,得到训练好的基于微分特征和跨域特征的超分辨率网络;
12、(5)利用训练好的基于微分特征和跨域特征的超分辨率网络对真实的高光谱图像进行超分辨率重建。
13、本发明与现有技术相比具有以下优点:
14、第一、由于本发明构建了基于微分特征和跨域特征的高光谱图像超分辨率重建网络,利用高光谱图像光谱域和空间域特征的跨域联系,对两种跨域特征进行提取与利用,使得网络能够对于图像细节信息进行充分学习,缓解现有技术无法充分利用高光谱图像中光谱域和空间域联合特征的问题;通过有效利用光谱域和空间域的跨域特征对高光谱图像进行超分辨率重建,克服重建后图像出现细节失真的情况。
15、第二、本发明构建了光谱微分特征提取层,能够有效提高网络对光谱域特征分布情况的学习能力,从而对高光谱图像光谱域的微分特性进行充分利用,使用一阶微分特征对光谱域进行重建,使得重建图像与参考图像的光谱域特征分布曲线更加接近,即缩小超分辨率重建后高光谱图像在光谱域的特征分布与参考图像之间存在的差异。
16、第三、本发明针对空间域构建了空间微分特征提取层,利用拉普拉斯算子进行边缘增强的同时,使用二阶微分算子对空间域特征进行噪声抑制,通过对高光谱图像空间域的微分特性进行充分利用,消除微分算子进行特征提取后特征图中产生的噪声现象,从而大大提升了重建图像的细节信息,达到更好的重建效果。
1.一种基于微分特征和跨域特征的高光谱图像超分辨率重建方法,其特征在于,包括如下步骤:
2.根据权利要求1所述的方法,其特征在于:步骤(1)中所述生成训练集,实现步骤具体如下:
3.根据权利要求2所述的方法,其特征在于:步骤(1.2)所述归一化处理,是将初始高分辨率图像的像素值限定在[0,1]区间内,完成图像的统一归一化。
4.根据权利要求3所述的方法,其特征在于:步骤(1.3)中对不同放大倍数的高分辨率参考图像分别进行有重叠的随机剪裁,具体是指针对不同放大倍数分别进行裁剪,将2、4以及8倍放大因子下的高分辨率参考图像分别裁剪成大小为64*64、128*128、256*256的图像块。
5.根据权利要求1所述的方法,其特征在于:步骤(2.1)所述跨域特征提取层,设置其中第一至第四卷积层的大小均为3×1×1、步长为1,第五至第八卷积层的大小均为1×3×3、步长为1,第九卷积层的大小为1×1×1、步长为1。
6.根据权利要求1所述的方法,其特征在于:步骤(2.2)中搭建的光谱微分特征提取层,其中所述微分层是沿着光谱维度的差分运算,积分层是沿着光谱维度的累加运算,所述第一和第三卷积层的大小均为3×1×1、步长为1;第二、第四卷积层的大小均为1×3×3、步长为1。
7.根据权利要求1所述的方法,其特征在于:步骤(2.3)中搭建的空间微分特征提取层,其中所述第一卷积层的大小为3×1×1、步长为1;第二卷积层的大小为1×3×1、步长为1。
8.根据权利要求1所述的方法,其特征在于:步骤(2.4)中所述第一至第三结合层采用并联的方式进行特征联合,数学运算层为逐点加法运算。
9.根据权利要求1所述的方法,其特征在于:步骤(3)所述浅层特征提取层由卷积层和激活层组成,其中卷积层的大小为3×3×3、步长为1。
