本发明涉及图像拼接中的密集对应相关,具体涉及一种大尺寸高分辨率图像的拼接方法和装置。
背景技术:
1、图像拼接技术是指将两张或者多张有重叠的图像拼接成为全景图像的技术。图像拼接技术的核心问题在于图像配准,传统方法选择寻找sift,surf,orb等特征描述子进行图像间的配准,或者精度更高的superpoint,d2-net等网络结构设计生成特征描述后进行配准。但上述的方法在面对大尺寸高分辨率图像数据时精度水平均偏低。不能拥有合格的效果。
2、密集对应(dense correspondence)技术可以实现数据之间的密集对应关系的表征,精确度高于特征点建立的配准方法,原则上能实现高精度要求的大尺寸高分辨率图像拼接,但是一般的网络并不具备高分辨图像的数据吞吐量,导致目前并没有密集对应技术在高分辨图像拼接上的应用。
技术实现思路
1、针对目前绝大多数神经网络无法读取4k,8k等高分辨率大尺寸图像进行图像配准等问题,本发明提出建立一种高分辨图像间的密集对应(dense correspondence)算法,提高图像配准时的特征信息对应精准水平,解决大尺寸图像图像拼接精度低的问题。
2、本发明的技术方案为:
3、本发明公开了一种大尺寸高分辨率图像的拼接方法和装置。其中,该方法包括:
4、s1、在预设的裁剪方向上对具有重叠区域的待拼接的两张图像进行裁剪,并记录裁剪时使用的坐标信息;
5、s2、将裁剪后的图像对输入卷积网络进行特征提取,并对得到的特征进行相关性计算以得到图像对的相关性矩阵;
6、s3、将相关性矩阵输入后续网络预测输出均值和方差,其中均值表示裁剪后的图像对的坐标信息的目标值,方差表示裁剪后的图像对的坐标信息与目标值之间的置信度;
7、s4、对方差结果进行排序,选择前k个方差最低的点对数据作为网络的输出结果;
8、s5、读取s1中的坐标信息后更新点对数据信息,生成真实的大尺寸图像的点对对应关系;
9、s6、判断与预设裁剪方向垂直的裁剪方向上所述待拼接的两张图像上是否存在重叠,若是,则在该方向上对具有重叠区域的待拼接的两张图像进行裁剪,记录裁剪时使用的坐标信息,重复执行s2-s5,以得到该重叠区域对应的点对对应关系;
10、s7、利用s5和s6中得到的点对信息生成单应性矩阵,作用在图像上完成最终的拼接。具体的,所述s1中按照图像重叠的比例对待拼接的两张图像进行裁剪,并确保裁剪后的图像数据远小于原图尺寸,且能在不超过网络吞吐量的同时包含全部图像重叠区域。
11、具体的,所述s2中的卷积网络由一个编码器和两个解码器共同构成,其中一个解码器用于实现概率模型的均值预测;另一个解码器实现概率模型方差的预测;将两个解码器的结果进行融合输出最终的概率模型。
12、具体的,所述s2中在训练模型时将一系列训练数据进行透视变化,同时手动添加mask区进行噪声添加,记录对应两幅图像,同时将其对应变换映射作为flow的标签信息。
13、具体的,所述s3中网络设置离散分布的从大到小的方差数据确保网络的收敛性,推理预测时结果为预设的离散方差,组合成为最终的结果。
14、具体的,所述s3中网络最终输出结果为概率分布,损失计算为最终预测分布的抽样结果与标注之间的差异,优化方向为损失最小。
15、具体的,所述s5中读取到的点对信息是被裁剪的两张图像之间的对应坐标对应关系,利用裁剪时的坐标信息进行更新,生成大尺寸高分辨率图像真实的点对坐标对应信息。
16、具体的,所述更新方法具体包括:分别获取被拼接图像的右下角坐标(x,y)及拼接图像的左上角坐标(0,0),利用设计的超参数进行宽度为w和高度为h的裁剪,将裁剪后的图像对输入卷积网络,计算得到图像对的对应坐标关系,拼接图像的坐标无需平移变换,被拼接图像所有坐标添加偏移量(x-w,y-h),更新坐标对应关系。
17、具体的,所述s7中利用真实的点对坐标对应关系生成单应性矩阵作用在待拼接图像上,针对拼接区域选择合适权重进行线性叠加生成最终的结果。
18、另外,本发明实施例还提供了一种大尺寸高分辨率图像的拼接装置,包括:
19、图像裁剪模块,用于在预设的裁剪方向上对具有重叠区域的待拼接的两张图像进行裁剪,并记录裁剪时使用的坐标信息;
20、特征提取和相关性计算模块,用于将裁剪后的图像对输入卷积网络进行特征提取,并对得到的特征进行相关性计算以得到图像对的相关性矩阵;
21、均值和方差预测模块,用于将所述相关性矩阵输入后续网络预测输出均值和方差,其中均值表示裁剪后的图像对的坐标信息的目标值,方差表示裁剪后的图像对的坐标信息与目标值之间的置信度;
22、点对数据选择模块,用于对方差结果进行排序,选择前k个方差最低的点对数据作为网络的输出结果;
23、点对对应关系生成模块,用于读取图像裁剪模块中的坐标信息后更新点对数据信息,生成真实的大尺寸图像的点对对应关系;
24、重叠区域判断模块,用于判断与预设裁剪方向垂直的裁剪方向上所述待拼接的两张图像上是否存在重叠,若是,则在该方向上对具有重叠区域的待拼接的两张图像进行裁剪,记录裁剪时使用的坐标信息,重复执行特征提取和相关性计算模块、均值和方差计算模块、点对数据选择模块以及点对对应关系生成模块,以得到该重叠区域对应的点对对应关系;
25、坐标信息更新模块,用于更新点对数据信息生成真实的点对对应关系;
26、单应性矩阵生成模块,用于根据得到的点对信息生成单应性矩阵,作用在图像上完成最终的拼接。
27、本发明的有益效果是:
28、本发明基于概率密集对应关系模型,将概率密度对应模型应用于图像配准领域,解决了卷积等网络模型无法吞吐大尺寸的高分辨率图像的问题,实现了高分辨图像的高精度拼接。
1.一种大尺寸高分辨率图像的拼接方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述s1具体包括:
3.根据权利要求1所述的方法,其特征在于,所述s2中的卷积网络由一个编码器和两个解码器共同构成,其中一个解码器用于实现概率模型的均值预测;另一个解码器实现概率模型方差的预测;将两个解码器的结果进行融合输出最终的概率模型。
4.根据权利要求3所述的方法,其特征在于,在训练模型时将一系列训练数据进行透视变化,同时手动添加mask区进行噪声添加,记录对应两幅图像,同时将其对应变换映射作为flow的标签信息。
5.根据权利要求1所述的方法,其特征在于,所述s2中的卷积神经网络设置从大到小离散分布的的方差数据,推理预测时结果为预设的离散方差。
6.根据权利要求1所述的方法,其特征在于,所述s5具体包括:
7.根据权利要求6所述的方法,其特征在于,所述更新方法具体包括:
8.根据权利要求1所述的方法,其特征在于,所述s7具体包括:
9.一种大尺寸高分辨率图像的拼接装置,其特征在于,包括:
