本发明涉及图像处理,尤其涉及一种基于单目画面生成双目画面的方法及装置。
背景技术:
1、随着市场对立体效果需求的激增以及虚拟现实(vr)和混合现实(mr)等空间设备的频繁更新迭代,传统的单目拍摄或录制的普通画面在这些设备中已无法满足用户对于沉浸式体验的需求,而立体画面虽然能够显著提升用户的视觉体验,但由于现有硬件设备的限制,立体画面的普及程度不高。
2、目前,市场上已经有一些方案尝试解决这一问题,例如,vision pro设备在其未正式发布的visionos 2.0 beta版本中,已经具备了将普通照片转换为具有空间深度感的照片的功能,然而,该功能仅适用于照片,并且受到特定操作系统版本和设备类型的限制,如iphone、ipad和mac等设备均不支持此功能。
3、此外,市面上大多数技术方案都依赖云端服务器来进行复杂的图像处理工作,这意味着数据需要上传至服务器才能完成转换,并最终下载回客户端设备,这种方式不仅增加了网络延迟,影响了用户的实时体验,而且还对用户的隐私保护提出了挑战。
技术实现思路
1、本发明的目的在于提供一种基于单目画面生成双目画面的方法及装置,以解决现有技术中单目画面转双目画面受操作系统版本和设备类型的限制且依赖云端服务器进行图像处理的问题。
2、为实现上述目的,本申请采用以下技术方案:
3、本申请的一种基于单目画面生成双目画面的方法,包括以下步骤:
4、获取原始单目画面,并对所述原始单目画面进行单目深度预测以得到前景深度图;
5、根据所述前景深度图分别生成遮罩深度图和背景深度图,并对所述前景深度图、遮罩深度图和背景深度图进行混合计算得到目标深度图;
6、获取左右眼视图分别对应的扭曲变化值,并根据所述扭曲变化值和目标深度图对所述原始单目画面进行变形得到所述原始单目画面对应的双目画面。
7、作为优选,根据所述前景深度图生成遮罩深度图,包括:
8、利用边缘检测算法对所述前景深度图进行处理得到边缘检测图像,并判断所述边缘检测图像是否正常生成;
9、于所述边缘检测图像为正常生成时,利用颜色阈值算法将所述边缘检测图像转换为二值图像,并判断所述二值图像是否为正常生成;
10、于所述二值图像为正常生成时,利用模糊算法对所述二值图像进行平滑处理得到平滑后的二值图像,并判断所述平滑后的二值图像是否为正常生成;
11、于所述平滑后的二值图像为正常生成时,利用颜色阈值算法对所述平滑后的二值图像进行背景提取得到遮罩深度图。
12、作为优选,根据所述前景深度图生成背景深度图,包括:
13、利用模糊算法对所述前景深度图进行平滑处理得到背景深度图。
14、作为优选,所述对所述前景深度图、遮罩深度图和背景深度图进行混合计算得到目标深度图,包括:
15、分别对所述前景深度图、遮罩深度图和背景深度图进行采样,并根据遮罩值对所有的采样结果进行混合计算,输出目标深度图。
16、作为优选,所述获取左右眼视图分别对应的扭曲变化值,并根据所述扭曲变化值和目标深度图对所述原始单目画面进行变形得到所述原始单目画面对应的双目画面,包括:
17、对所述目标深度图进行采样得到第一采样结果,并根据所述第一采样结果的第一通道值对所述原始单目画面进行采样得到第二采样结果;
18、根据相机的焦距和双眼间距以及所述第二采样结果的深度信息计算左右眼视图分别对应的扭曲变化值;
19、根据所述左右眼视图分别对应的扭曲变化值对所述原始单目画面分别进行矩阵变换得到左右眼视图;
20、分别提取所述左右眼视图中的透明度,并利用透明度优化算法对所述透明度进行优化得到双目画面。
21、作为优选,所述第一通道值为深度信息。
22、作为优选,所述根据所述左右眼视图分别对应的扭曲变化值对所述原始单目画面分别进行矩阵变换得到左右眼视图,包括:
23、根据所述左右眼视图分别对应的扭曲变化值对所述原始单目画面分别进行矩阵变换得到两组新像素位置,并判断两组新像素位置是否均超出图像范围;
24、于两组新像素位置均未超出图像范围时,计算所述第二采样结果与两组新像素位置间的偏移量;
25、创建包含所述第二采样结果中所有像素坐标的网格,并将所述偏移量分别添加到所述网格中对应的坐标上得到对应左右视图新坐标;
26、根据所述新坐标分别重映射所述第二采样结果,得到左右眼视图。
27、一种基于单目画面生成双目画面的装置,包括:
28、预测模块,用于获取原始单目画面,并对所述原始单目画面进行单目深度预测以得到前景深度图;
29、转换模块,用于根据所述前景深度图分别生成遮罩深度图和背景深度图,并对所述前景深度图、遮罩深度图和背景深度图进行混合计算得到目标深度图;
30、扭曲模块,用于获取左右眼视图分别对应的扭曲变化值,并根据所述扭曲变化值和目标深度图对所述原始单目画面进行变形得到所述原始单目画面对应的双目画面。
31、一种电子设备,包括存储器和处理器,所述存储器用于存储一条或多条计算机指令,其中,所述一条或多条计算机指令被所述处理器执行以实现如上述中任一项所述的一种基于单目画面生成双目画面的方法。
32、一种存储有计算机程序的计算机可读存储介质,所述计算机程序使计算机执行时实现如上述中任一项所述的一种基于单目画面生成双目画面的方法。
33、本申请具有如下有益效果:
34、本申请实现了在iphone、ipad、mac及visionos等设备上直接运行和显示立体画面,通过本方法,用户还可以将过去拍摄或录制的素材快速转换为立体画面,并进行查看;同时,基于播放器应用,用户可以直接播放普通视频,并通过本方法即时渲染立体画面;基于拍摄应用,用户也可以在原本不支持立体画面拍摄的设备上实现立体画面的拍摄和录制;此外,本方法还支持通过网盘等应用对用户素材进行立体化升级,从而在vr、mr等空间设备中显著提升用户体验。
1.一种基于单目画面生成双目画面的方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的一种基于单目画面生成双目画面的方法,其特征在于,根据所述前景深度图生成遮罩深度图,包括:
3.根据权利要求1所述的一种基于单目画面生成双目画面的方法,其特征在于,根据所述前景深度图生成背景深度图,包括:
4.根据权利要求1所述的一种基于单目画面生成双目画面的方法,其特征在于,所述对所述前景深度图、遮罩深度图和背景深度图进行混合计算得到目标深度图,包括:
5.根据权利要求1所述的一种基于单目画面生成双目画面的方法,其特征在于,所述获取左右眼视图分别对应的扭曲变化值,并根据所述扭曲变化值和目标深度图对所述原始单目画面进行变形得到所述原始单目画面对应的双目画面,包括:
6.根据权利要求5所述的一种基于单目画面生成双目画面的方法,其特征在于,所述第一通道值为深度信息。
7.根据权利要求5所述的一种基于单目画面生成双目画面的方法,其特征在于,所述根据所述左右眼视图分别对应的扭曲变化值对所述原始单目画面分别进行矩阵变换得到左右眼视图,包括:
8.一种基于单目画面生成双目画面的装置,其特征在于,包括:
9.一种电子设备,其特征在于,包括存储器和处理器,所述存储器用于存储一条或多条计算机指令,其中,所述一条或多条计算机指令被所述处理器执行以实现如权利要求1~7中任一项所述的一种基于单目画面生成双目画面的方法。
10.一种存储有计算机程序的计算机可读存储介质,其特征在于,所述计算机程序使计算机执行时实现如权利要求1~7中任一项所述的一种基于单目画面生成双目画面的方法。
