本申请涉及图像处理,尤其涉及一种基于神经网络的图像处理方法、装置、电子设备及存储介质。
背景技术:
1、在当前行业中,图像上文字位置的识别和定位主要采用三种方法:形态学操作法、目标检测方法以及分割网络方法。形态学操作法通过基本的形态学变换来识别文字区域,但其定位精度较低。目标检测方法,如ctpn(connectionist text proposal network,连接文本提议网络)、yolo(you only look once,一种目标检测算法)和ssd(single shotmultibox detector,单次多盒检测器),虽然提供了相对准确的定位,但仍存在精度不足的问题,并会增加后续文字识别的难度。分割网络方法,如east(efficient and accuratescene text detector,高效且准确的场景文本检测器)和db(differentiablebinarization,可微分二值化),能够实现精确的文字位置定位,但由于其网络结构庞大、算法模型权重参数众多,需要较高性能的硬件支持,因此在实用性上存在一定限制。
技术实现思路
1、本申请提供一种图像处理方法、装置、电子设备及存储介质,用以解决如何优化神经网络结构,以降低对高性能硬件依赖的问题。
2、第一方面,本申请提供一种图像处理方法,应用于图像处理装置,所图像处理装置包括一神经网络,所述神经网络包括特征提取模块、特征融合模块以及输出模块,所述图像处理方法包括:
3、获取待处理的输入图像;
4、将所述输入图像送入所述特征提取模块,以逐层级地从所述输入图像中提取特征,生成特征图;
5、将所述特征图送入所述特征融合模块,通过对所述特征图执行上采样和拼接操作以融合来自不同层级的特征图,得到融合特征图;
6、将所述融合特征图送入所述输出模块,对所述融合特征图执行上采样操作以调整其空间分辨率,使其与所述输入图像的空间分辨率相匹配,生成匹配特征图;以及
7、对所述匹配特征图执行卷积操作,生成单通道特征图,该单通道特征图用于识别所述输入图像中是否存在文字区域。
8、在本申请一实施例中,在获取所述待处理的输入图像之后,所述图像处理方法还包括:
9、对所述输入图像进行预处理,以将所述输入图像调整为预设尺寸和预设通道数。
10、在本申请一实施例中,所述特征提取模块包括多个卷积层和多个池化层;其中,所述多个卷积层用于逐步增加特征图的通道数并使得特征图的空间分辨率保持恒定,所述多个池化层用于逐层级地减小特征图的空间分辨率。
11、在本申请一实施例中,所述将所述特征图送入所述特征融合模块,通过对所述特征图执行上采样和拼接操作以融合来自不同层级的特征图,得到融合特征图的步骤包括:
12、对所述特征提取模块的最终层级提取的特征图执行上采样操作;
13、将上采样后的特征图与紧邻的上一层级提取的特征图进行拼接;
14、对拼接后的特征图再执行上采样操作,并将其与更上一层级提取的特征图进行拼接;
15、依此重复,直到处理到最初层级提取的特征图,最终得到融合了所有层级特征信息的所述融合特征图。
16、在本申请一实施例中,所述神经网络结构包括多个层级,每个层级由若干个卷积层和至少一个池化层组成;每个层级内的卷积层和池化层共同作用以提取所述输入图像的不同层次的特征;层级从前往后依次排列,最初层级负责提取低级特征,而后续层级则负责提取更高级的特征;最终层级负责输出网络处理后的结果,而最初层级则接收所述输入图像。
17、在本申请一实施例中,在所述神经网络中,每个层级的输入先经过一个卷积层,该卷积层的输出特征图作为下一个卷积层的输入,第二个卷积层的输出再作为池化层的输入,而池化层的输出则传递给下一层级的第一个卷积层,以进行特征的逐步提取,每个层级都在前一层级的基础上进一步提取特征。
18、在本申请一实施例中,在所述神经网络中,每个卷积层处理后的输出均接入一个预先设定的激活函数以用于对卷积层输出的特征图进行非线性变换。
19、在本申请一实施例中,在执行所述对所述匹配特征图执行卷积操作,生成单通道特征图的步骤之后,所述图像处理方法还包括:
20、对所述单通道特征图中的每个特征点进行分析,以确定它们是否指示了所述输入图像中对应像素点属于文字区域;
21、对于每个特征点,如果其数值高于预先设定的阈值,则判定该特征点对应的输入图像中的像素点属于文字区域;
22、将所有特征点的判定结果进行整合,通过统计高于所述阈值的特征点在所述单通道特征图中的位置,以识别出所述输入图像的文字区域的位置信息。
23、第二方面,本申请还提供一种图像处理装置,所述图像处理装置包括:
24、接收模块,用于获取待处理的输入图像;
25、神经网络,该神经网络包括特征提取模块、特征融合模块和输出模块;所述特征提取模块负责逐层级地从所述输入图像中提取特征,并生成特征图;所述特征融合模块通过对所述特征图执行上采样和拼接操作以融合来自不同层级的特征图,得到融合特征图;所述输出模块首先对所述融合特征图进行上采样,以调整其空间分辨率与所述输入图像相匹配,进而生成匹配特征图,最后,所述输出模块对所述匹配特征图执行卷积操作,生成单通道特征图,该单通道特征图用于识别输入图像中是否存在文字区域。
26、第三方面,本申请还提供一种电子设备,包括存储器、处理器及存储在该存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述程序时实现如第一方面所述的图像处理方法的步骤。
27、第四方面,本申请还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面任一项所述的图像处理方法的步骤。
28、本申请提供的图像处理方法、装置、电子设备及存储介质,该图像处理方法过优化神经网络结构来降低对高性能硬件的依赖,主要体现在:首先,通过逐层级地从输入图像中提取特征,网络能够在不同尺度上捕捉图像的特征。这比单一尺度的特征提取更有效,因为它能够适应不同大小的文字区域,从而减少了对高性能硬件的需求。其次,上采样操作可以恢复特征图的空间分辨率,而拼接操作则将不同层级的特征图融合起来,这样可以充分利用多尺度的信息,提高检测的准确性。最后,输出模块通过上采样操作调整融合特征图的空间分辨率,使其与输入图像相匹配,并通过卷积操作生成单通道特征图。单通道特征图意味着更少的计算量和内存需求,这有助于在较低性能的硬件上运行该神经网络。
1.一种图像处理方法,其特征在于,应用于图像处理装置,所图像处理装置包括一神经网络,所述神经网络包括特征提取模块、特征融合模块以及输出模块,所述图像处理方法包括:
2.根据权利要求1所述的图像处理方法,其特征在于,在获取所述待处理的输入图像之后,所述图像处理方法还包括:
3.根据权利要求1所述的图像处理方法,其特征在于,所述特征提取模块包括多个卷积层和多个池化层;其中,所述多个卷积层用于逐步增加特征图的通道数并使得特征图的空间分辨率保持恒定,所述多个池化层用于逐层级地减小特征图的空间分辨率。
4.根据权利要求3所述的图像处理方法,其特征在于,所述将所述特征图送入所述特征融合模块,通过对所述特征图执行上采样和拼接操作以融合来自不同层级的特征图,得到融合特征图的步骤包括:
5.根据权利要求4所述的图像处理方法,其特征在于,所述神经网络结构包括多个层级,每个层级由若干个卷积层和至少一个池化层组成;每个层级内的卷积层和池化层共同作用以提取所述输入图像的不同层次的特征;层级从前往后依次排列,最初层级负责提取低级特征,而后续层级则负责提取更高级的特征;最终层级负责输出网络处理后的结果,而最初层级则接收所述输入图像。
6.根据权利要求5所述的图像处理方法,其特征在于,在所述神经网络中,每个层级的输入先经过一个卷积层,该卷积层的输出特征图作为下一个卷积层的输入,第二个卷积层的输出再作为池化层的输入,而池化层的输出则传递给下一层级的第一个卷积层,以进行特征的逐步提取,每个层级都在前一层级的基础上进一步提取特征。
7.根据权利要求3所述的图像处理方法,其特征在于,在所述神经网络中,每个卷积层处理后的输出均接入一个预先设定的激活函数以用于对卷积层输出的特征图进行非线性变换。
8.根据权利要求1所述的图像处理方法,其特征在于,在执行所述对所述匹配特征图执行卷积操作,生成单通道特征图的步骤之后,所述图像处理方法还包括:
9.一种图像处理装置,其特征在于,所述图像处理装置包括:
10.一种电子设备,包括存储器、处理器及存储在所述存储器上并在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至8任一项所述的图像处理方法的步骤。
11.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至8任一项所述的图像处理方法的步骤。
