本技术涉及图像识别,尤其涉及一种图像识别及响应处理方法、装置、设备及存储介质。
背景技术:
1、在纸屏互动场景中,针对电子设备需要精确识别纸质文档页面的页码的需求,传统方法通常依赖于ocr(optical character recognition,光学字符识别)技术和图像搜索引擎。ocr技术通过扫描和解析纸质文档页面中的文本内容,以便于电子设备将该文本内容与预存储的纸质文档的各个页面的文本进行匹配实现检索与页码识别;对于不含文字的页面,图像搜索引擎通过将该不含文字的页面与数据库已存储的纸质文档的多个页面图像进行比对,基于图像内容的相似性来推测页码。
2、然而,在光线不足或者图像质量受损的情况下,ocr技术往往难以准确识别文本,导致页码识别结果出现偏差,同样,图像搜索引擎在处理低质量图像或相似度极高的图像时,也容易产生页码误匹配,影响用户的查阅体验。
技术实现思路
1、有鉴于此,为解决上述技术问题,本技术提供一种图像识别及响应处理方法、装置、设备及存储介质。
2、具体地,本技术是通过如下技术方案实现的:
3、根据本技术实施例的第一方面,提供一种图像识别方法,所述方法可以包括:
4、获取纸质文档的页面图像作为待识别页面;
5、利用预先训练的检测网络检测所述待识别页面是否包括配图,并在所述待识别页面包括配图的情况下,确定所述配图的第一分类结果;
6、从所述待识别页面中提取所述配图,并将所述配图输入至预先训练的识别网络,得到所述配图的第二分类结果;其中,所述检测网络与所述识别网络均包括多个分类类别,每个分类类别对应于所述纸质文档中单个页面的所有配图;
7、在所述第二分类结果与所述第一分类结果匹配的情况下,确定所述待识别页面在所述纸质文档中的对应页码。
8、可选地,目标网络包括所述检测网络或所述识别网络;所述目标网络的每个卷积层至少包括自定义卷积操作中的上下卷积、左右卷积中的一种;所述上下卷积包括将第一卷积核水平分割成等大的两个子卷积核后计算上下两部分卷积结果的差值;所述左右卷积包括将第二卷积核垂直分割成等大的两个子卷积核后计算左右两部分卷积结果的差值。
9、可选地,所述在所述待识别页面包括配图的情况下,确定所述配图的第一分类结果,包括:
10、利用所述检测网络确定所述配图的边界框,并根据所述边界框确定出所述待识别页面中的感兴趣区域;
11、通过所述检测网络中的所述自定义卷积操作,提取所述感兴趣区域的第一配图特征,并根据所述第一配图特征预测所述配图的第一分类结果。
12、可选地,所述从所述待识别页面裁切得到所述配图,并将所述配图输入至预先训练的识别网络,得到所述配图的第二分类结果,包括:
13、根据所述检测网络确定的所述配图的边界框对所述待识别页面进行裁剪,得到所述配图并输入至所述识别网络;
14、通过所述识别网络中的所述自定义卷积操作,提取所述配图的第二配图特征,并根据所述第二配图特征预测所述配图的第二分类结果。
15、可选地,所述目标网络的每个卷积层所使用的多个卷积核中包括第一比例的用于实现所述上下卷积的第一卷积核、第二比例的用于实现所述左右卷积的第二卷积核、以及第三比例的用于实现标准卷积的第三卷积核;
16、所述上下卷积或所述左右卷积包括:将对应的卷积核分割成两个等大的子卷积核;计算每个子卷积核通过加权求和计算得到的卷积结果,并获取两个卷积结果的差值的绝对值;根据所述绝对值得到对应的最终卷积结果。
17、可选地,所述在所述第二分类结果与所述第一分类结果匹配的情况下,确定所述待识别页面在所述纸质文档中的对应页码,包括:
18、获取所述第一分类结果中置信度最高的第一预测类别,并获取所述第二分类结果中置信度最高的第二预测类别;
19、在所述第二预测类别满足设定条件的情况下,确定所述第二分类结果与所述第一分类结果匹配,并获取所述第二预测类别对应的所述纸质文档中页面的页码作为所述对应页码;所述设定条件包括:所述第二预测类别的置信度大于或等于预设阈值、且第二预测类别与所述第一预测类别相同。
20、可选地,所述方法还包括:
21、在所述第二分类结果与所述第一分类结果不匹配的情况下,对所述待识别页面进行图像特征向量提取,获取固定维数的第一特征向量;
22、将所述第一特征向量与预存储的所述纸质文档中包含配图的第一页面的特征向量进行匹配,将匹配到的特征向量对应的页码确定为所述对应页码。
23、可选地,所述目标网络还包括预先训练的模糊判断网络;所述方法还包括:
24、通过所述模糊判断网络中的所述自定义卷积操作,提取所述待识别页面的边缘特征并传递至所述模糊判断网络的后续层,得到所述待识别页面的模糊分类结果;
25、在所述模糊分类结果指示所述待识别页面不模糊的情况下,确定所述待识别页面的清晰度符合设定要求,反之则确定所述清晰度不符合设定要求。
26、在所述清晰度符合设定要求的情况下,检测所述待识别页面是否包括配图。
27、可选地,所述方法还包括:
28、在所述待识别页面不包括配图的情况下,提取所述待识别页面的文本内容,并与预存储的所述纸质文档中不包含配图的各个第二页面的页面文本进行匹配,获取匹配到的页面文本对应的第一页码;
29、对所述待识别页面进行图像特征向量提取,得到固定维数的第二特征向量,并与预存储的所述第二页面的特征向量进行匹配,获取匹配到的特征向量对应的第二页面的第二页码;
30、在所述第一页码与所述第二页码相同的情况下,将所述第一页码确定为所述待识别页面在所述纸质文档的对应页码。
31、可选地,所述方法还包括:
32、在所述第一页码与所述第二页码不相同的情况下,控制在交互界面展示所述第一页码和所述第二页码对应的第二页面;
33、接收用户通过交互界面从展示的第二页面中所选定的页面页码,将所述选定的页面页码作为所述对应页码。
34、根据本技术实施例的第二方面,提供一种图像识别装置,所述装置包括:
35、待识别页面获取模块,用于获取纸质文档的页面图像作为待识别页面;
36、配图检测与识别模块,用于利用预先训练的检测网络检测所述待识别页面是否包括配图,并在所述待识别页面包括配图的情况下,确定所述配图的第一分类结果;从所述待识别页面裁切得到所述配图,并将所述配图输入至预先训练的识别网络,得到所述配图的第二分类结果;其中,所述检测网络与所述识别网络均包括多个分类类别,每个分类类别对应于所述纸质文档中单个页面的所有配图;
37、目标页面确定模块,用于在所述第二分类结果与所述第一分类结果匹配的情况下,确定所述待识别页面在所述纸质文档中的对应页码。
38、可选地,目标网络包括所述检测网络或所述识别网络;所述目标网络的每个卷积层至少包括自定义卷积操作中的上下卷积、左右卷积中的一种;所述上下卷积包括将第一卷积核水平分割成等大的两个子卷积核后计算上下两部分卷积结果的差值;所述左右卷积包括将第二卷积核垂直分割成等大的两个子卷积核后计算左右两部分卷积结果的差值。
39、可选地,基于所述自定义卷积操作,所述配图检测与识别模块具体用于:
40、利用所述检测网络确定所述配图的边界框,并根据所述边界框确定出所述待识别页面中的感兴趣区域;
41、通过所述检测网络中的所述自定义卷积操作,提取所述感兴趣区域的第一配图特征,并根据所述第一配图特征预测所述配图的第一分类结果。
42、可选地,基于所述自定义卷积操作,所述配图检测与识别模块具体用于:
43、根据所述检测网络确定的所述配图的边界框对所述待识别页面进行裁剪,得到所述配图并输入至所述识别网络;
44、通过所述识别网络中的所述自定义卷积操作,提取所述配图的第二配图特征,并根据所述第二配图特征预测所述配图的第二分类结果。
45、可选地,所述目标网络的每个卷积层所使用的多个卷积核中包括第一比例的用于实现所述上下卷积的第一卷积核、第二比例的用于实现所述左右卷积的第二卷积核、以及第三比例的用于实现标准卷积的第三卷积核;
46、所述上下卷积或所述左右卷积包括:将对应的卷积核分割成两个等大的子卷积核;计算每个子卷积核通过加权求和计算得到的卷积结果,并获取两个卷积结果的差值的绝对值;根据所述绝对值得到对应的最终卷积结果。
47、可选地,所述目标页面确定模块具体用于:
48、获取所述第一分类结果中置信度最高的第一预测类别,并获取所述第二分类结果中置信度最高的第二预测类别;
49、在所述第二预测类别满足设定条件的情况下,确定所述第二分类结果与所述第一分类结果匹配,并获取所述第二预测类别对应的所述纸质文档中页面的页码作为所述对应页码;所述设定条件包括:所述第二预测类别的置信度大于或等于预设阈值、且第二预测类别与所述第一预测类别相同。
50、可选地,所述装置还包括:
51、在所述第二分类结果与所述第一分类结果不匹配的情况下,对所述待识别页面进行图像特征向量提取,获取固定维数的第一特征向量;
52、将所述第一特征向量与预存储的所述纸质文档中包含配图的第一页面的特征向量进行匹配,将匹配到的特征向量对应的页码确定为所述对应页码。
53、可选地,所述目标网络还包括预先训练的模糊判断网络;所述装置还包括:
54、通过所述模糊判断网络中的所述自定义卷积操作,提取所述待识别页面的边缘特征并传递至所述模糊判断网络的后续层,得到所述待识别页面的模糊分类结果;
55、在所述模糊分类结果指示所述待识别页面不模糊的情况下,确定所述待识别页面的清晰度符合设定要求,反之则确定所述清晰度不符合设定要求。
56、在所述清晰度符合设定要求的情况下,检测所述待识别页面是否包括配图。
57、可选地,所述装置还包括:
58、在所述待识别页面不包括配图的情况下,提取所述待识别页面的文本内容,并与预存储的所述纸质文档中不包含配图的各个第二页面的页面文本进行匹配,获取匹配到的页面文本对应的第一页码;
59、对所述待识别页面进行图像特征向量提取,得到固定维数的第二特征向量,并与预存储的所述第二页面的特征向量进行匹配,获取匹配到的特征向量对应的第二页面的第二页码;
60、在所述第一页码与所述第二页码相同的情况下,将所述第一页码确定为所述待识别页面在所述纸质文档的对应页码。
61、可选地,所述装置还包括:
62、在所述第一页码与所述第二页码不相同的情况下,控制在交互界面展示所述第一页码和所述第二页码对应的第二页面;
63、接收用户通过交互界面从展示的第二页面中所选定的页面页码,将所述选定的页面页码作为所述对应页码。
64、根据本技术实施例的第三方面,提供一种响应处理方法,该方法可以包括:
65、在获取到目标纸质文档的页面图像的情况下,利用上述任一实施例所述的图像识别方法,确定所述页面图像对应在所述目标纸质文档中的目标页码;
66、根据预置的所述目标纸质文档的页面与设备操作的映射关系,触发设备执行所述目标页码对应的设备操作。
67、根据本技术实施例的第四方面,提供一种响应处理装置,该装置包括:
68、页码确定模块,用于在获取到目标纸质文档的页面图像的情况下,利用的图像识别方法,确定所述页面图像对应在所述目标纸质文档中的目标页码;
69、触发执行模块,用于根据预置的所述目标纸质文档的页面与设备操作的映射关系,触发设备执行所述目标页码对应的设备操作。
70、根据本技术实施例的第五方面,提供一种电子设备,所述电子设备包括:存储器和处理器;所述存储器,用于存储计算机程序;所述处理器,用于通过调用所述计算机程序,执行上述图像识别方法或响应处理方法。
71、根据本技术实施例的第六方面,提供一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现上述图像识别方法或响应处理方法。
72、本技术实施例提供的技术方案可以包括以下有益效果:
73、在上述本技术提供的技术方案中,通过结合预先训练的检测网络和识别网络,对于包含配图的待识别页面不仅利用了配图作为识别线索,并通过双重分类机制即检测网络的初步分类与识别网络的精细分类相结合,有效过滤了误判,提供了更为可靠、高效的页码识别手段,提升了页码识别的准确性和鲁棒性。相较于相关技术的纯文字识别或图像搜索引擎,该方法能够应对文档格式多样、字体变化等输入需求,对于待识别页面存在模糊、残缺文字等情况也可以提供较高的识别率,提升了文档处理的自动化水平和用户体验。
74、应当理解的是,以上的一般描述和后文的细节描述仅是示例性的和解释性的,并不能限制本技术。此外,本技术中的任一实施例并不需要达到上述的全部效果。
1.一种图像识别方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,目标网络包括所述检测网络或所述识别网络;所述目标网络的每个卷积层至少包括自定义卷积操作中的上下卷积、左右卷积中的一种;所述上下卷积包括将第一卷积核水平分割成等大的两个子卷积核后计算上下两部分卷积结果的差值;所述左右卷积包括将第二卷积核垂直分割成等大的两个子卷积核后计算左右两部分卷积结果的差值。
3.根据权利要求2所述的方法,其特征在于,所述在所述待识别页面包括配图的情况下,确定所述配图的第一分类结果,包括:
4.根据权利要求2所述的方法,其特征在于,所述从所述待识别页面裁切得到所述配图,并将所述配图输入至预先训练的识别网络,得到所述配图的第二分类结果,包括:
5.根据权利要求2-4任一项所述的方法,其特征在于,所述目标网络的每个卷积层所使用的多个卷积核中包括第一比例的用于实现所述上下卷积的第一卷积核、第二比例的用于实现所述左右卷积的第二卷积核、以及第三比例的用于实现标准卷积的第三卷积核;
6.根据权利要求1所述的方法,其特征在于,所述在所述第二分类结果与所述第一分类结果匹配的情况下,确定所述待识别页面在所述纸质文档中的对应页码,包括:
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
8.根据权利要求2所述的方法,其特征在于,所述目标网络还包括预先训练的模糊判断网络;所述方法还包括:
9.根据权利要求1所述的方法,其特征在于,所述方法还包括:
10.根据权利要求9所述的方法,其特征在于,所述方法还包括:
11.一种响应处理方法,其特征在于,所述方法包括:
12.一种图像识别装置,其特征在于,所述装置包括:
13.一种响应处理装置,其特征在于,所述装置包括:
14.一种电子设备,其特征在于,包括:存储器、处理器;
15.一种可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-11任一项所述的方法。
