本发明涉及身份识别,具体涉及一种基于混合网络与交叉注意力机制的心电信号开集身份识别方法。
背景技术:
1、心电图(electrocardiogram,ecg)作为一种生物特征识别技术,近年来在身份识别领域引起了广泛关注。与传统生物特征如人脸、指纹、虹膜、声纹等相比,心电信号不仅满足作为生物特征必备的基本特性如普遍性、唯一性、稳定性与易采集性等,同时具有较高的安全性。作为人体内部生理信号,心电信号采集需要特定的设备与技术,同时心电信号自身的活体检测特性使其难以被伪造或复制,这使心电身份识别在对安全性需求高的应用场景具有潜在优势。
2、心电身份识别作为一个典型分类问题,可分为闭集识别与开集识别。在闭集识别中,通常假设测试样本必然属于训练集中某个已知的身份类别。然而,在实际应用中,存在测试样本来自未知身份类别的可能,闭集假设难以满足需求,因此引入开集识别。相较于闭集识别,开集识别不仅需要正确区分已知身份,还要能够拒绝未知身份,因而更符合实际应用需求。现有心电身份识别系统大多面向闭集识别设计,这在一定程度上限制了其在实际应用中的普适性与鲁棒性。
3、此外,心电身份识别的核心技术在于特征提取算法。传统方法主要依赖心电信号的时域、频域和统计域特征,为身份识别提供有效依据。然而,这种方法通常需要人工设计特征,不仅耗时耗力,还可能忽略心电信号中的潜在个体差异。相比之下,基于深度学习的特征提取方法能够通过多层线性和非线性变换自动拟合训练数据分布,从而提取更具鉴别性的特征。这种方法避免了手工特征提取的局限性,提高了特征提取的效率和准确性。尽管如此,现有的神经网络方法仍存在一些局限性。例如,卷积神经网络主要探索局部空间信息与身份标签之间的关系,而循环神经网络则侧重于捕捉心电信号的时序长时依赖。这意味着,这些方法可能只利用了心电信号中的部分特性信息,未能充分全面挖掘信号的有效信息。
4、综上,本发明针对现有心电身份识别系统中存在闭集识别、特征信息提取局限等不足,提出一种基于混合网络与交叉注意力机制的心电信号开集身份识别方法,旨在全面提取并融合心电信号的局部空间信息与时间序列长时依赖关系,面向开集识别场景,实现更符合实际应用需求的高精度心电身份识别。
技术实现思路
1、本发明的目的在于至针对现有技术的不足,提出一种基于混合网络与交叉注意力机制的心电信号开集识别方法。方法通过混合网络提取心电信号中的局部空间信息与时序长时依赖关系,并且利用交叉注意力机制融合两类不同特征表示,在去除冗余的同时,充分保留身份个体差异性鉴别信息,同时,通过构建openmax分类层实现开集环境下身份辨识,不仅能够对已知身份个体信号进行准确分类,同时能够对未知陌生身份予以拒识。
2、为达到上述目的,本方法提供如下技术方案:
3、1.本发明的技术方案包括一种基于混合网络与交叉注意力机制的心电信号开集身份识别方法,该方法包括以下步骤:
4、s1:对心电信号进行预处理得到标准化二维心拍图像输入;
5、s2:构建混合网络模型提取多尺度局部空间信息与时间序列长时依赖关系。所述混合网络模型输入为所述标准化二维心拍图像,输出为所述标准化心拍图像的多尺度局部空间信息特征表示,时间序列长时依赖关系特征表示;
6、s3:利用交叉注意力机制融合不同类型信息。所述交叉注意力机制输入为所述混合网络模型的输出,输出为所述多尺度局部空间信息特征与所述全局长时依赖关系特征的融合表示;
7、s4:建立openmax分类层实现开集环境下身份标签辨识。所述openmax分类模型输入为所述交叉注意力机制的输出,输出为身份识别结果。
8、所述s1中对心电信号进行预处理得到标准化心拍图像输入的步骤包括:
9、s11:采用截止频率为0.5hz高通滤波器,截止频率为100hz低通滤波器以及陷波频率范围为49.5hz~50.5hz的带阻滤波器对输入心电信号进行处理,得到干净心电信号;
10、s12:利用pan-tompkins算法对所述干净心电信号进行r、t波顶点定位,得到基准点r、t波顶点位置;
11、s13:根据定位结果,以r波顶点为中心,取r波顶点前相邻t波顶点为起点,取r波顶点后相邻t波顶点为终点,对干净心电信号进行分割,得到心拍分割片段;
12、s14:采用min-max归一化方法对所述得到的心拍分割片段进行标准化处理,得到标准化心拍片段;
13、s15:利用python matplotlib工具包将所述标准化心拍片段绘制为尺寸为224*224*3的rgb二维图像,将rgb二维图像数据存储,作为网络输入。
14、2.根据所述的基于混合网络与交叉注意力机制的心电信号开集身份识别方法,该方法包含混合网络特征提取模块、交叉注意力机制模块及openmax分类层。所述混合网络特征提取模块、所述交叉注意力机制模块与所述openmax分类层依次连接。
15、所述混合网络特征提取模块包含两个通道:多尺度卷积特征提取通道、transformer编码特征提取通道,所述多尺度卷积特征提取通道与所述transformer编码特征提取通道并行连接,输入均为224*224*3的rgb二维图像,输出均为1*768特征向量。
16、3.根据所述的基于混合网络与交叉注意力机制的心电信号开集身份识别方法,所述多尺度卷积特征提取通道包括1*1卷积层、第一多尺度卷积特征提取层,第二多尺度卷积特征提取层、第三多尺度卷积特征提取层、第四多尺度卷积特征提取层、第五多尺度卷积特征提取层及全连接层。
17、所述1*1卷积层、第一多尺度卷积特征提取层、第二多尺度卷积特征提取层、第三多尺度卷积特征提取层、第四多尺度卷积特征提取层、第五多尺度卷积特征提取层及全连接层依次连接。
18、所述1*1卷积层卷积核尺寸为1*1,步长为1,采用relu激活函数,卷积操作采用4个卷积核。
19、4.根据所述的基于混合网络与交叉注意力机制的心电信号开集身份识别方法,所述第一多尺度卷积特征提取层,第二多尺度卷积特征提取层、第三多尺度卷积特征提取层、第四多尺度卷积特征提取层及第五多尺度卷积特征提取层均包含两部分:多尺度卷积模块、池化模块。
20、所述多尺度卷积模块包括四个分支,四个分支分别为第一分支、第二分支、第三分支及第四分支:
21、所述第一分支为残差连接;
22、所述第二分支为3*3卷积核,步长为1,采用relu激活函数,padding设置为“same”;
23、所述第三分支为5*5卷积核,步长为1,采用relu激活函数,padding设置为“same”;
24、所述第三分支为7*7卷积核,步长为1,采用relu激活函数,padding设置为“same”;
25、所述第一多尺度卷积特征提取层中所述多尺度卷积模块每个卷积操作均采用4个卷积核;
26、所述第二多尺度卷积特征提取层中所述多尺度卷积模块每个卷积操作均采用16个卷积核;
27、所述第三多尺度卷积特征提取层中所述多尺度卷积模块每个卷积操作均采用32个卷积核;
28、所述第四多尺度卷积特征提取层中所述多尺度卷积模块每个卷积操作均采用64个卷积核;
29、所述第五多尺度卷积特征提取层中所述多尺度卷积模块每个卷积操作均采用128个卷积核。
30、所述池化模块均采用最大池化,池化层尺寸为2*2,步长为2。
31、5.根据所述的基于混合网络与交叉注意力机制的心电信号开集身份识别方法,所述全连接层用于将所述第五多尺度卷积特征提取层输出展开并映射为1*768特征向量,采用relu激活函数。所述全连接层输入为所述第五多尺度卷积特征提取层输出展开后特征向量,输出为1*768特征向量,输出特征向量维度与所述transformer编码特征提取通道输出特征维度相同。
32、6.根据所述的基于混合网络与交叉注意力机制的心电信号开集身份识别方法,所述transformer编码特征提取通道包含5个堆叠的transformer编码器。
33、步骤2中所述构建混合网络模型提取时间序列长时依赖关系由transformer编码特征提取通道完成,输入为224*224*3的rgb二维心拍图像,特征提取过程包括以下步骤:
34、s21:使用尺寸为16*16,步长为16,通道数量为768的卷积操作对二维心拍图像进行线性投影,线性投影后维度为196*768,即投影后得到196个向量序列,每个序列维度为768;
35、s22:在向量序列前端添加维度为1*768的分类标记,与所述196*768向量序列拼接后,维度为197*768;
36、s23:利用余弦函数生成位置编码,叠加至所述维度为197*768的向量序列,将得到结果作为transformer编码器输入;
37、s24:利用所述5个堆叠transfomer编码器对所述输入的197*768向量序列进行特征提取,所述每个transfomer编码器均包含一个多头注意力模块与一个多层感知机模块。其中,所述多头注意力模块注意力头数设置为8,所述多层感知机包含两个全连接层,节点数量为768->3072->768。
38、s25:最后,提取映射后得到的分类标记作为所述transformer编码特征提取通道提取得到的特征,维度为1*768,与所述多尺度卷积特征提取通道输出特征维度相同。
39、7.根据所述的基于混合网络与交叉注意力机制的心电信号开集身份识别方法,所述交叉注意力机制模块输入为所述多尺度卷积特征提取通道与所述transformer编码特征提取通道提取的1*768特征向量,分别记为xconv,xtrans。
40、步骤3中利用交叉注意力机制融合不同类型信息过程包括以下步骤:
41、s31:通过线性变换生成所述xconv,xtrans对应的查询、键与值。线性变换过程中,查询、键、值对应的线性变换矩阵分别记为wq,wk,wv,线性变换矩阵由反向传播算法学习得到。xconv对应的查询、键、值分别为qconv,kconv vconv,xtrans对应的查询、键、值分别为qtrans,ktrans,vtrans;
42、s32:根据所述查询、键、值计算注意力得分,xconv,xtrans对应的注意力得分为:
43、
44、其中softmax(·)为softmax函数,经softmax函数映射后得到attention1值为xconv对应注意力得分,经softmax函数映射后得到attention2值为xtrans对应注意力得分。
45、s33:根据所述注意力得分计算融合后特征向量:
46、xfuse=attention1*vconv+attention2*vtrans
47、其中xfuse为所述融合后特征向量。
48、8.根据所述的基于混合网络与交叉注意力机制的心电信号开集身份识别方法,所述openmax分类层是一个三层全连接网络,分别为输入层、隐含层与输出层。所述输入层为所述交叉注意力机制模块输出,包含768个节点,所述隐含层包含384个节点,所述输出层包含节点个数与身份识别个体类别数量相关,若身份识别个体类别数量为ntotal,则输出层节点数量为ntotal。步骤4中建立所述openmax分类层实现开集环境下身份标签辨识包含以下步骤:
49、s41:所述openmax分类层训练:
50、s42:所述openmax分类层开集识别。
51、9.根据所述的基于混合网络与交叉注意力机制的心电信号开集身份识别方法,步骤41中所述openmax分类层训练包含以下步骤:
52、s411:网络权重与偏置寻优:按照十折交叉验证实验方法要求,将数据集分为训练集与测试集,其中训练集占九份,测试集占一份。利用反向传播算法对整体网络进行参数寻优,得到所述openmax分类层的权重与偏置。寻优过程中,输出节点数量为ntotal,此时网络为闭集识别,仅面向训练集内已知身份个体样本,openmax分类层等同于softmax分类器。
53、s412:威布尔分布参数拟合:训练完成后,对所述训练集样本,取被正确分类训练集数据对应的所述openmax分类层隐含层输出集合s,根据类别将得到的隐含层输出集合s划分为ntotal个数据子集,每个子集记为sj。对所述每个子集sj,取均值,得到ntotal个激活向量mavj,激活向量表达式计算如下:
54、
55、其中,nj为类别j的样本数量,sij为类别j对应的数据子集内第i个样本。计算各子集内样本sij到各自对应激活向量mavj的欧式距离,对各子集对应的欧式距离集合利用matlab软件内嵌函数wblfit分别进行威布尔分布拟合,得到j个威布尔分布的尺度参数τj、形状参数λj与位置参数κj。
56、所述openmax分类层包含的网络权重、偏置与威布尔分布参数共同构成openmax分类层的模型参数。
57、10.根据所述的基于混合网络与交叉注意力机制的心电信号开集身份识别方法,步骤s42中所述openmax分类开集识别,包含以下步骤:
58、s421:输出得分校正:对每个测试样本sample,通过网络映射,得到样本在openmax分类层隐含层的输出得分ssample,输出层的输出得分vsample。按照从大到小顺序对vsample内得分进行排序,排序后序列记为对vsample中概率序列中第i个得分值的校正公式如下:
59、
60、其中,ωi为校正权重,计算公式如下:
61、
62、其中,dis(·)为欧式距离,mavi为类别i对应的所述激活向量,τi、λi与κi为类别i对应的所述威布尔分布参数。
63、s422:陌生未知类别伪得分分配:将陌生未知身份分配标签0,标签0的伪得分如下:
64、
65、s423:开集条件下分类概率计算:利用softmax函数对序列进行归一化,得到开集识别条件下,识别测试样本sample为类别0~ntotal的概率序列
66、s424:开集识别:取概率序列中最大值pmax,若最大值pmax为p0或pmax小于预设阈值ε,则判定为陌生未知身份,进行拒识;若最大值pmax不为p0且pmax大于预设阈值ε,则判定为已知身份,并将最大值对应的类别标签分配给测试样本。
67、本发明的有益效果为:构建包含多尺度卷积特征提取通道、transformer编码特征提取通道的双通道特征提取混合网络,能够在提取多尺度局部空间表示的同时,获取ecg序列长时依赖关系特征表示,充分、全面挖掘心电信号中与身份辨识相关的信息;建立交叉注意力机制模块,通过实现两个通道特征的有效融合,增强模型对关键特征的感知能力,提高特征表示的判别性,提高识别的准确率;利用openmax分类层在softmax分类器输出基础上,通过输出得分校正,为陌生未知身份标签分配伪得分,获得样本在开集环境下分类概率,实现开集识别,使得识别结果更符合实际应用环境需求。
1.一种基于混合网络与交叉注意力机制的心电信号开集身份识别方法,其特征在于,该方法包括以下步骤:
2.根据权利要求1所述的一种基于混合网络与交叉注意力机制的心电信号开集身份识别方法,其特征在于,该方法包含混合网络特征提取模块、交叉注意力机制模块及openmax分类层。所述混合网络特征提取模块、所述交叉注意力机制模块与所述openmax分类层依次连接。
3.根据权利要求2所述的一种基于混合网络与交叉注意力机制的心电信号开集身份识别方法,其特征在于,所述多尺度卷积特征提取通道包括1*1卷积层、第一多尺度卷积特征提取层,第二多尺度卷积特征提取层、第三多尺度卷积特征提取层、第四多尺度卷积特征提取层、第五多尺度卷积特征提取层及全连接层;
4.根据权利要求3所述的一种基于混合网络与交叉注意力机制的心电信号开集身份识别方法,其特征在于,所述第一多尺度卷积特征提取层,第二多尺度卷积特征提取层、第三多尺度卷积特征提取层、第四多尺度卷积特征提取层及第五多尺度卷积特征提取层均包含两部分:多尺度卷积模块、池化模块;
5.根据权利要求3所述的一种基于混合网络与交叉注意力机制的心电信号开集身份识别方法,其特征在于,所述全连接层用于将所述第五多尺度卷积特征提取层输出展开并映射为1*768特征向量,采用relu激活函数;
6.根据权利要求2所述的一种基于混合网络与交叉注意力机制的心电信号开集身份识别方法,其特征在于,所述transformer编码特征提取通道包含5个堆叠的transformer编码器;
7.根据权利要求2所述的一种基于混合网络与交叉注意力机制的心电信号开集身份识别方法,其特征在于,所述交叉注意力机制模块输入为所述多尺度卷积特征提取通道与所述transformer编码特征提取通道提取的1*768特征向量,分别记为xconv,xtrans;
8.根据权利要求2所述的一种基于混合网络与交叉注意力机制的心电信号开集身份识别方法,其特征在于,所述openmax分类层是一个三层全连接网络,分别为输入层、隐含层与输出层,所述输入层为所述交叉注意力机制模块输出,包含768个节点,所述隐含层包含384个节点,所述输出层包含节点个数与身份识别个体类别数量相关,若身份识别个体类别数量为ntotal,则输出层节点数量为ntotal,步骤4中建立所述openmax分类层实现开集环境下身份标签辨识包含以下步骤:
9.根据权利要求8所述的一种基于混合网络与交叉注意力机制的心电信号开集身份识别方法,其特征在于,步骤41中所述openmax分类层训练包含以下步骤:
10.根据权利要求8所述的一种基于混合网络与交叉注意力机制的心电信号开集身份识别方法,其特征在于,步骤s42中所述openmax分类开集识别,包含以下步骤:
