本发明涉及机械故障诊断领域,特别涉及基于convformer-senet的齿轮故障诊断方法。
背景技术:
1、齿轮作为机械设备的重要组成部件,其在汽车工业、风力发电、农业机械等领域起着关键作用。齿轮作为传递动力的关键部件,齿轮的运行状态直接影响整个机械系统的安全性和可靠性。通过及时的故障诊断,可以在故障初期发现故障,从而避免故障进一步扩大导致的潜在风险。
2、机器学习在故障诊断领域具有自动化高效、准确性高、实时监控和适应能力强等优点,但在数据需求、计算资源和模型解释性方面仍有改进空间。近年来,学者们基于深度自动编码器(deepautoencoder,dae)、卷积神经网络(convolutional neural networks,cnn)等深度学习方法在齿轮故障诊断领域开展了广泛研究,这些深度学习方法凭借其强大的特征提取能力和处理复杂数据的能力,在故障诊断领域展现出了巨大的潜力。例如,深度自动编码器能够自动从原始数据中提取高阶特征,从而提高故障诊断的准确性和效率。深度卷积神经网络(deep convolutional neural networks,dcnn)则通过其层次化的结构,有效地捕捉到数据中的空间特征和局部模式,尤其适用于处理振动信号和图像数据。
3、shao等提出了一种集成深度自动编码器用于滚动轴承的智能故障诊断,该方法可以有效克服个体深度学习模型的局限性,有效提高诊断结果的准确性和稳定性。li等提出了一种基于自适应批量归一化(adabn)和组合优化算法的轴承故障诊断迁移学习方法,缓解了域偏移问题。sun等针对transformer的自注意力机制的二次复杂性导致计算成本极高的问题,提出了liteformer轻量化的架构,兼顾了算法成本和诊断性能。cen等提出了基于掩码自监督学习(ssl)的msformer算法,在多级离心风机数据集上效果良好。chen等[14]针对齿轮箱故障诊断中的多重故障,提出了一种多通道多任务卷积神经网络(mcmt-cnn)模型,取得了超过97%的诊断准确率。
4、以上方法取得了良好的效果,但是依然存在一些问题,比如,cnn虽然能充分提取不同尺度的局部特征,但在整合和解析图像的整体场景与全局依赖关系时,cnn的表现略有不足;transformer具有并行处理的能力,并且通过注意力机制能够有效地捕捉序列中的长距离依赖关系,但在处理长序列时计算和内存消耗较高,且在数据量较少的情况下容易过拟合。本文提出了一种新的特征提取算法convformer-senet用于齿轮故障诊断,解决以上两种方法在全局信息特征提取以及容易过拟合的问题。
技术实现思路
1、本发明目的是为了改善cnn在齿轮故障诊断中因局部特性限制难以全面捕捉全局故障信息,以及transformer处理长序列时资源消耗大、容易在数据量小的情况下过拟合的不足,本文提出了一种新的齿轮故障诊断算法convformer-senet,用来提高齿轮故障诊断准确率。
2、cnn和transformer在特征提取方面各具独特优势。为了准确监控和检测每种故障,需要从充足的故障信息中提取局部区域特征和全局信息:
3、因此,convformer的设计理念是获取多尺度特征,包括长距离依赖和局部依赖;
4、convformer模块通过不同参数的convformer块堆叠而成:
5、convformer与transformer的区别在于convformer使用两个连续的卷积层处理输入数据,逐步减小了输入的尺寸,增加了特征的维度,增强了非线性表示能力,避免了处理长数据的低效问题;
6、其次,对transformer的一些属性进行了修改,以减少冗余信息并更好地关注相邻点。在计算k和v矩阵之前,对输入特征应用一维卷积进行下采样;
7、此外在mhsa中使用cnn可以增强模型的非线性学习能力。convformer能够挖掘多尺度特征,能够避免分辨率降低导致的信息损失;
8、convformer模型的主要计算过程包括卷积模块对输入特征的处理,计算查询、键和值矩阵,应用自注意力机制以获得注意力权重,并进行多头注意力输出的拼接和归一化处理,最终通过卷积投影进一步处理特征;
9、该模型结合了卷积神经网络在局部特征提取方面的优势和transformer在全局依赖建模方面的能力,从而有效捕捉多尺度特征信息;
10、基于convformer-senet的齿轮故障诊断方法具体过程如下:
11、convformer模型的齿轮故障的诊断方法结合了卷积神经网络在局部特征提取方面的优势和transformer在全局依赖建模方面的能力,从而有效捕捉多尺度特征信息;
12、convformer模型的主要计算过程如下:
13、公式1:给定输入特征xi,通过卷积模块处理得到新的特征
14、
15、公式2:将特征乘以查询权重矩阵然后得到查询矩阵q。其中kj是键矩阵;
16、
17、公式3、4:使用一维卷积神经网络对进行处理,并乘以键权重矩阵和值矩阵vj;
18、
19、
20、公式5:对结果应用softmax函数以获得注意力权重zj。用这些权重对值矩阵vj进行加权求和;
21、
22、公式6、7、8:在前馈神经网络中使用卷积投影代替线性投影,进一步减少convformer的参数量;
23、z=concat(z1,z2...,zh)wo;
24、
25、
26、senet是一种用于提高卷积神经网络性能的创新架构,senet通过自适应重新校准通道间的特征响应,提高了模型的表示能力;
27、它的核心思想是通过显式建模通道间的依赖关系,来提升网络的特征表达能力;
28、senet主要由三个步骤组成,分别为挤压操作和激励操作以及特征重新加权操作:
29、挤压操作:通过全局平均池化来获取每个通道的全局特征。假设输入特征图为u∈rh×w×c,其中h、w、c分别是特征图的高度、宽度和通道数。squeeze操作通过全局平均池化,将每个通道的空间信息压缩成一个全局描述:
30、
31、激励操作:激励操作通过自适应地重新校准各通道的重要性。首先,使用两个全连接层来捕捉通道间的非线性关系,并通过激活函数(通常使用relu和sigmoid)来获得每个通道的权重。公式如下:
32、s=σ(w2δ(w1z))
33、在该公式中,z=[z1,z2,...,zc]t是挤压操作的输出,和是两个全连接层的权重矩阵,δ是relu激活函数,σ是sigmoid激活函数,r是一个缩放因子,用于减少参数量和计算量;
34、特征重新加权操作:特征重新加权操作将excitation操作生成的权重s重新加权到原始特征图的各个通道。公式如下:
35、
36、其中,sc是第c个通道的权重,uc是输入特征图的第c个通道,是重新加权后的第c个通道特征;
1.基于convformer-senet的齿轮故障诊断方法,其特征在能够有效提取多尺度的视觉图,同时显著增强了特征通道之间的映射关系。该方法在特征表示上更为精细,有效抑制了冗余特征,能够更精准地聚焦于齿轮振动信号中的关键位置和通道。
2.根据权利要求1所述的基于convformer-senet的齿轮故障诊断方法,所述步骤一中包含以下内容及公式如下:
3.根据权利要求2中所述的基于convformer-senet的齿轮故障诊断方法,所述步骤二的计算查询、键和值矩阵中包含内容及公式如下:
4.根据权利要求3所述的基于convformer-senet的齿轮故障诊断方法,其特征在于:所述步骤三中应用自注意力机制以获得注意力权重中包含内容及公式如下:
5.根据权利要求4所述的基于convformer-senet的齿轮故障诊断方法,其特征在于:所述步骤四中进行多头注意力输出的拼接和归一化处理中包含内容及公式如下:
6.根据权利要求5所述的基于convformer-senet的齿轮故障诊断方法,其特征在于:所述步骤五中最终通过卷积投影进一步处理特征包含内容及公式如下:
7.根据权利要求6所述的基于convformer-senet的齿轮故障诊断方法,其特征在于:senet主要由三个步骤组成,分别为挤压操作和激励操作以及特征重新加权操作:
8.根据要求7所述的基于convformer-senet的齿轮故障诊断方法,其特征在于:所述senet主要由三个步骤组成,分别为挤压操作和激励操作以及特征重新加权操作:
9.根据要求8所述的基于convformer-senet的齿轮故障诊断方法,其特征在于:所述senet主要由三个步骤组成,分别为挤压操作和激励操作以及特征重新加权操作:
10.根据权利要求1-9,基于convformer-senet的齿轮故障诊断方法,其特征在结合了cnn强大的局部特征提取能力和transformer能够通过自注意力机制捕捉输入序列中任意两个位置之间的依赖关系的优势。兼顾局部和全局特征,同时嵌入senet通道注意力机制实现自适应学习,显著增强了特征通道之间的映射关系。在特征表示上更为精细,有效抑制了冗余特征,能够更精准地聚焦于齿轮振动信号中的关键位置和通道。
