听觉模型的评估方法及装置、电子设备、存储介质及程序产品

专利2026-02-07  12


本公开涉及计算机和人工智能领域,尤其涉及一种听觉模型的评估方法及装置、电子设备、存储介质及程序产品。


背景技术:

1、机器学习的进步使得深度神经网络(deep neural network,dnn)在过去的十年有了飞速的发展,与此同时,专用于处理语音、音乐等声音信号的听觉模型(audio models,也可以称为“声学模型”)的性能也有了巨大进步,在声音识别、增强、合成等任务中展现出强大的声音处理能力。

2、然而,与大多数的dnn一样,作为黑匣子模型,听觉模型同样缺乏可解释性,尤其是,缺乏对听觉模型与人类听觉系统之间的关系和差异的评估方案,这使得难以为听觉模型的进一步优化和改进提供有价值的指导。


技术实现思路

1、本公开提供一种听觉模型的评估方法及装置、电子设备、存储介质及程序产品,以至少解决相关技术中缺乏对听觉模型与人类听觉系统之间的关系和差异的评估方案的问题。本公开的技术方案如下:

2、根据本公开的第一方面,提供一种听觉模型的评估方法,所述评估方法包括:获取针对目标音频数据的第一声学特征和听觉响应信号,其中,所述第一声学特征通过将所述目标音频数据输入到目标听觉模型得到,所述听觉响应信号为人脑听觉系统对所述目标音频数据的响应信号;根据所述听觉响应信号所对应的各脑区,对所述第一声学特征进行划分,得到与所述听觉响应信号对应的第二声学特征;基于所述第二声学特征和所述听觉响应信号,对所述听觉模型的类脑特性进行评估。

3、可选地,所述第一声学特征包括所述目标听觉模型的各网络层输出的层特征,其中,通过以下方式得到所述第二声学特征:基于所述听觉响应信号所对应的各脑区,对各层特征进行划分,以确定各层特征与各脑区的对应性;根据对各层特征的划分结果,对各层特征进行编码,得到所述第二声学特征,其中,所述第二声学特征具有与所述听觉响应信号相同的信息形式。

4、可选地,通过以下方式得到所述第二声学特征:将所述第一声学特征的各层特征输入到预训练的编码模型中,其中,所述预训练的编码模型包括路由器和多个专家模型,每个专家模型对应于至少一个脑区,不同的专家模型对应于不同的脑区;利用所述路由器预测每个层特征与各专家模型对应的预测概率;利用各专家模型对每个层特征进行编码,并利用所述预测概率对各编码结果进行加权,得到加权后的层特征;基于加权后的层特征,得到所述第二声学特征。

5、可选地,所述编码模型通过以下方式训练得到:获取训练样本和样本标注信息,其中,所述训练样本包括所述目标听觉模型输出的第一样本声学特征,每个第一样本声学特征包括所述目标听觉模型的各网络层输出的样本层特征,所述样本标注信息表征每个第一样本声学特征所对应的第二样本声学特征;将所述训练样本输入到所述编码模型中,利用所述路由器预测每个样本层特征与各专家模型对应的预测概率;利用各专家模型对相应的样本层特征进行编码,并利用所述预测概率对各编码结果进行加权,得到加权后的样本层特征;基于所述加权后的样本层特征,得到预测的第二声学特征;通过将所述预测的第二声学特征与所述第二样本声学特征进行比较,确定预测损失,以对所述编码模型进行训练,其中,所述预测损失包括第一损失和第二损失,所述第一损失表示所述预测的第二声学特征与所述第二样本声学特征之间的差异,所述第二损失通过对各样本层特征与各专家模型对应的预测概率进行统计来确定。

6、可选地,通过以下方式对所述听觉模型的类脑特性进行评估:将所述第二声学特征与所述听觉响应信号进行比较,得到多个评估指标,其中,每个评估指标表示所述第二声学特征与所述听觉响应信号之间的信号差异,不同的评估指标通过不同的度量方式度量所述信号差异;对所述多个评估指标进行融合,得到对所述听觉模型的类脑特性的评估结果。

7、可选地,所述目标音频数据包括两个音频数据,所述第一声学特征包括多个维度的维度特征,其中,通过以下方式得到所述第二声学特征:确定分别与所述两个音频数据对应的两个第一声学特征在每个维度上的维度特征之间的特征距离;确定将各维度上的维度特征划分到各脑区中的划分权重,其中,所述划分权重表示所述第一声学特征的各维度对形成各脑区信息的贡献程度;基于所述划分权重,对各维度上的特征距离进行加权,得到所述第二声学特征,其中,所述第二声学特征包括加权后的特征距离。

8、可选地,通过以下方式对所述听觉模型的类脑特性进行评估:确定分别与所述两个音频数据对应的两个听觉响应信号在每个维度上的信号之间的信号距离;通过对所述加权后的特征距离与所述信号距离进行比较,得到对所述听觉模型的类脑特性的评估结果。

9、根据本公开的第二方面,提供一种听觉模型的评估装置,所述评估装置包括:获取单元,被配置为获取针对目标音频数据的第一声学特征和听觉响应信号,其中,所述第一声学特征通过将所述目标音频数据输入到目标听觉模型得到,所述听觉响应信号为人脑听觉系统对所述目标音频数据的响应信号;划分单元,被配置为根据所述听觉响应信号所对应的各脑区,对所述第一声学特征进行划分,得到与所述听觉响应信号对应的第二声学特征;评估单元,被配置为基于所述第二声学特征和所述听觉响应信号,对所述听觉模型的类脑特性进行评估。

10、根据本公开的第三方面,提供一种电子设备,所述电子设备包括:处理器;用于存储所述处理器可执行指令的存储器,其中,所述处理器可执行指令在被所述处理器运行时,促使所述处理器执行根据本公开所述的听觉模型的评估方法。

11、根据本公开的第四方面,提供一种计算机可读存储介质,当所述计算机可读存储介质中的指令由电子设备的处理器执行时,使得所述电子设备能够执行根据本公开所述的听觉模型的评估方法。

12、根据本公开的第五方面,提供一种计算机程序产品,其包括计算机可执行指令,所述计算机可执行指令被至少一个处理器执行时实现根据本公开所述的听觉模型的评估方法。

13、本公开提供的技术方案至少带来以下有益效果:

14、采用本公开的听觉模型的评估方案,可以根据人脑听觉系统对目标音频数据的听觉响应信号所对应的各脑区,对通过将所述目标音频数据输入到目标听觉模型得到的第一声学特征进行划分,得到与听觉响应信号对应的第二声学特征,从而可以基于第二声学特征和听觉响应信号,对听觉模型的类脑特性进行评估,如此,可以考虑到人类听觉相关的脑区,对模型输出的声学特征进行划分,分析该声学特征与各脑区的对应性,使得该声学特征与听觉响应信号更具有可比性,从而有利于将模型的声学特征与人脑听觉系统的听觉响应信号进行更细致的分析和比较,评估听觉模型的类脑特性。

15、应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。



技术特征:

1.一种听觉模型的评估方法,其特征在于,所述评估方法包括:

2.根据权利要求1所述的评估方法,其特征在于,所述第一声学特征包括所述目标听觉模型的各网络层输出的层特征,其中,通过以下方式得到所述第二声学特征:

3.根据权利要求1所述的评估方法,其特征在于,通过以下方式得到所述第二声学特征:

4.根据权利要求3所述的评估方法,其特征在于,所述编码模型通过以下方式训练得到:

5.根据权利要求4所述的评估方法,其特征在于,通过以下方式对所述听觉模型的类脑特性进行评估:

6.根据权利要求1所述的评估方法,其特征在于,所述目标音频数据包括两个音频数据,所述第一声学特征包括多个维度的维度特征,其中,通过以下方式得到所述第二声学特征:

7.根据权利要求6所述的评估方法,其特征在于,通过以下方式对所述听觉模型的类脑特性进行评估:

8.一种听觉模型的评估装置,其特征在于,所述评估装置包括:

9.一种电子设备,其特征在于,所述电子设备包括:

10.一种计算机可读存储介质,其特征在于,当所述计算机可读存储介质中的指令由电子设备的处理器执行时,使得所述电子设备能够执行根据权利要求1至7中任一项所述的听觉模型的评估方法。

11.一种计算机程序产品,包括计算机可执行指令,其特征在于,所述计算机可执行指令被至少一个处理器执行时实现根据权利要求1至7中任一项所述的听觉模型的评估方法。


技术总结
本公开涉及计算机技术领域和人工智能领域,提供一种听觉模型的评估方法及装置、电子设备、存储介质及程序产品,所述评估方法包括:获取针对目标音频数据的第一声学特征和听觉响应信号;根据所述听觉响应信号所对应的各脑区,对所述第一声学特征进行划分,得到与所述听觉响应信号对应的第二声学特征;基于所述第二声学特征和所述听觉响应信号,对所述听觉模型的类脑特性进行评估。本公开可以解决缺乏对听觉模型与人类听觉系统之间的关系和差异的评估方案的问题,可以通过分析声学特征与各脑区的对应性,实现对模型的声学特征与人脑听觉系统的听觉响应信号更细致的分析和比较。

技术研发人员:杜长德,刘澈,何晖光
受保护的技术使用者:中国科学院自动化研究所
技术研发日:
技术公布日:2024/12/17
转载请注明原文地址:https://xbbs.6miu.com/read-29488.html