本发明涉及推荐,特别涉及一种考虑多维度用户偏好的神经协同过滤推荐模型。
背景技术:
1、推荐系统能够充分分析用户的历史行为信息和构建相应推荐模型来预测用户偏好,并向其推送最有可能感兴趣的内容,这一过程有效地缓解了信息过载问题,提升了用户使用产品的体验。基于深度神经网络的协同过滤方法,因其具有强大的非线性转化能力和学习能力,能够较充分地发掘数据中蕴含的低阶与高阶特征,成为了当前最为流行的非线性推荐算法之一,具有良好的应用潜力。
2、但是由于推荐领域的数据非常稀疏且各用户的数据差异很大,在使用深度学习模型捕捉数据的高阶特征时很容易出现梯度异常的问题。同时,在融合数据的高阶特征和低阶特征时,当前的研究鲜有考虑用户的个性化偏好,并且大多数研究忽略了显式信息(如评分、评论等)对用户偏好程度的影响,使得模型无法很好地兼顾用户购买意愿和兴趣偏好的一致性与可靠性。因此,设计一种考虑多维度用户偏好的神经协同过滤推荐模型,使其能够有效的融合模型中的各类特征并兼顾数据中所体现的用户购买意愿和兴趣偏好的一致性和可靠性对于提升推荐算法的性能具有重大意义。
技术实现思路
1、针对上述问题,本发明提出了一种考虑多维度用户偏好的神经协同过滤推荐模型,从融合用户兴趣偏好和行为偏好角度出发,引入picture模糊集概念并结合去噪自编码器建模用户兴趣偏好,同时基于融合注意力机制的残差神经网络建模用户行为偏好,最后通过加权求和融合兴趣偏好和行为偏好。具体包括如下:
2、数据采集及准备模块,用于对数据库中收集的数据进行获取和清洗,以得到需要的原始评分矩阵。
3、兴趣偏好矩阵划分模块,用于对用户偏好程度的划分,引入picture模糊集,将用户对项目的原始评分矩阵分为隶属度p、非隶属度n、犹豫度h和拒绝度r四个矩阵,以此对应用户喜欢、不喜欢、犹豫和拒绝四种偏好状态。
4、兴趣偏好建模模块,用于建模用户对项目的偏好状态,利用去噪自编码器学习用户与项目在各个偏好状态下的特征组合方式,以获得用户对项目在四种状态下的预测得分。
5、兴趣偏好值计算模块,用于对获取到得用户对项目的图片模糊数(四种状态下的预测得分)进行归一化处理,通过记分函数来获得用户对项目的兴趣偏好值。
6、行为偏好建模模块,用于学习用户的行为偏好,其将用户的历史行为信息作为输入,通过融合注意力机制的残差神经网络来学习用户的行为偏好。
7、多维度用户偏好融合模块,整合用户兴趣偏好和用户行为偏好的输出值以得到用户对物品的最终预测值。
8、推荐结果获取模块,对用户对未评分物品的综合预测值进行排序,选取前k个项目以生成用户的推荐物品列表。
9、本发明所述兴趣偏好矩阵划分模块,用于将用户项目评分矩阵划分为即隶属矩阵m、非隶属度n、犹豫度h、拒绝矩阵r。用户u对项目i的评分表示为yu,i,隶属度、非隶属度、犹豫度和拒绝度分别为mu,i、nu,i、hu,i和ru,i。以评分区间为1-5分为例,各兴趣偏好矩阵的设定规则如下:
10、当yu,i>3时,隶属度mu,i=1,相应地,nu,i、hu,i和ru,i为0,表示用户u喜欢项目i;
11、当yu,i<3时,非隶属度nu,i=1,其他值为0,表示用户u不喜欢项目i;
12、当yu,i=3时,犹豫度hu,i=1,其他值为0,表示用户u对项目i持犹豫态度。
13、在所有未评分记录中,采取如下策略对其进行填充。若项目i的历史平均分大于4分,则将隶属度矩阵中对应位置填充为1;4-3分区间,犹豫度矩阵中对应位置填充为1;3-2分区间,非隶属度矩阵中对应位置填充为1;小于2分,则拒绝度矩阵中对应位置填充为1。
14、本发明所述兴趣偏好建模模块,利用去噪自编码器模型去并行训练上述划分四个兴趣偏好矩阵,以预测出每个偏好矩阵中相同空白区域的兴趣偏好。以单个兴趣偏好建模为例,去噪自编码器模型具体如下:
15、以用户u的某一状态下的兴趣偏好记录ru作为输入,通过单层全连接神经网络获取其中的低维特征,并采用线性加权的方式融合各维度特征,生成低维特征向量,计算公式为:
16、
17、式中h表示低维特征向量;ru表示用户历史记录抽象出来的向量表示;和be分别表示编码器中权重参数和偏置参数;σ表示sigmoid函数。
18、随后,解码器对提取到的低维特征向量进行解析,重构用户的兴趣偏好,完成对用户偏好的预测。解码器在结构上也是由单层全连接神经网络构成,计算方式为:
19、
20、此处表示重构后的某一状态下的兴趣偏好,即模型预测结果;h表示编码器生成的低维特征向量;和bd分别表示解码器中权重参数和偏置参数;σ表示sigmoid函数。
21、通过上述去噪自编码器分别对隶属度矩阵p,非隶属度矩阵n,犹豫度矩阵h和拒绝度矩阵r进行学习,构建用户在四个维度上的特征映射关系,最终获得用户对项目的隶属度非隶属度犹豫度和拒绝度
22、本发明所述兴趣偏好值计算模块,通过softmax函数对上一模块获取的用户对项目的四种状态下的预测得分(picture模糊数)进行归一化处理,并通过记分函数来获得用户对项目的兴趣偏好值。具体步骤如下:
23、1)归一化处理,具体计算公式如下:
24、
25、2)利用记分函数计算用户对项目的兴趣偏好值,具体公式如下:
26、
27、本发明所述的行为偏好建模模块,通过融合注意力机制的残差神经网络来学习用户的行为偏好,具体步骤如下:
28、1)建立预处理层对特征向量进行特征重构,提高特征组合多样性。具体计算公式如下:
29、
30、其中,vu,i表示用户和项目嵌入向量的拼接;x表示mlp的输出向量;表示预处理层的输出向量,同时也是下一层网络的输入向量;wp0和wp1表示预处理层的权重矩阵;bp0和bp1表示预处理层的偏置向量。
31、2)残差通道设计,通过建立残差通道的方式,使神经网络中的高阶特征向量能够与较为低阶的特征向量进行融合。同时,神经网络在反向传播过程中,通过更短的残差通道更新权重参数,使靠近输入层的权重得到有效学习,强化对靠近输入层信息的利用。网络中第n(≥2)层隐藏层输出的数学表达式为:
32、
33、其中,wn,bn,fn和hn为全连接神经网络的权重矩阵、偏置向量、激活函数和隐藏层输出,wi,n,bi,n和hi,n为第i层第n层残差通道的权重矩阵、偏置向量和隐藏层输出。
34、3)注意力机制层设计,考虑到不同的特征组合对推荐任务的影响程度不同,在各层残差输入的结合处引入注意力机制模型,注意力层以点积方式计算各隐藏层输入的注意力得分,其数学表达式如公式所示:
35、
36、其中,sn和si,n分别表示和hi,n的注意力得分,向量q表示注意力机制中与任务相关的查询向量。
37、根据注意力得分,注意力机制层通过softmax函数计算隐藏层的注意力分布如公式)所示:
38、
39、对各隐藏层输入进行加权融合,经过激活函数得到该隐藏层的最终状态,数学表达式为:
40、
41、4)行为偏好预测值计算,通过上述融合注意力机制的残差神经网络得到用户u对项目i的行为偏好预测值,具体公式如下:
42、
43、其中,l为神经网络的层数。
44、本发明所述的多维度用户偏好融合模块,用于结合用户兴趣偏好和行为偏好并进行训练。
45、1)利用加权求和的方式结合用户兴趣偏好和用户行为偏好的输出值以得到用户对物品的最终预测值。具体计算公式为:
46、
47、其中,ω1和ω2为权重参数来决定最终任务中两个模块预测值的比重。
48、2)模型损失函数的具体公式如下:
49、
50、其中,yu,i和分别表示隐式反馈矩阵中的真实值和加权融合后的预测值;wpre表示行为偏好提取模块中所有的权值参数;λpre表示正则系数。
51、本发明所述推荐结果获取模块,用于获取目标用户u的推荐列表。对用户未评分项目的综合预测值进行排序,选取前k个项目形成目标用户u的个性化推荐列表。
52、本发明提出的一种考虑多维度用户偏好的神经协同过滤推荐模型,从融合用户兴趣偏好和行为偏好角度出发,引入picture模糊集概念划分用户兴趣偏好,并结合去噪自编码器对其进行用户兴趣偏好建模,同时基于融合注意力机制的残差神经网络,兼顾了模型的记忆能力和泛化能力,保证了用户偏好信息在网络中的有效传递,更好地建模用户行为偏好,最后通过加权求和融合兴趣偏好和行为偏好,提高了模型的推荐质量。
1.一种考虑多维度用户偏好的神经协同过滤推荐模型,用以融合用户兴趣偏好和行为偏好,提高推荐质量,包括如下:
2.如权利要求1所述的一种考虑多维度用户偏好的神经协同过滤推荐模型,其特征在于,所述兴趣偏好矩阵划分模块,用于将用户项目评分矩阵划分为即隶属矩阵m、非隶属度n、犹豫度h、拒绝矩阵r。用户u对项目i的评分表示为yu,i,隶属度、非隶属度、犹豫度和拒绝度分别为mu,i、nu,i、hu,i和ru,i。以评分区间为1-5分为例,各兴趣偏好矩阵的设定规则如下:
3.如权利要求1所述的一种考虑多维度用户偏好的神经协同过滤推荐模型,其特征在于,所述兴趣偏好建模模块,利用去噪自编码器模型去并行训练上述划分四个兴趣偏好矩阵,以预测出每个偏好矩阵中相同空白区域的兴趣偏好。以单个兴趣偏好建模为例,去噪自编码器模型具体如下:
4.如权利要求1所述的一种考虑多维度用户偏好的神经协同过滤推荐模型,其特征在于,所述兴趣偏好值计算模块,通过softmax函数对上一模块获取的用户对项目的四种状态下的预测得分(picture模糊数)进行归一化处理,并通过记分函数来获得用户对项目的兴趣偏好值。具体步骤如下:
5.如权利要求1所述的一种考虑多维度用户偏好的神经协同过滤推荐模型,其特征在于,所述的行为偏好建模模块,通过融合注意力机制的残差神经网络来学习用户的行为偏好,具体步骤如下:
6.如权利要求1所述的一种考虑多维度用户偏好的神经协同过滤推荐模型,多维度用户偏好融合模块,用于结合用户兴趣偏好和行为偏好并进行训练。
7.如权利要求1所述的一种考虑多维度用户偏好的神经协同过滤推荐模型,其特征在于,所述推荐结果获取模块,用于获取目标用户u的推荐列表。对用户未评分项目的综合预测值进行排序,选取前k个项目形成目标用户u的个性化推荐列表。
