本申请涉及人工智能,特别涉及一种模型训练方法、装置、系统及程序产品。
背景技术:
1、随着人工智能技术的发展,人们的社会生活方式正在经历一场深刻的变革,这项前沿技术正在各个行业展示出巨大的潜力。以大语言模型为例,其在处理自然语言文本任务和生成式任务上具有得天独厚的优势。将其与网约车做单任务相结合,能够提示司机在特定时间前往订单较多的地区进行客运。一方面,能够环节局部地区人流压力;另一方面,能够提高司机接单成功率。而对于司机驾驶行为进行建模,通常采用深度网络处理所涉及的海量数据,但当前主流的深度网络难以从数据中提取复杂的出行特征;对于各种出行特征之间的关联性难以有效表达。因此,如何有效地训练一个推荐司机做单的模型,是亟待解决的问题。
技术实现思路
1、为了解决训练一个推荐司机做单模型的问题,本申请提供以下技术方案:
2、第一方面,提供一种模型训练方法,包括:
3、响应于被训练模型的损失值大于预设损失值,进行模型训练;
4、根据原始出行数据,获得相应的词嵌入输出,其中,词嵌入输出包括至少一个词嵌入输出元素;
5、将至少一个词嵌入输出元素作为节点,构建计算图,并基于计算图确定出行词;
6、根据出行词,确定出行词预测值;
7、根据出行词预测值计算被训练模型损失值,通过反向传播更新模型参数。
8、进一步地,确定出行词包括:
9、根据:
10、
11、确定出行词,其中,t为出行词,i、j为整数,表示计算图中的节点编号,n为计算图中的节点数量,ei为计算图中第i节点对应的词嵌入输出元素,aij为计算图中第i节点与第j节点的相关性权重,v(i)是与第i节点相邻的节点集合。
12、进一步地,确定计算图中第i节点对应的词嵌入输出元素包括:
13、初始化计算图;
14、从初始化后的计算图中挑选至少一个节点,获取所挑选的至少一个节点中每个节点的邻居节点,组成邻居节点集合,其中,邻居节点为与所挑选节点中任一节点之间存在相关性权重的节点;
15、聚合邻居节点集合中的节点,获得计算图中任一节点的节点特性;
16、根据计算图中任一节点的节点特性,通过第一激活函数确定计算图中任一节点的词嵌入输出。
17、进一步地,确定计算图中第i节点与第j节点的相关性权重包括:
18、使用权重矩阵分别对计算图中任一节点,以及计算图中任一节点所对应的邻居节点进行变换,并将相应的变换结果进行拼接;
19、采用第二激活函数对拼接后的变换结果进行非线性变换,获得注意力机制权重;
20、规范化注意力机制权重,并将规范化后的注意力机制权重作为计算图中第i节点与第j节点的相关性权重。
21、进一步地,根据出行词,确定出行词预测值,包括:
22、获取出行词的位置编码,与出行词相加得到相应的出行数据,其中,位置编码用于表示对应出行词的稠密程度;
23、采样出行词历史数据生成出行词时间序列,其中,出行词历史数据对应于历史数据采集时刻的出行词数据;
24、基于出行数据以及出行词时间序列预测下一时刻的出行词。
25、进一步地,根据出行词预测值计算被训练模型损失值,通过反向传播更新模型参数,包括:
26、使用至少一个分类器处理出行数据,得到至少一个损失值,其中,至少一个损失值与出行数据的至少一个出行特征相对应;
27、根据至少一个出行特征中正负样本的易区分程度,确定至少一个出行特征的出行特征权重;
28、根据:
29、
30、确定损失值,其中,l为损失值,la为第a个出行特征对应的损失值,为第a个损失值的权重,a为出行特征编号,n为出行特征总数。
31、进一步地,根据原始出行数据,获得相应的词嵌入输出,包括:
32、s210:基于业务逻辑处理原始出行数据,得到原始出行数据标识,其中,业务逻辑用于将原始出行数据转换为计算机可识别、可处理标识的处理逻辑;
33、s220:对原始出行数据标识进行独热编码,得到出行编码数据;
34、s230:基于词嵌入层处理出行编码数据,得到与出行编码数据对应的词嵌入输出。
35、第二方面,提供一种模型训练装置,包括:
36、训练判断模块,用于响应于被训练模型的损失值大于预设损失值,进行模型训练;
37、词嵌入获取模块,用于根据原始出行数据,获得相应的词嵌入输出,其中,词嵌入输出包括至少一个词嵌入输出元素;
38、计算图构建模块,用于将至少一个词嵌入输出元素作为节点,构建计算图,并基于计算图确定出行词;
39、出行词预测模块,用于根据出行词,确定出行词预测值;
40、根据出行词预测值计算被训练模型损失值,通过反向传播更新模型参数。
41、第三方面,提供一种模型训练系统,包括存储器、处理器及存储在存储器上并可在处理器上运行的模型训练程序,处理器执行模型训练程序时,实现第一方面记载的模型训练方法。
42、第四方面,提供一种计算机可读存储介质,其上存储有模型训练程序,模型训练程序被处理器执行时,实现第一方面记载的模型训练方法。
43、第五方面,提供一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现第一方面记载的模型训练方法。
44、本申请实施例提供的技术方案带来的有益效果是:
45、通过实施本申请实施例公开的一种模型训练方法、装置、系统及程序产品,能够训练得到推荐司机做单的模型。该模型通过学习能够向网约车司机推荐接单成功率高的行驶线路,提高网约车司机的接单成功率。
1.一种模型训练方法,其特征在于,包括:
2.根据权利要求1所述的模型训练方法,其特征在于,所述确定出行词包括:
3.根据权利要求2所述的模型训练方法,其特征在于,确定所述计算图中第i节点对应的词嵌入输出元素包括:
4.根据权利要求2所述的模型训练方法,其特征在于,确定所述计算图中第i节点与第j节点的相关性权重包括:
5.根据权利要求1所述的模型训练方法,其特征在于,所述根据所述出行词,确定出行词预测值,包括:
6.根据权利要求1所述的模型训练方法,其特征在于,所述根据所述出行词预测值计算被训练模型损失值,通过反向传播更新模型参数,包括:
7.根据权利要求1所述的模型训练方法,其特征在于,所述根据原始出行数据,获得相应的词嵌入输出,包括:
8.一种模型训练装置,其特征在于,包括:
9.一种模型训练系统,其特征在于,包括存储器、处理器及存储在存储器上并可在处理器上运行的模型训练程序,所述处理器执行所述模型训练程序时,实现权利要求1至7任一项所述的模型训练方法。
10.一种计算机程序产品,其特征在于,包括计算机程序,所述计算机程序被处理器执行时,实现权利要求1-7任一项所述的模型训练方法。
