一种模型训练方法、装置、系统及程序产品与流程

专利2026-02-13  19


本申请涉及人工智能,特别涉及一种模型训练方法、装置、系统及程序产品。


背景技术:

1、随着人工智能技术的发展,人们的社会生活方式正在经历一场深刻的变革,这项前沿技术正在各个行业展示出巨大的潜力。以大语言模型为例,其在处理自然语言文本任务和生成式任务上具有得天独厚的优势。将其与网约车做单任务相结合,能够提示司机在特定时间前往订单较多的地区进行客运。一方面,能够环节局部地区人流压力;另一方面,能够提高司机接单成功率。而对于司机驾驶行为进行建模,通常采用深度网络处理所涉及的海量数据,但当前主流的深度网络难以从数据中提取复杂的出行特征;对于各种出行特征之间的关联性难以有效表达。因此,如何有效地训练一个推荐司机做单的模型,是亟待解决的问题。


技术实现思路

1、为了解决训练一个推荐司机做单模型的问题,本申请提供以下技术方案:

2、第一方面,提供一种模型训练方法,包括:

3、响应于被训练模型的损失值大于预设损失值,进行模型训练;

4、根据原始出行数据,获得相应的词嵌入输出,其中,词嵌入输出包括至少一个词嵌入输出元素;

5、将至少一个词嵌入输出元素作为节点,构建计算图,并基于计算图确定出行词;

6、根据出行词,确定出行词预测值;

7、根据出行词预测值计算被训练模型损失值,通过反向传播更新模型参数。

8、进一步地,确定出行词包括:

9、根据:

10、

11、确定出行词,其中,t为出行词,i、j为整数,表示计算图中的节点编号,n为计算图中的节点数量,ei为计算图中第i节点对应的词嵌入输出元素,aij为计算图中第i节点与第j节点的相关性权重,v(i)是与第i节点相邻的节点集合。

12、进一步地,确定计算图中第i节点对应的词嵌入输出元素包括:

13、初始化计算图;

14、从初始化后的计算图中挑选至少一个节点,获取所挑选的至少一个节点中每个节点的邻居节点,组成邻居节点集合,其中,邻居节点为与所挑选节点中任一节点之间存在相关性权重的节点;

15、聚合邻居节点集合中的节点,获得计算图中任一节点的节点特性;

16、根据计算图中任一节点的节点特性,通过第一激活函数确定计算图中任一节点的词嵌入输出。

17、进一步地,确定计算图中第i节点与第j节点的相关性权重包括:

18、使用权重矩阵分别对计算图中任一节点,以及计算图中任一节点所对应的邻居节点进行变换,并将相应的变换结果进行拼接;

19、采用第二激活函数对拼接后的变换结果进行非线性变换,获得注意力机制权重;

20、规范化注意力机制权重,并将规范化后的注意力机制权重作为计算图中第i节点与第j节点的相关性权重。

21、进一步地,根据出行词,确定出行词预测值,包括:

22、获取出行词的位置编码,与出行词相加得到相应的出行数据,其中,位置编码用于表示对应出行词的稠密程度;

23、采样出行词历史数据生成出行词时间序列,其中,出行词历史数据对应于历史数据采集时刻的出行词数据;

24、基于出行数据以及出行词时间序列预测下一时刻的出行词。

25、进一步地,根据出行词预测值计算被训练模型损失值,通过反向传播更新模型参数,包括:

26、使用至少一个分类器处理出行数据,得到至少一个损失值,其中,至少一个损失值与出行数据的至少一个出行特征相对应;

27、根据至少一个出行特征中正负样本的易区分程度,确定至少一个出行特征的出行特征权重;

28、根据:

29、

30、确定损失值,其中,l为损失值,la为第a个出行特征对应的损失值,为第a个损失值的权重,a为出行特征编号,n为出行特征总数。

31、进一步地,根据原始出行数据,获得相应的词嵌入输出,包括:

32、s210:基于业务逻辑处理原始出行数据,得到原始出行数据标识,其中,业务逻辑用于将原始出行数据转换为计算机可识别、可处理标识的处理逻辑;

33、s220:对原始出行数据标识进行独热编码,得到出行编码数据;

34、s230:基于词嵌入层处理出行编码数据,得到与出行编码数据对应的词嵌入输出。

35、第二方面,提供一种模型训练装置,包括:

36、训练判断模块,用于响应于被训练模型的损失值大于预设损失值,进行模型训练;

37、词嵌入获取模块,用于根据原始出行数据,获得相应的词嵌入输出,其中,词嵌入输出包括至少一个词嵌入输出元素;

38、计算图构建模块,用于将至少一个词嵌入输出元素作为节点,构建计算图,并基于计算图确定出行词;

39、出行词预测模块,用于根据出行词,确定出行词预测值;

40、根据出行词预测值计算被训练模型损失值,通过反向传播更新模型参数。

41、第三方面,提供一种模型训练系统,包括存储器、处理器及存储在存储器上并可在处理器上运行的模型训练程序,处理器执行模型训练程序时,实现第一方面记载的模型训练方法。

42、第四方面,提供一种计算机可读存储介质,其上存储有模型训练程序,模型训练程序被处理器执行时,实现第一方面记载的模型训练方法。

43、第五方面,提供一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现第一方面记载的模型训练方法。

44、本申请实施例提供的技术方案带来的有益效果是:

45、通过实施本申请实施例公开的一种模型训练方法、装置、系统及程序产品,能够训练得到推荐司机做单的模型。该模型通过学习能够向网约车司机推荐接单成功率高的行驶线路,提高网约车司机的接单成功率。



技术特征:

1.一种模型训练方法,其特征在于,包括:

2.根据权利要求1所述的模型训练方法,其特征在于,所述确定出行词包括:

3.根据权利要求2所述的模型训练方法,其特征在于,确定所述计算图中第i节点对应的词嵌入输出元素包括:

4.根据权利要求2所述的模型训练方法,其特征在于,确定所述计算图中第i节点与第j节点的相关性权重包括:

5.根据权利要求1所述的模型训练方法,其特征在于,所述根据所述出行词,确定出行词预测值,包括:

6.根据权利要求1所述的模型训练方法,其特征在于,所述根据所述出行词预测值计算被训练模型损失值,通过反向传播更新模型参数,包括:

7.根据权利要求1所述的模型训练方法,其特征在于,所述根据原始出行数据,获得相应的词嵌入输出,包括:

8.一种模型训练装置,其特征在于,包括:

9.一种模型训练系统,其特征在于,包括存储器、处理器及存储在存储器上并可在处理器上运行的模型训练程序,所述处理器执行所述模型训练程序时,实现权利要求1至7任一项所述的模型训练方法。

10.一种计算机程序产品,其特征在于,包括计算机程序,所述计算机程序被处理器执行时,实现权利要求1-7任一项所述的模型训练方法。


技术总结
本申请公开一种模型训练方法、装置、系统及程序产品,涉及人工智能技术领域。模型训练方法,包括:响应于被训练模型的损失值大于预设损失值,进行模型训练;根据原始出行数据,获得相应的词嵌入输出,其中,词嵌入输出包括至少一个词嵌入输出元素;将至少一个词嵌入输出元素作为节点,构建计算图,并基于计算图确定出行词;根据出行词,确定出行词预测值;根据出行词预测值计算被训练模型损失值,通过反向传播更新模型参数。通过实施本申请实施例公开的一种模型训练方法、装置、系统及程序产品,能够训练得到推荐司机做单的模型。该模型通过学习能够向网约车司机推荐接单成功率高的行驶线路,提高网约车司机的接单成功率。

技术研发人员:孟晓楠,殷维栋,史武俊,何睿,强琦
受保护的技术使用者:浙江吉利控股集团有限公司
技术研发日:
技术公布日:2024/12/17
转载请注明原文地址:https://xbbs.6miu.com/read-29690.html