基于大模型的事项类型自增长自演化和分类方法

专利2026-02-03  11


本发明涉及人工智能和大模型,具体涉及基于大模型的事项类型自增长自演化和分类方法。


背景技术:

1、在政务服务热线中,市民通过拨打电话、在微信小程序、app、门户网站留言等方式上报诉求信息,接线员根据诉求内容完成案情分类,进而分拨到相关责任单位与处置部门。随着政务服务热线地广泛应用,一方面热线案件受理量与日俱增,人工处置成本日渐增长,在发生社会热议问题时,往往坐席繁忙,难以满足广大市民需求;另一方面由于便民政务热线的案件分类多、类间区分不明显,案件关联部门广,层级复杂,使得实现快速准确的事项类型预测成为亟须解决的难题。

2、目前政务热线事项类型预测的方法主要包括基于规则决策树的方法、基于机器学习的方法以及基于神经网络的方法。现有基于规则决策树的方法对于类别复杂或类别相近的案件分类和分拨准确率较差,现有基于机器学习的方法和基于神经网络的方法对于不同类别的案件分到不同行政层级的部门准确率还不够理想。

3、随着人工智能的发展,大语言模型(large language model,简称llm)进入了人们的视野。大语言模型利用深度学习算法和大规模文本数据进行训练以理解和生成人类语言,将其应用于政务热线的事项类型预测可以带来意想不到的效果。然而,申请人发现,将大语言模型应用于政务热线的事项类型预测时还存在以下问题:1)政务热线涉及的事项类型繁多,分类层次复杂且数量庞大,现有的大语言模型难以适应,导致政务热线事项类型分类的准确性不好。2)政务事项类型会随着政策法规、社会热点等因素的变化而不断发展和演化,导致大语言模型的事项分类目录难以与实际情况保持一致,这同样导致政务热线事项类型分类的准确性不好。因此,如何提高政务热线事项类型分类的准确性时亟需解决的技术问题。


技术实现思路

1、针对上述现有技术的不足,本发明所要解决的技术问题是:如何提供基于大模型的事项类型自增长自演化和分类方法,通过大语言模型结合提示词的方式实现政务热线事项类型的预测,同时对大语言模型进行微调以使其更加专注于政务热线领域,并且通过大语言模型实现事项类型目录的事项类型自增长自演化即更新,从而提高政务热线事项类型预测的时效性和准确性。

2、为了解决上述技术问题,本发明采用了如下的技术方案:

3、基于大模型的事项类型自增长自演化和分类方法,包括:

4、s1:获取待分类的政务热线工单文本;

5、s2:给大语言模型外挂事项类型目录,并构造对应的事项分类提示词;

6、s3:将政务热线工单文本和事项分类提示词输入经过微调的大语言模型中,大语言模型引用事项类型目录来输出政务热线工单文本对应的事项类型;

7、s4:将大语言模型输出的事项类型作为待分类政务热线工单文本的分类结果进行输出;

8、需要定期基于大语言模型更新事项类型目录,更新事项类型目录的具体步骤如下:

9、s501:获取基于分类树构建的事项类型目录;

10、s502:获取未被派单和应答的历史工单文本和对应的事项更新提示词;

11、s503:将历史工单文本和事项更新提示词输入大语言模型中,生成潜在分类关键词;

12、s504:通过潜在分类关键词对事项类型目录执行如下的更新操作:

13、s5041:根据潜在分类关键词从事项类型目录中匹配对应的目标分类子树;

14、s5042:从目标分类子树中确定潜在分类关键词对应的同父子分类节点;通过大语言模型和词汇关系判断提示词判断潜在分类关键词与对应同父子分类节点之间的语义关系:若语义关系差异大,则执行步骤s5043;若语义关系接近,则执行步骤s5044;若语义关系相同,则执行步骤s5045;

15、s5043:基于潜在分类关键词在目标分类子树中生成与对应同父子分类节点并列的新分类节点;

16、s5044:当潜在分类关键词的语义涵盖对应同父子分类节点时,通过潜在分类关键词更新对应同父子分类节点,为对应同父子分类节点生成一个新父分类节点;

17、s5045:不执行任何操作。

18、优选的,步骤s5041中,若从事项类型目录中未匹配到潜在分类关键词对应的目标分类子树,则根据潜在分类关键词生成一个新分类子树并写入事项类型目录中。

19、优选的,步骤s5041中,通过分层感知全局模型从事项类型目录中为潜在分类关键词匹配对应的目标分类子树。

20、优选的,步骤s5042中,当潜在分类关键词的语义未涵盖对应同父子分类节点时,基于潜在分类关键词生成与对应同父子分类节点并列的新子节点。

21、优选的,步骤s5042中,将潜在分类关键词和对应同父子分类节点以及词汇关系判断提示词输入大语言模型中,生成潜在分类关键词与对应同父子分类节点之间的语义关系,语义关系包括语义关系差异大、语义关系接近和语义关系相同。

22、优选的,步骤s3中,对于事项类型目录中长期未被匹配的分类节点,执行节点删除操作。

23、优选的,步骤s3中,为事项类型目录的更新构造如下的智能体:

24、智能体一:通过大语言模型读取事项类型目录,并判断是否需要根据步骤s503中生成的潜在分类关键词执行事项类型目录的更新;当需要执行事项类型目录的更新时,大语言模型调用相应工具执行步骤s5043至s5045的工作流程;

25、智能体二:在步骤s5043和s5044中生成某一级的新分类节点后,通过大语言模型判断该新分类节点是否更适合作为父分类节点;若该新分类节点更适合作为父分类节点,则对事项类型目录进行相应调整;

26、智能体三:通过大语言模型定期检查并删除事项类型目录中长期未被匹配的分类节点。

27、优选的,步骤s3中,通过低秩自适应算法对大语言模型进行微调的步骤如下:

28、s301:确定低秩矩阵的秩r;

29、s302:为大语言模型的每个原始权重矩阵创建两个秩为r的权重矩阵a和b;

30、s303:冻结大语言模型的原始权重矩阵;

31、s304:获取作为训练数据的政务热线工单文本样本及其真实事项类型;其中真实事项类型通过更新后的事项类型目录确定生成;

32、s305:将政务热线工单文本样本输入大语言模型中,输出对应的预测事项类型;

33、s306:基于预测事项类型和对应的真实事项类型结合损失函数计算损失,并反向优化大语言模型中的权重矩阵a和b;

34、s307:重复步骤s304至s306,直至大语言模型收敛或达到预设迭代轮次;

35、s308:将大语言模型的每个原始权重矩阵与其对应权重矩阵a和b的更新量相加,得到最终的权重矩阵,实现大语言模型的微调。

36、本发明还公开了一种计算机设备,包括:一个或多个处理器;

37、所述处理器,用于存储一个或多个程序;

38、当所述一个或多个程序被所述一个或多个处理器执行时,实现本发明中基于大模型的事项类型自增长自演化和分类方法。

39、本发明还公开了一种计算机可读存储介质,其上存有计算机程序,所述计算机程序被执行时,实现本发明中基于大模型的事项类型自增长自演化和分类方法。

40、本发明中基于大模型的事项类型自增长自演化和分类方法与现有技术相比,具有如下有益效果:

41、本发明通过大语言模型结合事项分类提示词实现政务热线的事项类型预测。首先大语言模型预先在海量文本数据上进行了训练,已经掌握了丰富的语言知识和上下文理解能力,结合特定的事项分类提示词,能够更精准地捕捉政务热线工单文本中的关键信息,从而更准确地将政务热线工单分类到对应的事项类型中。其次大语言模型具有良好的泛化能力,能够有效处理各种复杂的语言现象,并且当新的政务事项出现时,只需更新事项分类提示词和事项类型目录即可快速适应新的分类需求,无需重新训练整个模型,从而提高政务热线事项类型预测的灵活性和有效性。最后利用大语言模型进行政务热线事项类型的自动化分类,可以大幅提升处理速度,减少人工干预,提高整体工作效率;并且通过快速准确的事项类型预测,政务热线系统能够更快地响应用户需求,提供更加个性化的服务,不仅可以提升用户满意度,还能增强公众对政务服务的信任感。

42、本发明进一步通过低秩自适应算法对大语言模型进行微调。首先低秩自适应算法通过冻结原始模型参数,添加少量可训练参数,使得模型在保持一定精度的同时,减少了模型的可训练参数量,从而降低计算和存储资源开销。其次微调后的大语言模型更加专注于政务热线领域的特定任务,能够更好地捕捉该领域的语言特征和上下文信息,从而提升模型在处理相关任务时的泛化能力。

43、本发明通过大语言模型实现事项类型目录的事项类型自增长自演化即更新。首先政务事项类型会随着政策法规、社会热点等因素的变化而不断发展和演化,通过不断更新事项类型目录,可以确保分类体系始终与实际情况保持一致,从而保证政务热线事项类型预测的时效性和准确性。其次随着新事项类别的出现和旧事项类别的淘汰,原有的分类体系可能会变得不再适用,本发明通过更新事项类型目录,可以引入新的分类标准和类别,剔除过时的类别,从而提升政务热线事项类型预测的精度。进一步的未被派单和应答的历史工单文本中可能含有当前事项类型目录中不存在的类别,并且其属于政务热线这一领域,因此本发明将未被派单和应答的历史工单文本作为事项类型目录更新的基础数据,能够在有效更新事项类型目录的同时保证事项类型目录依然适用于政务热线领域。最后通过大语言模型实现事项类型目录的事项类型自增长自演化即更新,实际上是一种动态调整大语言模型分类能力的过程,这种动态调整使得大语言模型能够更好地适应外部环境的变化,增强其在复杂多变的政务环境中的适应能力。


技术特征:

1.基于大模型的事项类型自增长自演化和分类方法,其特征在于,包括:

2.如权利要求1所述的基于大模型的事项类型自增长自演化和分类方法,其特征在于:步骤s5041中,若从事项类型目录中未匹配到潜在分类关键词对应的目标分类子树,则根据潜在分类关键词生成一个新分类子树并写入事项类型目录中。

3.如权利要求1所述的基于大模型的事项类型自增长自演化和分类方法,其特征在于:步骤s5041中,通过分层感知全局模型从事项类型目录中为潜在分类关键词匹配对应的目标分类子树。

4.如权利要求1所述的基于大模型的事项类型自增长自演化和分类方法,其特征在于:步骤s5042中,当潜在分类关键词的语义未涵盖对应同父子分类节点时,基于潜在分类关键词生成与对应同父子分类节点并列的新子节点。

5.如权利要求1所述的基于大模型的事项类型自增长自演化和分类方法,其特征在于:步骤s5042中,将潜在分类关键词和对应同父子分类节点以及词汇关系判断提示词输入大语言模型中,生成潜在分类关键词与对应同父子分类节点之间的语义关系,语义关系包括语义关系差异大、语义关系接近和语义关系相同。

6.如权利要求1所述的基于大模型的事项类型自增长自演化和分类方法,其特征在于:步骤s3中,对于事项类型目录中长期未被匹配的分类节点,执行节点删除操作。

7.如权利要求1所述的基于大模型的事项类型自增长自演化和分类方法,其特征在于:步骤s3中,创建智能体所需的数据库操作工具包,为事项类型目录的更新构造如下的智能体:

8.如权利要求1所述的基于大模型的事项类型自增长自演化和分类方法,其特征在于:步骤s3中,通过低秩自适应算法对大语言模型进行微调的步骤如下:

9.一种计算机设备,其特征在于,包括:一个或多个处理器;

10.一种计算机可读存储介质,其特征在于,其上存有计算机程序,所述计算机程序被执行时,实现如权利要求1至8中任意一项所述的基于大模型的事项类型自增长自演化和分类方法。


技术总结
本发明公开了基于大模型的事项类型自增长自演化和分类方法,包括:给大语言模型外挂事项类型目录并构造对应的事项分类提示词;将政务热线工单文本和事项分类提示词输入经过微调的大语言模型中,引用事项类型目录来输出政务热线工单文本对应的事项类型;将大语言模型输出的事项类型作为待分类政务热线工单文本的分类结果进行输出。需要定期基于大语言模型更新事项类型目录。本发明通过大语言模型结合事项分类提示词的方式实现政务热线事项类型的预测,同时对大语言模型进行微调以使其更加专注于政务热线领域,并且通过大语言模型实现事项类型目录的事项类型自增长自演化,从而提高政务热线事项类型预测的时效性和准确性。

技术研发人员:袁青松,唐朝伟,廖成武,王昱昊,胡鹏,汪江,蒋文英
受保护的技术使用者:重庆大学
技术研发日:
技术公布日:2024/12/17
转载请注明原文地址:https://xbbs.6miu.com/read-29354.html