一种基于人工智能的阶段性训练制定方法及系统

专利2025-04-03  47


本发明涉及数据处理,尤其涉及一种基于人工智能的阶段性训练制定方法及系统。


背景技术:

1、在现有的人工智能模型训练过程中,大多数方法依赖于单一的学习率策略和固定的训练计划,这种方法在面对复杂的数据集和多样化的应用需求时往往表现出局限性。特别是对于那些需要进行多阶段训练的任务,如预训练-微调、特征提取-端到端训练等,传统的训练方法缺乏足够的灵活性来适应不同阶段的需求变化,这可能导致模型性能不佳或训练效率低下。


技术实现思路

1、本发明实施例提供一种基于人工智能的阶段性训练制定方法及系统,能够至少解决现有技术中传统的训练方法缺乏足够的灵活性来适应不同阶段的需求变化的技术问题。

2、本发明实施例的第一方面,提供了一种基于人工智能的阶段性训练制定方法,包括:

3、获取训练目标和数据集特性;

4、根据所述训练目标和数据集特性,生成训练计划草案,所述训练计划草案包括阶段划分、各阶段的学习率策略、数据增强策略以及模型评估标准;

5、基于所述训练计划草案,初始化一个或多个神经网络模型,并为每个阶段分配相应的训练资源;

6、在每个阶段开始前,根据上一阶段的训练结果调整当前阶段的训练参数,所述调整至少包括学习率调整、正则化参数调整或数据增强策略调整;

7、在每个阶段结束时,评估模型性能,并根据评估结果决定是否进入下一阶段或重复当前阶段的训练。

8、进一步地,所述获取训练目标和数据集特性包括:

9、确定训练目标,所述训练目标至少包括模型的预期用途、性能指标、训练时间限制等;

10、分析数据集特性,所述数据集特性至少包括数据集规模、数据分布、类别不平衡程度、噪声水平等。

11、进一步地,所述根据所述训练目标和数据集特性,生成训练计划草案包括:

12、根据所述训练目标和数据集特性,确定阶段划分策略,所述阶段划分策略至少包括模型预训练阶段、特征提取阶段、端到端训练阶段等;

13、针对每个阶段,设定相应的学习率策略、数据增强策略、模型优化策略等。

14、进一步地,所述在每个阶段开始前,根据上一阶段的训练结果调整当前阶段的训练参数包括:

15、根据上一阶段模型性能评估结果,调整当前阶段的学习率策略,所述学习率策略调整至少包括学习率衰减、学习率回弹等;

16、根据上一阶段模型性能评估结果,调整当前阶段的正则化参数,所述正则化参数调整至少包括权重衰减系数、dropout比例;

17、根据上一阶段模型性能评估结果,调整当前阶段的数据增强策略,所述数据增强策略调整至少包括旋转角度、缩放比例、剪切比例。

18、进一步地,所述在每个阶段结束时,评估模型性能包括:

19、使用验证集对模型进行评估,所述评估至少包括准确率、召回率、f1分数;

20、根据评估结果判断是否满足进入下一阶段的标准,所述标准至少包括性能指标阈值、收敛速度。

21、进一步地,还包括:

22、在整个训练过程中,定期保存模型快照,以便于恢复训练或进行模型融合;

23、训练结束后,对最终模型进行综合评估,并根据评估结果进行必要的超参数微调。

24、进一步地,所述根据所述训练目标和数据集特性,生成训练计划草案还包括:

25、利用动态学习率调整策略,所述动态学习率调整策略通过以下公式计算学习率:

26、

27、其中,η(t)表示在时间t的学习率;ηmax是最大学习率;lv(t)是第t次训练迭代时验证集上的损失函数值;lthreshold是损失函数阈值;α和β控制损失函数对学习率的影响程度和速度;γ和δ控制训练进度对学习率的影响程度和速度;epoch当前训练轮次;e总训练轮次。

28、第二方面,本发明实施例还提供了一种基于人工智能的阶段性训练制定装置,包括:

29、获取模块,用于获取训练目标和数据集特性;

30、生成模块,用于根据所述训练目标和数据集特性,生成训练计划草案,所述训练计划草案包括阶段划分、各阶段的学习率策略、数据增强策略以及模型评估标准;

31、初始化模块,用于基于所述训练计划草案,初始化一个或多个神经网络模型,并为每个阶段分配相应的训练资源;

32、在学习模块,用于每个阶段开始前,根据上一阶段的训练结果调整当前阶段的训练参数,所述调整至少包括学习率调整、正则化参数调整或数据增强策略调整;

33、评估模块,用于在每个阶段结束时,评估模型性能,并根据评估结果决定是否进入下一阶段或重复当前阶段的训练。

34、第三方面,本发明实施例还提供了一种电子装置,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行第以方面任一所述的基于人工智能的阶段性训练制定。

35、第四方面,本发明实施例还提供了一种可读存储介质,所述可读存储介质中存储有计算机程序,所述计算机程序包括用于控制过程以执行过程的程序代码,所述过程包括第一方面任一所述的基于人工智能的阶段性训练制定

36、本发明实施例通过获取训练目标和数据集特性;根据所述训练目标和数据集特性,生成训练计划草案,所述训练计划草案包括阶段划分、各阶段的学习率策略、数据增强策略以及模型评估标准;基于所述训练计划草案,初始化一个或多个神经网络模型,并为每个阶段分配相应的训练资源;在每个阶段开始前,根据上一阶段的训练结果调整当前阶段的训练参数,所述调整至少包括学习率调整、正则化参数调整或数据增强策略调整;在每个阶段结束时,评估模型性能,并根据评估结果决定是否进入下一阶段或重复当前阶段的训练可以有效地提高模型训练的效率和质量,同时确保资源的有效利用。这种方法的灵活性和自适应性使得它能够很好地适应各种复杂的训练任务和数据集特性。

37、本发明实施例的有益效果可以参考具体实施方式中技术特征对应的技术效果,在此不再赘述。



技术特征:

1.一种基于人工智能的阶段性训练制定方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述获取训练目标和数据集特性包括:

3.根据权利要求1所述的方法,其特征在于,所述根据所述训练目标和数据集特性,生成训练计划草案包括:

4.根据权利要求3所述的方法,其特征在于,所述在每个阶段开始前,根据上一阶段的训练结果调整当前阶段的训练参数包括:

5.根据权利要求1所述的方法,其特征在于,所述在每个阶段结束时,评估模型性能包括:

6.根据权利要求1所述的方法,其特征在于,还包括:

7.根据权利要求1所述的方法,其特征在于,所述根据所述训练目标和数据集特性,生成训练计划草案还包括:

8.一种基于人工智能的阶段性训练制定装置,其特征在于,包括:

9.一种电子装置,包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,所述处理器被设置为运行所述计算机程序以执行权利要求1到7任一所述的基于人工智能的阶段性训练制定。

10.一种可读存储介质,其特征在于,所述可读存储介质中存储有计算机程序,所述计算机程序包括用于控制过程以执行过程的程序代码,所述过程包括根据权利要求1到7任一所述的基于人工智能的阶段性训练制定。


技术总结
本发明提供了一种基于人工智能的阶段性训练制定方法及系统,本发明通过获取训练目标和数据集特性;根据所述训练目标和数据集特性,生成训练计划草案,所述训练计划草案包括阶段划分、各阶段的学习率策略、数据增强策略以及模型评估标准;基于所述训练计划草案,初始化一个或多个神经网络模型,并为每个阶段分配相应的训练资源;在每个阶段开始前,根据上一阶段的训练结果调整当前阶段的训练参数,所述调整至少包括学习率调整、正则化参数调整或数据增强策略调整;在每个阶段结束时,评估模型性能,并根据评估结果决定是否进入下一阶段或重复当前阶段的训练可以有效地提高模型训练的效率和质量,同时确保资源的有效利用。这种方法的灵活性和自适应性使得它能够很好地适应各种复杂的训练任务和数据集特性。

技术研发人员:董雄,刘生艳,吕一平,贾娟,付欣怡
受保护的技术使用者:山西医科大学
技术研发日:
技术公布日:2024/12/17
转载请注明原文地址:https://xbbs.6miu.com/read-23066.html