一种基于结构化配置文件编排大模型应用的方法与流程

专利2025-10-08  5


本发明涉及人工智能开发平台,尤其涉及一种基于结构化配置文件编排大模型应用的方法。


背景技术:

1、目前存在的问题为,循环逻辑处理缺失:传统dag架构难以直接支持循环迭代过程,如react流程中的核心需求,导致大模型应用编排或agent编排流程设计受限,无法充分表达复杂业务逻辑;

2、排错与理解难度高:现有方法下,组件与模块执行逻辑不够清晰,pipeline执行器需处理众多边edge情况,导致pipeline结构复杂且难以阅读,极大地增加了排错和维护的难度;

3、开发体验不佳:在包含环的pipeline中,核心逻辑(如条件判断和循环)被过度分散到图的边上,增加了定义难度,同时处理可选值和默认值的逻辑也变得异常复杂。此外,大模型应用编排或agent编排的开发人员被迫采用不直观的方式定义节点间的通信,降低了开发效率;

4、系统复杂性与依赖性增强:随着pipeline复杂度的提升,pipeline执行器的实现难度急剧增加,需应对更多边缘情况,系统整体的复杂性和组件间的依赖性也随之上升。


技术实现思路

1、本发明的目的在于针对上述现有技术的不足,提供了一种基于结构化配置文件编排大模型应用的方法,引入事件驱动模式,彻底改变了图流程的调度方式,将焦点从图的边转移到组件如何订阅和处理事件上。不仅简化了组件间的交互逻辑,还极大地降低了系统的复杂度和依赖关系。

2、为实现上述目的,本发明采用了如下技术方案:

3、一种基于结构化配置文件编排大模型应用的方法,包括以下步骤:

4、s1、解析结构化配置文件,校验合法性;

5、s2、将解析合法的内容转化为抽象语法树;

6、s3、执行引擎根据抽象语法树执行流程,并对流程进行观测;

7、s4、获取运行结果,返回给使用方;

8、s5、根据反馈,编排优化大模型应用或者agent。

9、进一步,所述s1具体为:

10、s101、设计高效且健壮的配置文件解析模块;

11、s102、解析过程开始于读取配置文件内容,随后利用专门的库进行语法解析;

12、s103、实施自定义规则校验,以确保数据结构的合法性和完整性。

13、进一步,所述s2具体为:根据配置文件的内容动态构建抽象语法树ast,每个节点代表一个操作或条件判断,节点之间的连接关系则反映了操作或条件的执行顺序和依赖关系。

14、进一步,所述s3具体为:

15、s301、设计一个灵活的执行引擎,以负责根据抽象语法树ast定义的流程以及每次运行的具体参数来执行相应的操作;

16、s302、解析抽象语法树ast,确定操作的执行顺序和条件判断的逻辑;

17、s303、根据当前运行的参数值,动态地决定哪些操作需要执行,哪些条件判断为真或假。

18、进一步,所述s4具体为:

19、s401、当所述执行引擎完成所有定义的操作后,会收集并整理运行结果;

20、s402、所述执行引擎会将结果封装成易于理解和使用的格式,并通过适当的通信协议返回给使用方,在返回结果之前,所述执行引擎还会进行必要的验证和清理工作,以确保返回的数据是完整、准确且安全的。

21、进一步,所述s5具体为:

22、s501、涉及一个闭环的反馈与调制机制;

23、s502、收到运行结果后,根据实际需求对结果进行评估,并给出相应的反馈意见;

24、s503、接收到反馈后,进行详细的评估和分析,以确定问题的根源和解决方案,并根据评估结果对配置文件的编排进行调整和优化

25、本发明的有益效果为:在于保证支持大模型应用编排和agent编排的前提下,针对当前agent流程设计中标准有向无环图(dag)在处理复杂逻辑,尤其是循环逻辑时的局限性,旨在通过重塑流程执行模式,优化agent流程的定义、执行与管理,从而显著提升基于llm(大型语言模型)应用的开发效率、可扩展性和运行稳定性。



技术特征:

1.一种基于结构化配置文件编排大模型应用的方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种基于结构化配置文件编排大模型应用的方法,其特征在于,所述s1具体为:

3.根据权利要求2所述的一种基于结构化配置文件编排大模型应用的方法,其特征在于,所述s2具体为:根据配置文件的内容动态构建抽象语法树ast,每个节点代表一个操作或条件判断,节点之间的连接关系则反映了操作或条件的执行顺序和依赖关系。

4.根据权利要求3所述的一种基于结构化配置文件编排大模型应用的方法,其特征在于,所述s3具体为:

5.根据权利要求4所述的一种基于结构化配置文件编排大模型应用的方法,其特征在于,所述s4具体为:

6.根据权利要求5所述的一种基于结构化配置文件编排大模型应用的方法,其特征在于,所述s5具体为:


技术总结
本发明提供一种基于结构化配置文件编排大模型应用的方法,包括解析结构化配置文件,校验合法性;将解析合法的内容转化为抽象语法树;执行引擎根据抽象语法树执行流程,并对流程进行观测;获取运行结果,返回给使用方;根据反馈,编排优化大模型应用或者Agent;旨在通过重塑流程执行模式,优化Agent流程的定义、执行与管理,从而显著提升基于LLM应用的开发效率、可扩展性和运行稳定性。

技术研发人员:王龙
受保护的技术使用者:语联网(武汉)信息技术有限公司
技术研发日:
技术公布日:2024/12/17
转载请注明原文地址:https://xbbs.6miu.com/read-27216.html