本发明涉及岩石力学,尤其涉及一种岩石力学大模型构建与知识交互方法。
背景技术:
1、在岩石力学领域,研究人员和工程师需要处理大量复杂的数据和专业知识,以解决实际工程问题。随着以chatgpt为代表的大语言模型的出现,一轮新的研究和应用浪潮被掀起。这些通用大语言模型在自然语言理解和生成方面表现出色,能够实现文本摘要、对话分析等多种功能。然而,岩石力学涉及复杂的实验数据、理论模型和工程案例,通用模型难以涵盖这些特定的专业知识,导致在回答专业问题时表现不佳。通用模型容易生成不符合事实的内容,这在岩石力学领域是尤为危险的,错误信息可能导致工程决策失误,带来严重的安全隐患和经济损失。因此,微调一种专门面向岩石力学领域的大模型显得尤为重要。
2、目前医疗、法律、金融等各个领域从业人员在通用模型的基础上通过持续预训练/指令微调将其应用于各自垂直领域。但这些方法通常需要大量的高质量数据和计算资源,过程复杂且相当耗时。这对于需要快速响应和灵活适应新知识的岩石力学领域而言,显得不够高效和实用。
3、在岩石力学领域,研究人员和工程师需要处理大量复杂的数据和专业知识,以解决实际工程问题。然而,当前岩石力学领域的知识交互仍存在显著缺陷:
4、(1)岩石力学专业知识覆盖不足:岩石力学领域涉及多种实验方法和理论研究,如真三轴力学试验、相似模拟实验、现场测试技术、力学理论、岩爆、大变形等。这些研究数据和知识分散在不同的书籍、文献和实验报告中,通用模型无法系统性地整合和利用,导致在回答岩石力学专业问题时表现不佳,缺乏全面和系统的知识支持。
5、(2)岩石力学知识获取效率低且缺乏关联性:现有的知识获取方法往往依赖于手动查找和筛选,不仅效率低下,而且容易遗漏关键信息。现有知识缺乏关联性,无法实现知识的充分利用和共享,影响研究人员在解决复杂问题时快速、准确地获取相关知识和数据支持。
6、(3)预训练模型的资源消耗大:从头开始训练一个岩石力学大模型需要大量的计算资源和时间。对于大多数科研机构和企业来说,这是一项昂贵且耗时的任务,不适用于需要快速响应和灵活适应新知识的岩石力学领域。
技术实现思路
1、本发明要解决的技术问题是针对上述现有技术的不足,提供一种岩石力学大模型构建与知识交互方法,解决通用大模型在回答岩石力学专业知识时表现不佳,及从头预训练岩石力学大模型资源消耗大等问题,从而提升大模型在岩石力学领域知识问答的能力。
2、为解决上述技术问题,本发明所采取的技术方案是:一种岩石力学大模型构建与知识交互方法,包括以下步骤:
3、步骤1:收集与梳理岩石力学领域的资料数据,获得岩石力学领域的资料文档;
4、首先,明确岩石力学领域的研究方向和实验方法,包括真三轴力学试验、相似模拟实验、现场测试技术、力学理论、岩爆和大变形六大方面;为了确保数据来源的权威性和可靠性,资料收集将涵盖相关领域的书籍、学术论文、研究报告、实验数据和技术规范;
5、在资料梳理过程中,首先对收集到的资料进行系统化整理,按照真三轴力学试验、相似模拟实验、现场测试技术、力学理论、岩爆、大变形六大类进行归档和分类存储,确保资料的系统性和条理性;为了统一数据格式,不同来源的资料将进行格式转换,确保其可读性和一致性;同时,对重复的资料进行去重处理,并查漏补缺,确保资料的完整性和唯一性。
6、为了便于后续的数据处理和知识抽取,对岩石力学相关的实验数据、图表和关键段落进行详细标注和注释,对理论知识进行注释,提取相关的概念和公式;
7、步骤2:对收集和梳理的岩石力学领域的资料文档进行分块与向量化处理;
8、首先,将梳理后的资料文档进行分块处理,即将每个文档分割成若干片段,每个片段包含相对独立的知识单元;
9、在文档分块处理完成后,对每个分块后的文本片段进行向量化处理,捕捉文本片段的语义信息和特征;文本片段向量化处理完成后,将这些向量化后的文本片段存入向量数据库;
10、步骤3:从向量化的文档片段中抽取知识,并生成知识四元组,构建知识图谱;
11、首先利用现有的通用大语言模型识别文档片段中的实体和关系,抽取文档中涉及的所有知识三元组;
12、针对大语言模型设置如下提示内容:
13、假如你是一个岩石力学知识抽取专家,现在需要根据文档内容构建知识图谱,请抽取所有的单跳和多跳三元组;
14、当遇到一个句子时,请拆解成三元组;
15、如果某三元组中的尾实体包含多个属性或特征时,将该三元组分解为多个独立的三元组;
16、请抽取文档中涉及的所有三元组;
17、知识三元组抽取完成后,将进行知识抽取的文档片段作为上下文融入三元组中构成知识四元组;每个知识四元组由四个部分组成:头实体、关系、尾实体和上下文;头实体和尾实体分别代表两个相关的知识点,关系表示这两个实体之间的关联类型,上下文则提供了关系发生的背景信息和语境;
18、在生成知识四元组之后,基于这些四元组构建知识图谱;首先,将所有抽取到的知识四元组进行汇总,消除重复和冗余信息,确保知识的唯一性和准确性;然后,将四元组中的头实体和尾实体作为节点,关系作为边,构建初步的知识图谱;在此基础上,通过语义聚类识别和合并同义或相似的实体和关系,进一步优化图谱结构,提升图谱的完整性和连贯性;
19、步骤4:基于步骤2和步骤3构建的向量数据库以及知识图谱,构建外部知识库,并通过提示工程对现有的通用大语言模型进行微调,增强其在岩石力学领域内的知识交互能力,构建岩石力学领域大模型;
20、1)设计问题提示模板:针对每个具体的知识点和问题类型设计问题提示词,确保问题提示词覆盖岩石力学领域的广泛知识和应用场景;
21、2)检索外部知识库生成训练数据:从外部知识库中提取与问题提示模板匹配的知识片段;对提取的数据进行标注,确保每个提示词对应的答案准确无误;标注过程包括对知识点、公式、实验数据和规则的详细说明,然后生成包含问题提示词和对应答案的训练数据集;
22、3)模型训练:将训练数据输入通用的大语言模型,大语言模型将生成与问题提示词对应的答案;然后对模型生成的答案进行验证,确保其与标注的正确答案一致;
23、步骤5:将构建的岩石力学领域大模型应用于岩石力学领域的知识交互系统,通过分类处理不同类型的问题,并利用外部知识库,提供精准的答案和专业的知识支持;
24、所述知识交互系统包括分类模块、文档问答模块、数学问答模块和规则判别模块,这些模块通过分类处理不同类型的问题,并利用外部知识库,提供精准的答案和专业的知识支持;
25、所述分类模块使用岩石力学领域大模型对用户输入的问题进行解析,抽取出与岩石力学相关的实体和专业术语;并根据抽取的实体和术语,使用预定义的分类规则将问题归类为文档问答、数学问答或规则判别;所述分类规则为如下提示词:“如果问题中包含计算相关的术语和公式,则归类为数学问答;如果涉及具体规范或判断规则,则归类为规则判别;其他涉及解释或描述的则归类为文档问答;”
26、所述文档问答模块基于知识图谱和向量数据库针对文档问答问题进行检索;对于用户提出的文档问答问题,首先在知识图谱中进行相关实体及其关系的检索;然后基于抽取出的实体与外部知识库中的知识图谱中实体进行语义相似度匹配;实体匹配成功后依据关系进行四元组检索;将检索后的四元组去掉”,”后拼接,并将其与原问题进行拼接,然后将拼接后的文本输入到岩石力学领域大模型中,以生成精准的答案;
27、若知识图谱中未能找到相关内容,则基于向量数据库进行相似度检索;将检索到的相似内容与原问题进行拼接,输入到岩石力学领域大模型中生成答案;
28、所述数学问答模块针对数学问答问题进行方法和公式识别,并进行公式计算与结果生成;
29、针对用户输入的数学问题,岩石力学领域大模型将解析问题,提取出需要计算的公式名称和相关参数;然后,将根据该内容在向量数据库中检索相关公式及描述,确保匹配正确的公式和方法;根据检索到的公式和匹配的参数,进行公式计算;
30、所述规则判别模块针对规则判决问题进行规则检索;对于涉及规则判别的问题,岩石力学领域大模型会解析用户的问题,结合在外部知识库中检索到的规则进行综合判断,做出回答。
31、本发明提供了一种岩石力学大模型构建与知识交互方法,旨在提升大模型在岩石力学领域知识问答的能力,具体包括以下关键点:
32、(1)提升岩石力学专业知识集成效率:
33、资料收集与梳理:全面且系统化地收集并梳理岩石力学领域的书籍、文献和实验数据,涵盖真三轴力学试验、相似模拟实验、现场测试技术、力学理论、岩爆、大变形等六大方面。
34、文档分块与向量化:将文档进行分块处理,将每个文档分割成若干片段,并对这些片段进行向量化处理,存入向量数据库,以便高效检索。
35、知识图谱构建:从向量化的文档片段中抽取知识,生成知识四元组(头实体、关系、尾实体、上下文),构建知识图谱,结构化地存储知识关系,挖掘知识关联性,提升知识管理和检索的效率。
36、外部知识库整合:将向量数据库与知识图谱整合,形成一个覆盖全面的外部知识库,为模型提供丰富且结构化的领域知识支持。
37、(2)增强大模型在岩石力学领域的知识交互能力:
38、提示工程:通过提示工程,设计适用于岩石力学领域的提示模板,引导通用大语言模型关注特定的知识点和问题类型,从而构建适用于岩石力学领域的大模型。此方法避免了从头开始训练预训练模型所需的大量计算资源和时间,提供了一种高效、经济的解决方案。
39、(3)多种知识交互功能:
40、分类模块设计:利用大语言模型抽取问题实体,对用户提出的问题进行分类,分别对应文档问答、数学问答及规则判别功能。
41、文档问答模块:基于知识图谱检索:对于用户提出的问题,首先基于知识图谱进行相关实体及关系的检索,将检索到的内容与原问题拼接,送入llm以输出精准答案。基于向量数据库相似度检索:若知识图谱检索未能找到相关内容,则基于向量数据库进行相似度检索,将检索到的相似内容与原问题拼接,送入llm以输出精准答案。
42、数学问答模块:方法和公式识别:识别用户提出的问题中的具体方法和公式需求,基于向量数据库检索相关公式及描述。公式计算与结果生成:根据检索到的公式和用户提供的参数,进行公式计算,并将计算结果与相关描述一同返回给用户。
43、规则判别模块:规则检索:对于涉及规则判别的问题,检索向量数据库中的相关内容进行匹配。结果生成:根据匹配结果输出规则判别的结论,并解释判别的依据和过程。
44、采用上述技术方案所产生的有益效果在于:本发明提供的一种岩石力学大模型构建与知识交互方法,通过构建岩石力学领域大模型,实现了以下显著效果:
45、(1)岩石力学知识集成:
46、通过系统化地收集和梳理岩石力学领域的专业知识,涵盖真三轴力学试验、相似模拟实验、现场测试技术、力学理论、岩爆、大变形等多种实验方法和理论研究,基于向量数据库和知识图谱,构建了全面且系统的外部知识库,系统化地存储和管理知识,从而提升了知识检索和应用的效率。
47、(2)岩石力学专业知识问答:
48、本发明的文档问答模块能够从系统化的外部知识库中检索岩石力学专业知识,增强大模型领域知识问答能力,生成详细且准确的答案。文档问答模块通过知识图谱和向量数据库的结合,实现了对专业问题的高效查询和精准回答,显著提升了研究人员在岩石力学领域的工作效率和决策准确性。
49、(3)数学问答:
50、本发明的数学问答模块能够识别和计算岩石力学领域的复杂力学公式,提供准确的数学计算结果,支持真三轴力学试验、岩石应力分析、大变形计算等具体应用场景。数学问答模块通过提供准确的数学计算结果和实时解答,研究人员可以实时获取岩石力学复杂力学问题的解答,避免了手动计算的繁琐,提高了工作效率。
51、(4)规则判别:
52、本发明的规则判别模块在岩石力学领域的多个关键应用场景中发挥了重要作用,通过在岩爆等级判断、试验结果判定、岩体分类等方面提供精准判别,显著提升了工程决策的科学性、合理性和安全性,有效保障了工程的长期稳定和安全,为研究人员和工程师提供了强大的技术支持。
1.一种岩石力学大模型构建与知识交互方法,其特征在于:包括以下步骤:
2.根据权利要求1所述的一种岩石力学大模型构建与知识交互方法,其特征在于:所述步骤1的具体方法为:
3.根据权利要求1所述的一种岩石力学大模型构建与知识交互方法,其特征在于:所述步骤2首先将梳理后的资料文档进行分块处理,即将每个文档分割成若干片段,每个片段包含相对独立的知识单元;
4.根据权利要求1所述的一种岩石力学大模型构建与知识交互方法,其特征在于:所述步骤3首先利用现有的通用大语言模型识别文档片段中的实体和关系,抽取文档中涉及的所有知识三元组;
5.根据权利要求4所述的一种岩石力学大模型构建与知识交互方法,其特征在于:所述步骤3抽取文档中涉及的所有知识三元组时,针对大语言模型设置如下提示内容:
6.根据权利要求1所述的一种岩石力学大模型构建与知识交互方法,其特征在于:所述步骤4的具体方法为:
7.根据权利要求6所述的一种岩石力学大模型构建与知识交互方法,其特征在于:步骤5所述知识交互系统包括分类模块、文档问答模块、数学问答模块和规则判别模块,这些模块通过分类处理不同类型的问题,并利用外部知识库,提供精准的答案和专业的知识支持;
8.根据权利要求7所述的一种岩石力学大模型构建与知识交互方法,其特征在于:所述分类规则为如下提示词:“如果问题中包含计算相关的术语和公式,则归类为数学问答;如果涉及具体规范或判断规则,则归类为规则判别;其他涉及解释或描述的则归类为文档问答;”。
