基于大语言模型的学术会议问答系统

专利2026-06-16  12


本发明属于知识问答,具体涉及一种基于大语言模型的学术会议问答系统。


背景技术:

1、学术会议作为学者们交流思想、分享研究成果的重要平台,其数量和规模也在与日俱增。研究人员们迫切需要及时准确地获取会议的相关信息,以洞悉学术前沿动态,发现潜在合作机会,不断提升研究水平。然而,由于现有学术数据量巨大、信息来源分散,获取和理解所需信息存在诸多挑战,亟需智能问答系统的有力辅助。

2、在学术数据科学领域,出现了几个具有里程碑意义的重要数据库,成为学术交流和研究分析的坚实基石,包括:citeseerx、s2orc、unarxiv microsoft academic graph(mag)等。最近又出现了新的多领域基准maple,用于评估科学文献标注的质量,能够深入探讨涉及19个学科的元数据影响。尽管如此,随着文献数据集呈现出越来越多的多样化和大规模化趋势,学术会议问答基准作为学术数据科学不可或缺的重要组成部分,却一直为人所忽视。在缺乏这样的基准数据集的情况下,学术科学数据领域的研究必然是残缺不全的。

3、尽管大型语言模型取得了令人瞩目的成就,但由于其知识库的时效性问题,无法及时回答涉及最新知识的相关问题,这已成为语言模型面临的一大挑战。目前,通过检索增强的方式将外部知识与语言模型相结合,被认为是解决这一难题的可行方案。现有的检索增强方法大致可分为两类:基于非结构化数据和基于结构化数据。

4、对于基于非结构化纯文本的方法,输入会被用作查询,检索器会从语料库中获取一组相关文档(即标记序列),之后语言模型将这些检索到的文档作为补充信息集成到最终预测的生成中。例如,atlas会微调一个编码器-解码器模型,并与检索器一起建模文档作为潜在的变量。与之相对,retro则修改了只有解码器的架构,以合并检索到的文本,并从头开始预训练语言模型。这些方法需要通过梯度下降来更新模型参数,存在一定的计算开销。

5、最近,诸如replug的方法开始将大型语言模型视为黑匣子,而flare则基于临时的下一句动态检索,无需更新模型参数。另外,也有一些努力将结构化知识图谱(kgs)或表格作为检索增强的知识库。在这些研究中,从知识图谱中提取与问题相关的三元组(subject-predicate-object),并将其转换为文本格式。通过预定义的模板将三元组的文本表示和问题转换为增强知识提示,然后将此提示输入到问答大型语言模型中,以生成更加准确可靠的答案。在表格问答任务中,t-rag则利用统一的流程自动搜索表格语料库,直接从表格单元格中定位正确答案,取得了不错的效果。总之现有的大语言模型虽具备了优秀的文本理解和问答能力,但存在知识滞后等问题,难以及时获取最新的学术会议信息。

6、然而,目前学术会议信息主要通过官方网站发布,网站结构复杂,内容形式多种多样,包括文本、表格、多媒体等,不同会议页面格式各异,有的以文字为主,有的结构化程度较高,缺少统一的模板来组织和展示信息。


技术实现思路

1、鉴于上述,本发明的目的是提供一种基于大语言模型的学术会议问答系统,通过设计新存储形式来统一异构数据的知识存储,一方面有利于从这些异构数据源中高效抽取所需信息,另一方面可以将其作为外部知识库,借助检索增强的方式增强大语言模型在学术会议领域的问答能力,为学术研究者提供强大的智能辅助。

2、为实现上述发明目的,本发明实施例提供了一种基于大语言模型的学术会议问答系统,包括:

3、包括数据处理模块、信息检索模块、以及知识问答模块;

4、所述数据处理模块用于采用数据转换智能体将网页数据转换为半结构化数据,采用节点数据插入智能体根据网页链接和半结构化数据确定半结构化数据在树形结构的插入位置,并进行数据插入,得到树形结构数据;

5、所述信息检索模块用于基于用户问题对树形结构数据进行查询路径检索得到相似的多个查询路径作为外部知识;

6、所述知识问答模块用于利用用于问答的大语言模型基于用户问题和外部知识进行知识问答,得到问题答案。

7、优选地,采用数据转换智能体将网页数据转换为半结构化数据,包括:

8、向基于大语言模型构建的数据转换智能体输入转换提示和网页数据,其中转换提示为:你是一位数据专家,主要负责数据转换任务,目前网页数据中有关于学术会议的非结构化数据和结构化数据,你的任务是将这些数据转换为半结构化数据,同时确保内容完整且避免数据丢失;

9、数据转换智能体依据输入生成通过(键,值)对表示的半结构化数据。

10、优选地,采用节点数据插入智能体根据网页链接和半结构化数据确定半结构化数据在树形结构的插入位置,包括:

11、向基于大语言模型构建的数据转换智能体输入插入提示、网页的半结构化数据及其对应的网页链接,其中插入提示为:你是一位数据专家,主要负责数据插入任务,目前有一份关于网页的半结构化数据可供使用,你的任务是根据网页链接和树形结构的现有节点,确定这些半结构化数据应在树形结构的插入位置,请确保数据插入后树形结构保持完整且逻辑清晰;

12、数据插入智能体依据输入生成网页的半结构化数据在树形结构中的插入位置。

13、优选地,所述信息检索模块中,基于用户问题对树形结构数据进行查询路径检索得到相似的多个查询路径作为外部知识,包括:

14、基于树形结构数据构建一组查询路径组成第一检索知识库;

15、基于用户问题与第一检索知识库中每条查询路径之间的相似度来筛选得到相似度得分高的前多个查询路径作为外部知识。

16、优选地,基于树形结构数据构建一组查询路径,包括:

17、将树形结构数据中每个节点的语义数据提取出来,并通过特殊符号按照节点之间的层次关系连接每个节点的语义数据,形成一条查询路径。

18、优选地,所述信息检索模块中,基于用户问题对树形结构数据进行查询路径检索得到相似的多个查询路径作为外部知识,包括:

19、基于树形结构数据构建一组查询路径,并生成每条查询路径的路径描述,每条查询路径及对应的路径描述形成映射关系,并将查询路径及其路径描述,以及映射关系组成第二检索知识库;

20、基于用户问题与第二检索知识库中每个路径描述之间的相似度来筛选得到相似度得分高的前多个路径描述,基于映射关系确定前多个路径描述对应的多条查询路径作为外部知识。

21、优选地,生成每条查询路径的路径描述,包括:

22、遍历每条查询路径的每个节点,基于当前节点的语义数据和当前节点的周边结构信息生成当前节点的文本描述,查询路径中叶子节点的文本描述作为所在查询路径的路径描述;

23、非叶子节点的周边结构信息包括查询路径信息、兄弟节点的文本描述、以及父查询路径的文本描述,叶子节点的周边结构信息包括查询路径信息、同一级节点的数据值与其父节点的连接信息、以及父查询路径的文本描述,父查询路径是指当前节点前的遍历查询路径。

24、优选地,采用用于描述生成的大语言模型生成非叶子节点的文本描述,包括:向大语言模型输入生成提示,其中生成提示为:你非常擅长理解语义和结构信息,请根据当前节点的语义信息和周边结构信息将当前节点对应的查询路径转换为文本描述,周边结构信息包括查询路径信息、兄弟节点、以及父查询路径的文本描述;大语言模型基于生成提示输出非叶子节点的文本描述;

25、采用用于描述生成的大语言模型生成叶子节点的文本描述,包括:向大语言模型输入生成提示,其中生成提示为:您非常擅长理解语义和结构信息,请根据当前节点的语义信息和周边结构信息将叶子节点对应的查询路径转换为文本描述,周边结构信息包括查询路径信息、同一级节点的数据值与其父节点的连接信息、以及父查询路径的文本描述;大语言模型基于生成提示输出叶子节点的文本描述。

26、与现有技术相比,本发明具有的有益效果至少包括:

27、通过数据预处理模块将各种形式的数据转化为半结构化数据并建立树形结构数据,此过程均由基于大语言模型构建的智能体来完整,速度快准确性高,且能够实现对各种类型的统一处理,然后以树形结构数据为外部数据库,堆砌进行检索得到多个查询路径作为外部知识,这样能够实现外部知识的实时同步性,最后基于外部知识进行知识问答,得到准确的问题答案。


技术特征:

1.一种基于大语言模型的学术会议问答系统,其特征在于,包括数据处理模块、信息检索模块、以及知识问答模块;

2.根据权利要求1所述的基于大语言模型的学术会议问答系统,其特征在于,采用数据转换智能体将网页数据转换为半结构化数据,包括:

3.根据权利要求1所述的基于大语言模型的学术会议问答系统,其特征在于,采用节点数据插入智能体根据网页链接和半结构化数据确定半结构化数据在树形结构的插入位置,包括:

4.根据权利要求1所述的基于大语言模型的学术会议问答系统,其特征在于,所述信息检索模块中,基于用户问题对树形结构数据进行查询路径检索得到相似的多个查询路径作为外部知识,包括:

5.根据权利要求3所述的基于大语言模型的学术会议问答系统,其特征在于,基于树形结构数据构建一组查询路径,包括:

6.根据权利要求1所述的基于大语言模型的学术会议问答系统,其特征在于,所述信息检索模块中,基于用户问题对树形结构数据进行查询路径检索得到相似的多个查询路径作为外部知识,包括:

7.根据权利要求6所述的基于大语言模型的学术会议问答系统,其特征在于,生成每条查询路径的路径描述,包括:

8.根据权利要求7所述的基于大语言模型的学术会议问答系统,其特征在于,采用用于描述生成的大语言模型生成非叶子节点的文本描述,包括:向大语言模型输入生成提示,其中生成提示为:你非常擅长理解语义和结构信息,请根据当前节点的语义信息和周边结构信息将当前节点对应的查询路径转换为文本描述,周边结构信息包括查询路径信息、兄弟节点、以及父查询路径的文本描述;大语言模型基于生成提示输出非叶子节点的文本描述。

9.根据权利要求7所述的基于大语言模型的学术会议问答系统,其特征在于,采用用于描述生成的大语言模型生成叶子节点的文本描述,包括:向大语言模型输入生成提示,其中生成提示为:你非常擅长理解语义和结构信息,请根据当前节点的语义信息和周边结构信息将叶子节点对应的查询路径转换为文本描述,周边结构信息包括查询路径信息、同一级节点的数据值与其父节点的连接信息、以及父查询路径的文本描述;大语言模型基于生成提示输出叶子节点的文本描述。


技术总结
本发明公开了一种基于大语言模型的学术会议问答系统,包括:数据结构化模块用于采用数据转换智能体将网页数据转换为半结构化数据,采用节点数据插入智能体根据网页链接和半结构化数据确定半结构化数据在树形结构的插入位置,并进行数据插入,得到树形结构数据;信息检索模块用于基于用户问题对树形结构数据进行查询路径检索得到相似的多个查询路径作为外部知识;知识问答模块用于利用用于问答的大语言模型基于用户问题和外部知识进行知识问答,得到问题答案。该系统将网页数据转成为树形结构数据,有利于从树形结构数据中高效抽取所需信息,同时借助检索增强的方式增强大语言模型在学术会议领域的问答能力,为学术研究者提供强大的智能辅助。

技术研发人员:张文,黄志伟
受保护的技术使用者:浙江大学
技术研发日:
技术公布日:2024/7/25
转载请注明原文地址: https://bbs.8miu.com/read-441177.html

最新回复(0)