多标签分类模型的训练方法、多标签分类方法及相关装置与流程

专利2026-09-04  6


本说明书实施例涉及自然语言处理领域,尤其涉及一种多标签分类模型的训练方法、多标签分类方法及相关装置。


背景技术:

1、自然语言处理(nature language processing,nlp)是计算机科学领域与人工智能领域中的一个重要方向。随着自然语言处理领域的对话类大模型(chat generativepre-trained transforme,chatgpt)在社交媒体上的火热,拥有巨大参数量的大模型越来越受到关注,而通常更大的模型会有更好的表现效果。例如,gpt-3模型拥有1750亿个参数,而gpt-4模型的参数规模更大。这些模型应用于自然语言处理(nlp,natural languageprocessing)领域,能理解和生成人类语言,在文本翻译、问答系统、语言生成、文本分类等任务上表现优秀。

2、然而chatgpt并不是全能的,它针对垂直领域的文本分类的准确率并不高,尤其针对垂直领域的文本标注多个标签以理解该文本的任务表现不尽如人意。这受限于垂直领域的样本数据不足,尤其某些垂直领域内标注了多标签的样本文本数量严重不足,以及样本质量普遍不高的现状。


技术实现思路

1、本说明书实施例提供了一种多标签分类模型的训练方法、多标签分类方法及相关装置,可以解决上述问题。所述技术方案如下:

2、第一方面,本说明书实施例提供了一种多标签分类模型的训练方法,所述多标签分类模型的训练方法包括:

3、获取多个样本文本和多个标签;

4、根据所述多个标签确定多种标签组合,以及得到各所述标签组合对应的分类提示文本,所述分类提示文本用于提示待训练多标签分类模型进行分类;

5、将多个所述分类提示文本和所述多个样本文本输入至待训练多标签分类模型,得到所述待训练多标签分类模型针对各所述样本文本进行分类输出的至少一个预测标签,以及根据多个所述预测标签训练所述待训练多标签分类模型直至收敛,得到多标签分类模型。

6、第二方面,本说明书实施例提供了一种多标签分类方法,所述多标签分类方法包括:

7、获取待分类文本,所述待分类文本包括任务主体文本;

8、将所述待分类文本作为问题输入至多标签分类模型,得到所述多标签分类模型对所述待分类文本包括的任务主体文本进行分类并回答的至少一个标签,所述待分类文本对应的至少一个标签作为所述待分类文本的分类结果,所述多标签分类模型通过第一方面所述多标签分类模型的训练方法得到。

9、第三方面,本说明书实施例提供了一种多标签分类模型的训练装置,所述多标签分类模型的训练装置包括:

10、样本获取模块,用于获取多个样本文本和多个标签;

11、标签组合模块,用于根据所述多个标签确定多种标签组合,以及得到各所述标签组合对应的分类提示文本,所述分类提示文本用于提示待训练多标签分类模型进行分类;

12、模型训练模块,用于将多个所述分类提示文本和所述多个样本文本输入至待训练多标签分类模型,得到所述待训练多标签分类模型针对各所述样本文本进行分类输出的至少一个预测标签,以及根据多个所述预测标签训练所述待训练多标签分类模型直至收敛,得到多标签分类模型。

13、第四方面,本说明书实施例提供一种多标签分类装置,所述多标签分类装置包括:

14、分类文本模块,用于获取待分类文本,所述待分类文本包括任务主体文本;

15、模型分类模块,用于将所述待分类文本作为问题输入至多标签分类模型,得到所述多标签分类模型对所述待分类文本包括的任务主体文本进行分类并回答的至少一个标签,所述待分类文本对应的至少一个标签作为所述待分类文本的分类结果,所述多标签分类模型通过第一方面所述多标签分类模型的训练方法得到。

16、第五方面,本说明书实施例提供一种计算机存储介质,所述计算机存储介质存储有多条指令,所述指令适于由处理器加载并执行上述的方法步骤。

17、第六方面,本说明书实施例提供一种计算机程序产品,所述计算机程序产品存储有多条指令,所述指令适于由处理器加载并执行上述的方法步骤。

18、第七方面,本说明书实施例提供一种电子设备,可包括:处理器和存储器;其中,所述存储器存储有计算机程序,所述计算机程序适于由所述处理器加载并执行上述的方法步骤。

19、本说明书实施例一些实施例提供的技术方案带来的有益效果至少包括:

20、在本说明书实施例中,多标签分类模型用于对作为问题输入的待分类文本进行分类并回答至少一个标签作为该待分类文本的分类结果,也即多标签分类模型可以对待分类文本标注多个标签,通过多个标签降低用户对待分类文本的理解成本。多标签分类模型是通过对待训练多标签分类模型训练至收敛后得到的。

21、针对待训练多标签分类模型的训练,本说明书实施例获取多个样本文本和多个标签,进一步根据多个标签组合成多种不同的标签组合,进一步根据多种不同的标签组合构建用于训练待训练多标签分类模型的分类提示文本。因此多个分类提示文本和多个样本文本对应了多种分类结果的可能性,通过分类提示文本降低对训练过程中多标签分类模型对初始获取的样本文本的依赖,提高训练完成的多标签分类模型应对复杂多样的待分类文本的能力,提高多标签分类模型输出的多个标签的准确性,具有较好的实用性和泛用性。



技术特征:

1.一种多标签分类模型的训练方法,所述多标签分类模型的训练方法包括:

2.根据权利要求1所述的训练方法,将多个所述分类提示文本和所述多个样本文本输入至待训练多标签分类模型,得到所述待训练多标签分类模型针对各所述样本文本进行分类输出的至少一个预测标签,以及根据多个所述预测标签训练所述待训练多标签分类模型直至收敛,得到多标签分类模型之前,还包括:

3.根据权利要求1所述的训练方法,所述根据所述多个标签确定多种标签组合,以及得到各所述标签组合对应的分类提示文本,包括:

4.根据权利要求2所述的多标签分类模型的训练方法,所述根据所述多个标签,确定多种标签组合,包括:

5.根据权利要求2所述的多标签分类模型的训练方法,所述通过各所述标签组合包括的至少一个标签分别对应的样本文本,得到所述标签组合对应的分类提示文本,包括:

6.根据权利要求1的多标签分类模型的训练方法,所述获取多个样本文本和多个标签,包括:

7.根据权利要求6所述的多标签分类模型的训练方法,所述将所述多个待处理对话文本进行预处理,得到多个样本文本和各所述样本文本对应的至少一个标签,包括:

8.根据权利要求6所述的多标签分类模型的训练方法,所述获取多个待处理对话文本之前,还包括:

9.根据权利要求2所述的多标签分类模型的训练方法,所述将所述分类任务数据作为问题输入至待训练多标签分类模型,得到所述待训练多标签分类模型根据所述分类任务数据包括的分类提示文本对所述分类任务数据包括的任务主体文本进行分类并回答的至少一个预测标签,以及根据多个所述分类任务数据分别对应的至少一个预测标签训练所述待训练多标签分类模型直至收敛,得到多标签分类模型,包括:

10.一种多标签分类方法,所述多标签分类方法包括:

11.根据权利要求10所述的多标签分类方法,所述将所述待分类文本作为问题输入至多标签分类模型,得到所述多标签分类模型对所述待分类文本包括的任务主体文本进行分类并回答的至少一个标签之后,还包括:

12.一种多标签分类模型的训练装置,所述多标签分类模型的训练装置包括:

13.一种多标签分类装置,所述多标签分类装置包括:

14.一种计算机存储介质,所述计算机存储介质存储有多条指令,所述指令适于由处理器加载并执行如权利要求1~11任意一项的方法步骤。

15.一种计算机程序产品,所述计算机程序产品存储有多条指令,所述指令适于由处理器加载并执行如权利要求1~11任意一项的方法步骤。

16.一种电子设备,包括:处理器和存储器;其中,所述存储器存储有计算机程序,所述计算机程序适于由所述处理器加载并执行如权利要求1~11任意一项的方法步骤。


技术总结
本说明书实施例公开了一种多标签分类模型的训练方法、多标签分类方法及相关装置,涉及自然语言处理领域。在本说明书实施例中,多标签分类模型用于对作为问题输入的待分类文本进行分类并回答至少一个标签作为该待分类文本的分类结果,通过对待训练多标签分类模型训练至收敛后得到。针对待训练多标签分类模型的训练,本说明书实施例获取多个分别对应至少一个标签的样本文本,进一步根据多个标签组合成多种不同的标签组合,从而根据多种不同的标签组合构建用于训练待训练多标签分类模型的多个分类提示文本,该分类提示文本用于在训练过程中提示待训练多标签分类模型针对多个样本文本进行分类。

技术研发人员:景志刚,陈雷,王青,喻立宽,杨世辉,马思超,韩冬,黄亚宁
受保护的技术使用者:蚂蚁财富(上海)金融信息服务有限公司
技术研发日:
技术公布日:2024/7/25
转载请注明原文地址: https://bbs.8miu.com/read-444787.html

最新回复(0)