本发明涉及模型开发,尤其涉及一种基于元代理技术的语言模型自动化开发方法。
背景技术:
1、大型语言模型如gpt-4在多种任务上表现出色,但由于其庞大的模型尺寸和高运算需求,其应用受限于资源有限的环境,如移动设备。此外,云端运行的模型也存在隐私问题。为解决这些限制,本专利提出一种元代理技术,大语言模型作为一种元代理(meta-agent),可以自动化开发小型语言模型的代理,实现接近大型模型的性能,该技术能够节省设计代理所需的人类劳动,对商业应用非常重要。
技术实现思路
1、本发明提供了一种基于元代理技术的语言模型自动化开发方法,其特征在于,所述方法包括:
2、step1、使用大型语言模型作为元代理提前适应待开发模型的任务场景;
3、step2、基于元代理对每个训练样本的置信度对样本进行重新标注;
4、step3、元代理使用标注后的训练样本进行小型语言模型的开发;
5、step4、元代理对开发完成的小型语言模型进行性能评估,并根据评估结果对小型语言模型的设计进行迭代。
6、如上所述的一种基于元代理技术的语言模型自动化开发方法,其中使用大型语言模型作为元代理提前适应待开发模型的任务场景,具体包括以下子步骤:
7、根据待开发小型语言模型任务场景创建新的语料库;
8、使用语料库对大型语言模型进行微调;
9、验证大型语言模型对任务场景的适用性。
10、如上所述的一种基于元代理技术的语言模型自动化开发方法,其中根据待开发小型语言模型任务场景创建新的语料库,具体包括以下子步骤:
11、根据任务场景收集相关的文本数据;
12、将收集到的数据进行分词、标注,处理为结构化数据;
13、处理完成的数据整合到一个新语料库中。
14、如上所述的一种基于元代理技术的语言模型自动化开发方法,其中基于元代理对每个训练样本的置信度对样本进行重新标注,具体包括以下子步骤:
15、获取元代理对每个数据样本的置信度;
16、用置信度代替数据样本原本的硬标签对样本进行重新标注。
17、如上所述的一种基于元代理技术的语言模型自动化开发方法,其中元代理使用标注后的训练样本进行小型语言模型的开发,具体包括以下子步骤:
18、元代理根据任务场景设计一个与自身相似的小型语言模型;
19、使用训练样本对小型语言模型进行模型训练;
20、使用对训练样本的标注数据对小型语言模型进行自适应调优。
21、如上所述的一种基于元代理技术的语言模型自动化开发方法,其中元代理对开发完成的小型语言模型进行性能评估,并根据评估结果对小型语言模型的设计进行迭代,具体包括以下子步骤:
22、元代理生成一套基于小型语言模型的工作流;
23、使用基于小型语言模型的工作流进行任务求解;
24、根据任务求解结果对小型语言模型进行自动评分;
25、根据评分结果对小型语言模型自动进行迭代。
26、本发明还提供了一种基于元代理技术的语言模型自动化开发系统,其特征在于,所述系统包括:任务场景适应模块,训练样本标注模块,小型语言模型开发模块,小型语言模型迭代模块;
27、任务场景适应模块,用于使用大型语言模型作为元代理提前适应待开发模型的任务场景;
28、训练样本标注模块,用于对每个训练样本进行重新标注;
29、小型语言模型开发模块,用于使用标注后的训练样本进行小型语言模型的开发;
30、小型语言模型迭代模块,用于对开发完成的小型语言模型进行性能评估,并根据评估结果对小型语言模型的设计进行迭代。
31、如上所述的一种基于元代理技术的语言模型自动化开发系统,其中任务场景适应模块包括语料库建立子模块,大型语言模型微调子模块;
32、语料库建立子模块,用于根据待开发小型语言模型任务场景创建新的语料库;
33、大型语言模型微调子模块,用于使用语料库对大型语言模型进行微调。
34、如上所述的一种基于元代理技术的语言模型自动化开发系统,其中小型语言模型开发模块包括小型语言模型设计模块,小型语言模型训练子模块;
35、小型语言模型设计模块,用于根据任务场景设计一个与元代理相似的小型语言模型;
36、小型语言模型训练子模块,用于使用标注后的训练样本对小型语言模型进行训练与自适应调优。
37、本发明实现的有益效果如下:实现中小型语言模型的自动化开发,且性能接近大型模型,节省人力成本,提高模型开发效率。
1.一种基于元代理技术的语言模型自动化开发方法,其特征在于,所述方法包括:
2.根据权利要求1所述的一种基于元代理技术的语言模型自动化开发方法,其特征在于,使用大型语言模型作为元代理提前适应待开发模型的任务场景,具体包括以下子步骤:
3.根据权利要求2所述的一种基于元代理技术的语言模型自动化开发方法,其特征在于,根据待开发小型语言模型任务场景创建新的语料库,具体包括以下子步骤:
4.根据权利要求1所述的一种基于元代理技术的语言模型自动化开发方法,其特征在于,基于元代理对每个训练样本的置信度对样本进行重新标注,具体包括以下子步骤:
5.根据权利要求1所述的一种基于元代理技术的语言模型自动化开发方法,其特征在于,元代理使用标注后的训练样本进行小型语言模型的开发,具体包括以下子步骤:
6.根据权利要求1所述的一种基于元代理技术的语言模型自动化开发方法,其特征在于,元代理对开发完成的小型语言模型进行性能评估,并根据评估结果对小型语言模型的设计进行迭代,具体包括以下子步骤:
7.一种基于元代理技术的语言模型自动化开发系统,其特征在于,所述系统包括:任务场景适应模块,训练样本标注模块,小型语言模型开发模块,小型语言模型迭代模块;
8.根据权利要求7所述的一种基于元代理技术的语言模型自动化开发系统,其特征在于,任务场景适应模块包括语料库建立子模块,大型语言模型微调子模块;
9.根据权利要求7所述的一种基于元代理技术的语言模型自动化开发系统,其特征在于,小型语言模型开发模块包括小型语言模型设计模块,小型语言模型训练子模块;
