一种基于元代理技术的语言模型自动化开发方法与流程

专利2026-07-20  22


本发明涉及模型开发,尤其涉及一种基于元代理技术的语言模型自动化开发方法。


背景技术:

1、大型语言模型如gpt-4在多种任务上表现出色,但由于其庞大的模型尺寸和高运算需求,其应用受限于资源有限的环境,如移动设备。此外,云端运行的模型也存在隐私问题。为解决这些限制,本专利提出一种元代理技术,大语言模型作为一种元代理(meta-agent),可以自动化开发小型语言模型的代理,实现接近大型模型的性能,该技术能够节省设计代理所需的人类劳动,对商业应用非常重要。


技术实现思路

1、本发明提供了一种基于元代理技术的语言模型自动化开发方法,其特征在于,所述方法包括:

2、step1、使用大型语言模型作为元代理提前适应待开发模型的任务场景;

3、step2、基于元代理对每个训练样本的置信度对样本进行重新标注;

4、step3、元代理使用标注后的训练样本进行小型语言模型的开发;

5、step4、元代理对开发完成的小型语言模型进行性能评估,并根据评估结果对小型语言模型的设计进行迭代。

6、如上所述的一种基于元代理技术的语言模型自动化开发方法,其中使用大型语言模型作为元代理提前适应待开发模型的任务场景,具体包括以下子步骤:

7、根据待开发小型语言模型任务场景创建新的语料库;

8、使用语料库对大型语言模型进行微调;

9、验证大型语言模型对任务场景的适用性。

10、如上所述的一种基于元代理技术的语言模型自动化开发方法,其中根据待开发小型语言模型任务场景创建新的语料库,具体包括以下子步骤:

11、根据任务场景收集相关的文本数据;

12、将收集到的数据进行分词、标注,处理为结构化数据;

13、处理完成的数据整合到一个新语料库中。

14、如上所述的一种基于元代理技术的语言模型自动化开发方法,其中基于元代理对每个训练样本的置信度对样本进行重新标注,具体包括以下子步骤:

15、获取元代理对每个数据样本的置信度;

16、用置信度代替数据样本原本的硬标签对样本进行重新标注。

17、如上所述的一种基于元代理技术的语言模型自动化开发方法,其中元代理使用标注后的训练样本进行小型语言模型的开发,具体包括以下子步骤:

18、元代理根据任务场景设计一个与自身相似的小型语言模型;

19、使用训练样本对小型语言模型进行模型训练;

20、使用对训练样本的标注数据对小型语言模型进行自适应调优。

21、如上所述的一种基于元代理技术的语言模型自动化开发方法,其中元代理对开发完成的小型语言模型进行性能评估,并根据评估结果对小型语言模型的设计进行迭代,具体包括以下子步骤:

22、元代理生成一套基于小型语言模型的工作流;

23、使用基于小型语言模型的工作流进行任务求解;

24、根据任务求解结果对小型语言模型进行自动评分;

25、根据评分结果对小型语言模型自动进行迭代。

26、本发明还提供了一种基于元代理技术的语言模型自动化开发系统,其特征在于,所述系统包括:任务场景适应模块,训练样本标注模块,小型语言模型开发模块,小型语言模型迭代模块;

27、任务场景适应模块,用于使用大型语言模型作为元代理提前适应待开发模型的任务场景;

28、训练样本标注模块,用于对每个训练样本进行重新标注;

29、小型语言模型开发模块,用于使用标注后的训练样本进行小型语言模型的开发;

30、小型语言模型迭代模块,用于对开发完成的小型语言模型进行性能评估,并根据评估结果对小型语言模型的设计进行迭代。

31、如上所述的一种基于元代理技术的语言模型自动化开发系统,其中任务场景适应模块包括语料库建立子模块,大型语言模型微调子模块;

32、语料库建立子模块,用于根据待开发小型语言模型任务场景创建新的语料库;

33、大型语言模型微调子模块,用于使用语料库对大型语言模型进行微调。

34、如上所述的一种基于元代理技术的语言模型自动化开发系统,其中小型语言模型开发模块包括小型语言模型设计模块,小型语言模型训练子模块;

35、小型语言模型设计模块,用于根据任务场景设计一个与元代理相似的小型语言模型;

36、小型语言模型训练子模块,用于使用标注后的训练样本对小型语言模型进行训练与自适应调优。

37、本发明实现的有益效果如下:实现中小型语言模型的自动化开发,且性能接近大型模型,节省人力成本,提高模型开发效率。



技术特征:

1.一种基于元代理技术的语言模型自动化开发方法,其特征在于,所述方法包括:

2.根据权利要求1所述的一种基于元代理技术的语言模型自动化开发方法,其特征在于,使用大型语言模型作为元代理提前适应待开发模型的任务场景,具体包括以下子步骤:

3.根据权利要求2所述的一种基于元代理技术的语言模型自动化开发方法,其特征在于,根据待开发小型语言模型任务场景创建新的语料库,具体包括以下子步骤:

4.根据权利要求1所述的一种基于元代理技术的语言模型自动化开发方法,其特征在于,基于元代理对每个训练样本的置信度对样本进行重新标注,具体包括以下子步骤:

5.根据权利要求1所述的一种基于元代理技术的语言模型自动化开发方法,其特征在于,元代理使用标注后的训练样本进行小型语言模型的开发,具体包括以下子步骤:

6.根据权利要求1所述的一种基于元代理技术的语言模型自动化开发方法,其特征在于,元代理对开发完成的小型语言模型进行性能评估,并根据评估结果对小型语言模型的设计进行迭代,具体包括以下子步骤:

7.一种基于元代理技术的语言模型自动化开发系统,其特征在于,所述系统包括:任务场景适应模块,训练样本标注模块,小型语言模型开发模块,小型语言模型迭代模块;

8.根据权利要求7所述的一种基于元代理技术的语言模型自动化开发系统,其特征在于,任务场景适应模块包括语料库建立子模块,大型语言模型微调子模块;

9.根据权利要求7所述的一种基于元代理技术的语言模型自动化开发系统,其特征在于,小型语言模型开发模块包括小型语言模型设计模块,小型语言模型训练子模块;


技术总结
本发明公开一种基于元代理技术的语言模型自动化开发方法,涉及模型开发技术领域,所述方法包括:使用大型语言模型作为元代理提前适应待开发模型的任务场景;基于元代理对每个训练样本的置信度对样本进行重新标注;元代理使用标注后的训练样本进行小型语言模型的开发;元代理对开发完成的小型语言模型进行性能评估,并根据评估结果对小型语言模型的设计进行迭代。实现中小型语言模型的自动化开发,且性能接近大型模型,节省人力成本,提高模型开发效率。

技术研发人员:杨明,魏庚辰,周心池,丛文琳,赵向阳
受保护的技术使用者:浩神科技(北京)有限公司
技术研发日:
技术公布日:2024/7/25
转载请注明原文地址: https://bbs.8miu.com/read-442676.html

最新回复(0)