本申请实施例涉及信息处理技术,涉及但不限于一种检测方法及装置、设备、存储介质。
背景技术:
1、深度学习模型因其足够多的参数量,拟合学习能力很强,因此获得各个领域的青睐。无论分类检测、还是nlp、ocr领域以及推荐系统等方面都在探索希望推进深度学习在对应领域落地并实现很好地效果。但是,深度模型在落地方面确实存在很大的弊端,其参数量巨大,运算需要耗费成本很高,所以对硬件性能要求很高。
2、降低模型参数量即模型轻量化的方法包括剪枝蒸馏。其中剪枝蒸馏是将训练好的复杂模型作为教师模型,将教师模型学习出来的知识作为先验知识,让简单网络作为学生模型去模仿教师模型提取出的知识,而不是直接去学习真实标签,因为教师模型提取出的知识包括预测结果中数据结构间的相似性以及更精确的特征,可以让学生模型更好的学习真实标签所不具有的信息。
3、相关技术中在进行剪枝蒸馏时,学生模型无法学习到教师模型的有价值的信息,从而导致训练速度非常慢,且结果很难达到教师模型的表现。因此,寻求一种训练速度更快,精度更高,以使得训练后的模型能够提高运算精度的学生模型,是一个亟待解决的问题。
技术实现思路
1、有鉴于此,本申请实施例提供的检测方法及装置、设备、存储介质,能够以训练速度更快,精度更高的检测模型进行相关检测,提高检测精度。本申请实施例提供的检测方法及装置、设备、存储介质是这样实现的:
2、第一方面,本申请实施例提供一种检测方法,包括:
3、获取待处理图像;
4、将所述待处理图像输入至检测模型,得到对所述待处理图像的处理结果,所述处理结果包括确定所述待处理图像中的目标对象是否存在缺陷,或对所述待处理图像的分类结果;
5、其中,所述检测模型是通过已训练的教师模型对学生模型进行蒸馏学习得到的,所述教师模型包括多个卷积层和通道注意力模块,每一所述卷积层包括多个通道,所述通道注意力模块用于评估目标卷积层中的每一通道的权重分数,所述权重分数用于反映对应通道对所述教师模型的重要程度,所述目标卷积层是所述多个卷积层中的一个或多个;
6、所述学生模型与所述教师模型的结构相同,所述学生模型的卷积层数小于所述教师模型的卷积层数,所述学生模型中卷积层的通道数小于所述教师模型中对应卷积层的通道数。
7、第二方面,本申请实施例提供一种检测装置,包括:
8、获取模块,用于获取待处理图像;
9、处理模块,用于将所述待处理图像输入至检测模型,得到对所述待处理图像的处理结果,所述处理结果包括确定所述待处理图像中的目标对象是否存在缺陷,或对所述待处理图像的分类结果;
10、其中,所述检测模型是通过已训练的教师模型对学生模型进行蒸馏学习得到的,所述教师模型包括多个卷积层和通道注意力模块,每一所述卷积层包括多个通道,所述通道注意力模块用于评估目标卷积层中的每一通道的权重分数,所述权重分数用于反映对应通道对所述教师模型的重要程度,所述目标卷积层是所述多个卷积层中的一个或多个;
11、所述学生模型与所述教师模型的结构相同,所述学生模型的卷积层数小于所述教师模型的卷积层数,所述学生模型中卷积层的通道数小于所述教师模型中对应卷积层的通道数。
12、第三方面,本申请实施例提供一种计算机设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,所述处理器执行所述程序时实现本申请实施例所述的方法。
13、第四方面,本申请实施例提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现本申请实施例提供的所述的方法。
14、本申请实施例所提供的检测方法、装置、计算机设备和计算机可读存储介质,通过将待处理图像输入至通过已训练的教师模型对学生模型进行蒸馏学习得到的检测模型中,可得到对该待处理图像的处理结果,且在得到检测模型的过程中,该已训练的教师模型中包括有通道注意力模块,通过该通道注意力模块,则可评估出教师模型中的目标卷积层中每一通道对教师模型的重要程度,从而在保留各个通道的有效信息的前提下,还能够让学生模型侧重学习教师模型的关键信息,摒除冗余信息,提高学生模型的精度,从而能够以训练速度更快,精度更高的检测模型进行相关检测,提高检测精度,解决背景技术中所提出的技术问题。
1.一种检测方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,在所述将所述待检测图像输入至检测模型之前,所述方法还包括:
3.根据权利要求2所述的方法,其特征在于,所述基于所述已训练的教师模型,构建所述学生模型,包括:
4.根据权利要求2所述的方法,其特征在于,所述基于所述已训练的教师模型,构建所述学生模型,包括:
5.根据权利要求3或4所述的方法,其特征在于,所述通过所述教师模型,对所述学生模型进行蒸馏学习,得到所述检测模型,包括:
6.根据权利要求5所述的方法,其特征在于,所述根据所述排序后的通道分数和所述学生模型中的目标卷积层中的通道数量,对齐所述教师模型和所述学生模型的通道维度,得到所述学生模型对应的散度损失函数,包括:
7.根据权利要求2所述的方法,其特征在于,在所述教师模型或所述学生模型用于进行目标检测时,所述目标损失函数为二元交叉熵损失函数;在所述教师模型或所述学生模型用于进行分类预测时,所述目标损失函数为组合损失函数,所述组合损失函数包括分类损失函数、框回归损失函数和目标存在性损失函数。
8.根据权利要求1所述的方法,其特征在于,所述教师模型为resnet 50网络模型。
9.一种检测装置,其特征在于,包括:
10.一种计算机设备,包括存储器和处理器,所述存储器存储有可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求1至9任一项所述方法的步骤。
11.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1至9任一项所述的方法。
