一种印制电路板表面缺陷定位与识别方法与流程

专利2022-06-28  176


本发明涉及机器视觉与模式识别检测技术领域,特别是涉及一种印制电路板表面缺陷定位与识别方法。



背景技术:

印刷电路板(printedcircuitboard,pcb)作为实现电子元件电气连接和固定的载体,在现代化生产制造诸多领域得到了广泛应用。现代电子设备的质量靠的不仅是电子组件的质量和性能,而且很大程度上取决于印刷电路板的质量。电子元器件集成化和微型化的发展趋势使得pcb的生产制造工艺日趋复杂,受设备、环境和人为失误等因素影响,pcb生产中会存在短路、断路、划痕、孔洞等影响产品性能的缺陷。

传统的人眼检测费时费力,且很难满足要求。为确保印刷电路板的质量,在线自动检测是一个必要的环节。采用光学原理,结合图像分析以及计算机和自动化检测技术对pcb生产缺陷进行检测,逐渐成为行业主流,具有效率高和缺陷覆盖率高等优点。但是,由于受采光条件、工业现场环境等因素的影响,工业相机采集到的原始图像不可避免地含有各种噪声干扰,检测精度、检测速度有待进一步提高。



技术实现要素:

有鉴于此,本发明提出一种印制电路板表面缺陷定位与识别方法,能够有效的定位电机驱动器印制电路板表面缺陷位置及识别缺陷种类,能够提前发觉电路板表面缺陷,保障电机驱动器电路板质量。

一方面,本发明提供了一种印制电路板表面缺陷定位与识别方法,包括如下步骤:

(1)图像采集:采集印制电路板待测图像i(x,y)与模板图像t(x,y);

(2)图像配准:通过两个卷积神经网络精确配准待测图像i(x,y)及模板图像t(x,y),得到配准后的待测图像

(3)缺陷定位:将配准后的待测图像与模板图像t(x,y)通过傅立叶变换及反变换,定位疑似缺陷区域d={dect(xi,yi,wi,hi)|0<i<k},其中,dect(xi,yi,wi,hi)为坐标在(xi,yi),长、宽为wi,hi的矩形区域,k为大于0的自然数;

(4)缺陷识别:将集合d中疑似缺陷区域图像块输入第三个卷积神经网络,进行缺陷识别,得到缺陷类型。

进一步地,所述步骤(2)图像配准具体包括以下步骤:

(21)以待测图像i(x,y)的像素点(xi,yi)为中心获取尺寸为32×32的图像块,并将该图像块送入第一个卷积神经网络,得到该像素点(xi,yi)为疑似特征点的预测值socrei;

(22)通过预测值socrei获得待测图像i(x,y)的预测值分布图s(x,y),并通过非极大值抑制算法筛选s(x,y)中预测值的所有局部极大值点pi={(xn,yn)|1≤n≤n},将这些点作为待测图像i(x,y)的最终特征点,pi即为最终特征点集合,其中,n为大于1的自然数;

(23)以最终特征点集合pi中所有特征点(xn,yn)为中心,将尺寸为32×32的图像块输入第二个卷积神经网络,得到描述各特征点(xn,yn)的128维特征向量,得到pi所有特征点的描述向量集合

(24)将该待测印制电路板的模板图像t(x,y)同样经过步骤(21)至(23),得到模板图像t(x,y)的特征点集合pt={(xm,ym)|1≤m≤m}及其描述向量其中,m为大于1的自然数;

(25)根据待测图像i(x,y)的最终特征点集合pi与模板图像t(x,y)的特征点集合pt,计算集合pi中任意一个特征点(xn,yn)与集合pt的所有点对应的描述向量的距离,将距离最小的一对特征点作为匹配点,得到匹配点集合h={(xn,yn,xm,ym)|(xn,yn)∈pi,(xm,ym)∈pt,1≤n≤n},距离度量公式为:

式中,为特征点(xn,yn)的128维特征向量的倒置矩;

(26)采用随机抽样一致算法计算待测图像i(x,y)到模板图像t(x,y)的仿射变换矩阵t,将待测图像i(x,y)通过仿射变换矩阵投影到模板图像t(x,y)上,得到配准后的待测图像

进一步地,所述步骤(3)缺陷定位具体包括以下步骤:

(31)灰度化步骤(2)中配准后的待测图像与模板图像t(x,y),并将两幅图像分别分割为36块尺寸为120×120的局部图像通过傅立叶变换求得所有局部图像的频域谱及功率谱具体计算公式为:

式中,(x,y)为大小m×n的原图像上的一点,原图像矩阵所在的坐标系称为空间域,f(u,v)为输入图像的二维傅立叶变换后的频域矩阵,其所在坐标系即为频域,u和v用于确定正余弦的频率,p(u,v)为原图像的功率谱;

(32)将功率谱转换为极坐标形式对于沿着任意方向θ的匹配图像功率谱计算配准后待测图像块与模板图像块t(x,y)i的异常频率分量计算公式为:

式中,c取值1.25,分别表示极坐标形式下待测图像块距离功率谱中心角度为θ、长度为γ-1、γ 1处的功率谱值,pt(γ-1,θ)i、pt(γ 1,θ)i分别表示极坐标形式下模板图像块t(x,y)i距离功率谱中心角度为θ、长度为γ-1、γ 1处的功率谱值;

(33)将得到的异常频率分量保留,其他频率分量置为0,得到异常频率谱,将异常频率谱通过傅立叶反变换为空间域图像,并将该空间域像素值为1的区域分割成多个不同大小的连通域,这些连通域的最小外接矩阵框的集合d={dect(xi,yi,wi,hi)|0<i<k},即为原图像i(x,y)中疑似缺陷的位置。

进一步地,所述步骤(4)缺陷识别具体包括以下步骤:

(41)将原图像i(x,y)在疑似缺陷位置框dect(xi,yi,wi,hi)上的图像裁剪成图像块decti(xi,yi,wi,hi);

(42)将图像块decti(xi,yi,wi,hi)送入第三个卷积神经网络,得到该疑似区域的缺陷识别概率分布{re1,re2,re3,re4,re5,re6},其中1~6分别代表印制电路板上常见的短路、断路、孔洞、漏孔、毛刺、余铜六类缺陷,将输出序列中概率最高的一类作为疑似区域的缺陷类别,即得到最终的识别结果。

进一步地,所述步骤(21)中第一个卷积神经网络搭建过程如下:

第一步、第一个卷积神经网络包括3个卷积层、3个池化层和2个全连接层,其中:第1层为卷积层,包括10个卷积核,步长为1,尺寸均为5×5;第2层为池化层,步长为1,使用的最大采样核大小为5×5;第3层为卷积层,包括50个卷积核,步长为1,卷积核大小为5×5;第4层为池化层,降采样核大小为2×3,步长为1;第5层为卷积层,包括100个卷积核,步长为1,卷积核大小为3×3;第6层为池化层,降采样核大小为2×2,步长为1;第7和第8层均为全连接层,神经元个数分别为500和100,最后一层为累加器,输出一个0-100范围内的预测值;

第二步、收集生产过程中不同环境下、不同尺寸的各类印制电路板图像,将收集的图像通过dog检测器筛选其中相同物理位置多次出现在不同图像的可重复点,将这些可重复点所在的64×64区域的图像块作为卷积神经网络的训练样本,训练样本分批次送入该网络,每批次包括若干组训练样本,且通过如下公式计算该网络的损失函数:

式中,lloss为该步骤损失函数计算结果,lc(w,b)表示分类损失,lt(w,b)表示调节损失,ω表示超参数,pi为输入的以(xi,yi)为中心点的尺寸为5×5的图像块,wmn、bmn为该神经网络参数,γclass、γt为超参数,分别设为0.5、1,k为一批次训练样本数,设定为1024;s(pi;(wmn、bmn))表示该网络的输出值,当输入图像块为正样本时,yi=1,当输入图像块为负样本时,yi=-1;

第三步、通过adma算法优化第一个卷积神经网络的网络参数(wmn、bmn),优化算法具体公式如下:

式中,m的取值为1024,jθ为输入一批次1024组训练样本得到的最小二乘损失函数值,gt为时刻t的最小二乘损失函数jθ的梯度,mt、nt分别为时刻t的初始化一阶矩、二阶矩向量,μ、v均为矩估计指数衰减率,分别设为0.9、0.999,θ为网络权值,η为学习率,ε取值10-8

进一步地,所述第二个卷积神经网络搭建过程如下:

第一步、第二个卷积神经网络的网络结构包括7层卷积层,其中:第1、2层卷积层包括32个3×3的卷积核,步长为1;第3层卷积层包括64个3×3的卷积核,步长为2;第4层卷积层包括64个3×3的卷积核,步长为1;第5层卷积层包括128个3×3的卷积核,步长为2;第6层卷积层包括128个3×3的卷积核,步长为1;第7层卷积层包括128个8×8的卷积核,输出层第七层的结果直接输出,为一个128维的特征向量;

第二步、第二个卷积神经网络采用的训练集与第一个卷积神经网络的训练集相同,将每批次若干组训练样本送入该网络,计算该网络的损失函数,该网络损失函数具体公式如下:

式中:l'loss为该步骤损失函数计算结果,n为每批次训练样本个数,取值为1024,为图像块pi、qi通过该网络检测输出的描述该特征点的128维特征向量,为计算两个特征点描述向量的距离,表示以pi为基准点,与其他所有负样本的描述向量距离最小值,表示以qi为基准点,与其他所有负样本的描述向量距离最小值,t(pi;(wmn、bmn))表示该网络的输出值;

第三步、通过adma算法优化第二个卷积神经网络的网络参数(wmn、bmn),优化算法公式与第一个卷积神经网络的优化算法相同。

进一步地,所述第三个卷积神经网络通过如下过程搭建:

第一步、第三个卷积神经网络包括2个卷积层、2个下采样层和4个全连接层,其中:第1层为卷积层,包括32个卷积核,步长为1,尺寸均为5×5;第2层为最大池化层,步长为1,使用的最大采样核大小为2×2;第3层为卷积层,包括64个卷积核,步长为1,卷积核大小为2×2;第4层为池化层,降采样核大小为2×2,步长为1;第6、7和第8层为全连接层,神经元个数分别为1024、512和256,最后一层为softmax分类器,输出一个6维的概率序列;

第二步、训练集为印制电路板常见的短路、断路、孔洞、漏孔、毛刺、余铜6类尺寸为64×64的缺陷图像块,且各类缺陷分布比例相同,将训练集中的样本图像随机抽取并输入到该网络中,计算该网络的损失函数,该样本的损失函数计算公式为:

式中,l”loss为该步骤损失函数计算结果,tk为输入样本标签的第k维的值,yk为该预测该样本在第k维的值,k为该样本的缺陷种类,取值为6,r(pi;(wmn、bmn))表示该网络的输出值;

第三步、通过adma算法优化第三个卷积神经网络的网络参数(wmn、bmn),优化算法公式与第一个卷积神经网络的优化算法相同。

进一步地,本发明提供的印制电路板表面缺陷定位与识别方法,应用于缺陷定位与识别系统,所述缺陷定位与识别系统包括相机、环型光源、传送带、计算机和运动控制器,印制电路板设置于传送带上,传送带与运动控制器相连,通过运动控制器控制传送带运动,所述环型光源设置于相机的正下方,所述计算机分别与相机和运动控制器相连,通过相机采集印制电路板的待测图像i(x,y)与模板图像t(x,y),并将其传送给计算机进行后续操作。

综上所述,本发明,首先采集印制电路板待测图像i(x,y)与模板图像t(x,y);其次,使用第一个卷积神经网络得到特征点预测分布图,筛选得到最佳特征点集合pi和pt;然后,使用第二个卷积神经网络计算最佳特征点的描述向量vi和vt,待测图像i(x,y)与模板图像t(x,y)的最佳特征点;接着,根据匹配点计算仿射变换矩阵,并将待测图像i(x,y)投影到模板图像t(x,y)上;再次,计算被投影的待测图像i(x,y)与模板图像t(x,y)的功率谱根据功率谱差异得到待测图像的异常频率分量再通过傅立叶反变换得到疑似缺陷区域d;最后,使用第三个卷积神经网络对疑似缺陷区域d进行识别及分类。本发明所提出的方法可准确地对印制电路板表面缺陷进行定位与识别,能够提前发觉电路板表面缺陷,保障电路板质量,并对环境噪声有一定的鲁棒性。

附图说明

构成本发明的一部分的附图用来提供对本发明的进一步理解,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:

图1为本发明实施例提供的一种印制电路板表面缺陷定位与识别方法的流程图;

图2为缺陷定位与识别系统的结构示意图。

附图说明:

1-相机

2-环型光源

3-传送带

4-计算机

5-运动控制器

6-印制电路板

具体实施方式

需要说明的是,在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本发明。

图1是根据本发明实施例提供的一种印制电路板表面缺陷定位与识别方法的流程图。如图1所示,该方法依次包括图像采集、图像配准、缺陷定位和缺陷识别四个过程,具体地:

(1)图像采集,采集印制电路板待测图像i(x,y)与模板图像t(x,y);

(2)图像配准,通过两个卷积神经网络精确配准待测图像i(x,y)及模板图像t(x,y),得到配准后的待测图像优选地,该步骤分解为以下步骤:

(21)以待测图像i(x,y)的像素点(xi,yi)为中心获取尺寸为32×32的图像块,并将该图像块送入第一个卷积神经网络,得到该像素点(xi,yi)为疑似特征点的预测值socrei,需要说明的是,预测值socrei的取值范围为0-100,预测值越高,该点为特征点的概率越大;

(22)通过预测值socrei获得待测图像i(x,y)的预测值分布图s(x,y),并通过非极大值抑制算法筛选s(x,y)中预测值的所有局部极大值点pi={(xn,yn)|1≤n≤n},将这些点作为待测图像i(x,y)的最终特征点,pi即为最终特征点集合,其中,n为大于1的自然数;

(23)以最终特征点集合pi中所有特征点(xn,yn)为中心,将尺寸为32×32的图像块输入第二个卷积神经网络,得到描述各特征点(xn,yn)的128维特征向量,得到pi所有特征点的描述向量集合

(24)将该待测印制电路板的模板图像t(x,y)同样经过步骤(21)至(23),得到模板图像t(x,y)的特征点集合pt={(xm,ym)|1≤m≤m}及其描述向量其中,m为大于1的自然数;

(25)根据待测图像i(x,y)的最终特征点集合pi与模板图像t(x,y)的特征点集合pt,计算集合pi中任意一个特征点(xn,yn)与集合pt的所有点对应的描述向量的距离,将距离最小的一对特征点作为匹配点,得到匹配点集合h={(xn,yn,xm,ym)|(xn,yn)∈pi,(xm,ym)∈pt,1≤n≤n},距离度量公式为:

式中,为特征点(xn,yn)的128维特征向量的倒置矩阵;

(26)采用随机抽样一致算法计算待测图像i(x,y)到模板图像t(x,y)的仿射变换矩阵t,将待测图像i(x,y)通过仿射变换矩阵投影到模板图像t(x,y)上,得到配准后的待测图像

(3)缺陷定位,将配准后的待测图像与模板图像t(x,y)通过傅立叶变换及反变换,定位疑似缺陷区域d={dect(xi,yi,wi,hi)|0<i<k},其中,dect(xi,yi,wi,hi)为坐标在(xi,yi),长、宽为wi,hi的矩形区域,k为大于0的自然数,优选地,步骤(3)缺陷定位具体包括以下步骤:

(31)灰度化步骤(2)中配准后的待测图像与模板图像t(x,y),并将两幅图像分别分割为36块尺寸为120×120的局部图像通过傅立叶变换求得所有局部图像的频域谱及功率谱具体计算公式为:

式中,(x,y)为大小m×n的原图像上的一点,原图像矩阵所在的坐标系称为空间域,f(u,v)为输入图像的二维傅立叶变换后的频域矩阵,其所在坐标系即为频域,u和v用于确定正余弦的频率,p(u,v)为原图像的功率谱;

(32)将功率谱转换为极坐标形式对于沿着任意方向θ的匹配图像功率谱计算配准后待测图像块与模板图像块t(x,y)i的异常频率分量计算公式为:

式中,c取值1.25,分别表示极坐标形式下待测图像块距离功率谱中心角度为θ、长度为γ-1、γ 1处的功率谱值,pt(γ-1,θ)i、pt(γ 1,θ)i分别表示极坐标形式下模板图像块t(x,y)i距离功率谱中心角度为θ、长度为γ-1、γ 1处的功率谱值;

(33)将得到的异常频率分量保留,其他频率分量置为0,得到异常频率谱,将异常频率谱通过傅立叶反变换为空间域图像,并将该空间域像素值为1的区域分割成多个不同大小的连通域,这些连通域的最小外接矩阵框的集合d={dect(xi,yi,wi,hi)|0<i<k},即为原图像i(x,y)中疑似缺陷的位置;

(4)缺陷识别,将集合d中疑似缺陷区域图像块输入第三个卷积神经网络,进行缺陷识别,得到缺陷类型,优选地,步骤(4)缺陷识别具体包括以下步骤:

(41)将原图像i(x,y)在疑似缺陷位置框dect(xi,yi,wi,hi)上的图像裁剪成图像块decti(xi,yi,wi,hi);

(42)将图像块decti(xi,yi,wi,hi)送入第三个卷积神经网络,得到该疑似区域的缺陷识别概率分布{re1,re2,re3,re4,re5,re6},其中1~6分别代表印制电路板上常见的短路、断路、孔洞、漏孔、毛刺、余铜六类缺陷,将输出序列中概率最高的一类作为疑似区域的缺陷类别,即得到最终的识别结果。

通过其上描述,本发明,首先采集印制电路板待测图像i(x,y)与模板图像t(x,y);其次,使用第一个卷积神经网络得到特征点预测分布图,筛选得到最佳特征点集合pi和pt;然后,使用第二个卷积神经网络计算最佳特征点的描述向量vi和vt,待测图像i(x,y)与模板图像t(x,y)的最佳特征点;接着,根据匹配点计算仿射变换矩阵,并将待测图像i(x,y)投影到模板图像t(x,y)上;再次,计算被投影的待测图像i(x,y)与模板图像t(x,y)的功率谱根据功率谱差异得到待测图像的异常频率分量再通过傅立叶反变换得到疑似缺陷区域d;最后,使用第三个卷积神经网络对疑似缺陷区域d进行识别及分类。本发明所提出的方法可准确地对印制电路板表面缺陷进行定位与识别,能够提前发觉电路板表面缺陷,保障电路板质量,并对环境噪声有一定的鲁棒性。

同时,作为本发明的优选实施例,步骤(21)中第一个卷积神经网络搭建过程如下:

第一步、第一个卷积神经网络包括3个卷积层、3个池化层和2个全连接层,其中:第1层为卷积层,包括10个卷积核,步长为1,尺寸均为5×5;第2层为池化层,步长为1,使用的最大采样核大小为5×5;第3层为卷积层,包括50个卷积核,步长为1,卷积核大小为5×5;第4层为池化层,降采样核大小为2×3,步长为1;第5层为卷积层,包括100个卷积核,步长为1,卷积核大小为3×3;第6层为池化层,降采样核大小为2×2,步长为1;第7和第8层均为全连接层,神经元个数分别为500和100,最后一层为累加器,输出一个0-100范围内的预测值;

第二步、收集生产过程中不同环境下、不同尺寸的各类印制电路板图像,将收集的图像通过dog(加密狗)检测器筛选其中相同物理位置多次出现在不同图像的可重复点,将这些可重复点所在的64×64区域的图像块作为卷积神经网络的训练样本,训练样本分批次送入该网络,每批次包括若干组训练样本,且通过如下公式计算该网络的损失函数:

式中,lloss为该步骤损失函数计算结果,lc(w,b)表示分类损失,lt(w,b)表示调节损失,ω表示超参数,pi为输入的以(xi,yi)为中心点的尺寸为5×5的图像块,wmn、bmn为该神经网络参数,γclass、γt为超参数,分别设为0.5、1,k为一批次训练样本数,设定为1024;s(pi;(wmn、bmn))表示该网络的输出值,当输入图像块为正样本时,yi=1,当输入图像块为负样本时,yi=-1;

需要说明的是,该步骤中网络的训练集包括100万张包含可重复点的训练样本,将每批次若干组训练样本送入该网络,一批次训练样本包括{((p1,a1,b1,c1)、...、(pi,ai,bi,ci)、...、(p1024,a1024,b1024,c1024))},其中pi为基准点所在的图像块,ai为pi匹配点所在图像块,bi为pi的任意非匹配点图像块,ci为不包含任何特征点的图像块,每次将一批次1024组训练样本送入该网络;

第三步、通过adma算法(该算法是一种在深度学习模型中用来替代随机梯度下降的优化算法)优化该网络的网络参数(wmn、bmn),优化算法具体公式如下:

式中,m的取值为1024,jθ为输入一批次1024组训练样本得到的最小二乘损失函数值,gt为时刻t的最小二乘损失函数jθ的梯度,mt、nt分别为时刻t的初始化一阶矩、二阶矩向量,μ、v均为矩估计指数衰减率,分别设为0.9、0.999,θ为网络权值,η为学习率,ε取值10-8

进一步地,本发明第二个卷积神经网络通过如下过程搭建:

第一步、第二个卷积神经网络的网络结构包括7层卷积层,其中:第1、2层卷积层包括32个3×3的卷积核,步长为1;第3层卷积层包括64个3×3的卷积核,步长为2;第4层卷积层包括64个3×3的卷积核,步长为1;第5层卷积层包括128个3×3的卷积核,步长为2;第6层卷积层包括128个3×3的卷积核,步长为1;第7层卷积层包括128个8×8的卷积核,输出层第七层的结果直接输出,为一个128维的特征向量;

第二步、第二个卷积神经网络采用的训练集与第一个卷积神经网络的训练集相同,将每批次若干组训练样本送入该网络,计算该网络的损失函数,该网络损失函数具体公式如下:

式中:l'loss为该步骤损失函数计算结果,n为每批次训练样本个数,取值为1024,为图像块pi、qi通过该网络检测输出的描述该特征点的128维特征向量,为计算两个特征点描述向量的距离,表示以pi为基准点,与其他所有负样本的描述向量距离最小值,表示以qi为基准点,与其他所有负样本的描述向量距离最小值,t(pi;(wmn、bmn))表示该网络的输出值;

需要说明的是,该步骤中每批次训练样本包括其中,qi为pi匹配点图像块,为pi的非匹配点图像块;

第三步、通过adma算法优化该网络的网络参数(wmn、bmn),优化算法公式与第一个卷积神经网络的优化算法相同。

此外,值得提及的是,本发明第三个卷积神经网络通过如下过程搭建:

第一步、第三个卷积神经网络包括2个卷积层、2个下采样层和4个全连接层,其中:第1层为卷积层,包括32个卷积核,步长为1,尺寸均为5×5;第2层为最大池化层,步长为1,使用的最大采样核大小为2×2;第3层为卷积层,包括64个卷积核,步长为1,卷积核大小为2×2;第4层为池化层,降采样核大小为2×2,步长为1;第6、7和第8层为全连接层,神经元个数分别为1024、512和256,最后一层为softmax分类器,输出一个6维的概率序列;

第二步、训练集为印制电路板常见的短路、断路、孔洞、漏孔、毛刺、余铜6类尺寸为64×64的缺陷图像块,且各类缺陷分布比例相同,将训练集中的样本图像随机抽取并输入到该网络中,计算该网络的损失函数,该样本的损失函数计算公式为:

式中,l”loss为该步骤损失函数计算结果,tk为输入样本标签的第k维的值,yk为该预测该样本在第k维的值,k为该样本的缺陷种类,取值为6,r(pi;(wmn、bmn))表示该网络的输出值;

需要说明的是,该步骤中64×64的缺陷图像块,数量为120000张左右大小为120000张左右,由于短路、断路、孔洞、漏孔、毛刺、余铜6类缺陷分布比例相同,因此,每类数量为20000张左右;

第三步、通过adma算法优化第三个卷积神经网络的网络参数(wmn、bmn),优化算法公式与第一个卷积神经网络的优化算法相同。

由其上描述可知,本发明使用了三个卷积神经网络:第一个卷积神经网络计算像素点为疑似特征点的预测值;第二个卷积神经网络计算特征点的描述向量;第三个卷积神经网络识别疑似缺陷区域的缺陷类别。上述三个卷积神经网络为准确地对印制电路板表面缺陷进行定位与识别提供了先决条件。

在进一步的技术方案中,本发明的方法,应用于缺陷定位与识别系统,具体地,如图2所示,该缺陷定位与识别系统包括相机1、环型光源2、传送带3、计算机4和运动控制器5,印制电路板6设置于传送带3上,传送带3与运动控制器5相连,通过运动控制器5控制传送带3运动,环型光源2设置于相机1的正下方,计算机4分别与相机1和运动控制器5相连,通过相机1采集印制电路板6的待测图像i(x,y)与模板图像t(x,y),并将其传送给计算机4进行后续操作。通过该设置,保证了印制电路板表面缺陷定位与识别的可实现性。

以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。


技术特征:

1.一种印制电路板表面缺陷定位与识别方法,其特征在于,包括如下步骤:

(1)图像采集:采集印制电路板待测图像i(x,y)与模板图像t(x,y);

(2)图像配准:通过两个卷积神经网络精确配准待测图像i(x,y)及模板图像t(x,y),得到配准后的待测图像

(3)缺陷定位:将配准后的待测图像与模板图像t(x,y)通过傅立叶变换及反变换,定位疑似缺陷区域d={dect(xi,yi,wi,hi)|0<i<k},其中,dect(xi,yi,wi,hi)为坐标在(xi,yi),长、宽为wi,hi的矩形区域,k为大于0的自然数;

(4)缺陷识别:将集合d中疑似缺陷区域图像块输入第三个卷积神经网络,进行缺陷识别,得到缺陷类型。

2.根据权利要求1所述的印制电路板表面缺陷定位与识别方法,其特征在于,所述步骤(2)图像配准具体包括以下步骤:

(21)以待测图像i(x,y)的像素点(xi,yi)为中心获取尺寸为32×32的图像块,并将该图像块送入第一个卷积神经网络,得到该像素点(xi,yi)为疑似特征点的预测值socrei;

(22)通过预测值socrei获得待测图像i(x,y)的预测值分布图s(x,y),并通过非极大值抑制算法筛选s(x,y)中预测值的所有局部极大值点pi={(xn,yn)|1≤n≤n},将这些点作为待测图像i(x,y)的最终特征点,pi即为最终特征点集合,其中,n为大于1的自然数;

(23)以最终特征点集合pi中所有特征点(xn,yn)为中心,将尺寸为32×32的图像块输入第二个卷积神经网络,得到描述各特征点(xn,yn)的128维特征向量,得到pi所有特征点的描述向量集合

(24)将该待测印制电路板的模板图像t(x,y)同样经过步骤(21)至(23),得到模板图像t(x,y)的特征点集合pt={(xm,ym)|1≤m≤m}及其描述向量其中,m为大于1的自然数;

(25)根据待测图像i(x,y)的最终特征点集合pi与模板图像t(x,y)的特征点集合pt,计算集合pi中任意一个特征点(xn,yn)与集合pt的所有点对应的描述向量的距离,将距离最小的一对特征点作为匹配点,得到匹配点集合h={(xn,yn,xm,ym)|(xn,yn)∈pi,(xm,ym)∈pt,1≤n≤n},距离度量公式为:

式中,为特征点(xn,yn)的128维特征向量的倒置矩阵;

(26)采用随机抽样一致算法计算待测图像i(x,y)到模板图像t(x,y)的仿射变换矩阵t,将待测图像i(x,y)通过仿射变换矩阵投影到模板图像t(x,y)上,得到配准后的待测图像

3.根据权利要求2所述的印制电路板表面缺陷定位与识别方法,其特征在于,所述步骤(3)缺陷定位具体包括以下步骤:

(31)灰度化步骤(2)中配准后的待测图像与模板图像t(x,y),并将两幅图像分别分割为36块尺寸为120×120的局部图像通过傅立叶变换求得所有局部图像的频域谱及功率谱具体计算公式为:

式中,(x,y)为大小m×n的原图像上的一点,原图像矩阵所在的坐标系称为空间域,f(u,v)为输入图像的二维傅立叶变换后的频域矩阵,其所在坐标系即为频域,u和v用于确定正余弦的频率,p(u,v)为原图像的功率谱;

(32)将功率谱转换为极坐标形式对于沿着任意方向θ的匹配图像功率谱计算配准后待测图像块与模板图像块t(x,y)i的异常频率分量计算公式为:

式中,c取值1.25,分别表示极坐标形式下待测图像块距离功率谱中心角度为θ、长度为γ-1、γ 1处的功率谱值,pt(γ-1,θ)i、pt(γ 1,θ)i分别表示极坐标形式下模板图像块t(x,y)i距离功率谱中心角度为θ、长度为γ-1、γ 1处的功率谱值;

(33)将得到的异常频率分量保留,其他频率分量置为0,得到异常频率谱,将异常频率谱通过傅立叶反变换为空间域图像,并将该空间域像素值为1的区域分割成多个不同大小的连通域,这些连通域的最小外接矩阵框的集合d={dect(xi,yi,wi,hi)|0<i<k},即为原图像i(x,y)中疑似缺陷的位置。

4.根据权利要求3所述的印制电路板表面缺陷定位与识别方法,其特征在于,所述步骤(4)缺陷识别具体包括以下步骤:

(41)将原图像i(x,y)在疑似缺陷位置框dect(xi,yi,wi,hi)上的图像裁剪成图像块decti(xi,yi,wi,hi);

(42)将图像块decti(xi,yi,wi,hi)送入第三个卷积神经网络,得到该疑似区域的缺陷识别概率分布{re1,re2,re3,re4,re5,re6},其中1~6分别代表印制电路板上常见的短路、断路、孔洞、漏孔、毛刺、余铜六类缺陷,将输出序列中概率最高的一类作为疑似区域的缺陷类别,即得到最终的识别结果。

5.根据权利要求2所述的印制电路板表面缺陷定位与识别方法,其特征在于,所述步骤(21)中第一个卷积神经网络搭建过程如下:

第一步、第一个卷积神经网络包括3个卷积层、3个池化层和2个全连接层,其中:第1层为卷积层,包括10个卷积核,步长为1,尺寸均为5×5;第2层为池化层,步长为1,使用的最大采样核大小为5×5;第3层为卷积层,包括50个卷积核,步长为1,卷积核大小为5×5;第4层为池化层,降采样核大小为2×3,步长为1;第5层为卷积层,包括100个卷积核,步长为1,卷积核大小为3×3;第6层为池化层,降采样核大小为2×2,步长为1;第7和第8层均为全连接层,神经元个数分别为500和100,最后一层为累加器,输出一个0-100范围内的预测值;

第二步、收集生产过程中不同环境下、不同尺寸的各类印制电路板图像,将收集的图像通过dog检测器筛选其中相同物理位置多次出现在不同图像的可重复点,将这些可重复点所在的64×64区域的图像块作为卷积神经网络的训练样本,训练样本分批次送入该网络,每批次包括若干组训练样本,且通过如下公式计算该网络的损失函数:

式中,lloss为该步骤损失函数计算结果,lc(w,b)表示分类损失,lt(w,b)表示调节损失,ω表示超参数,pi为输入的以(xi,yi)为中心点的尺寸为5×5的图像块,wmn、bmn为该神经网络参数,γclass、γt为超参数,分别设为0.5、1,k为一批次训练样本数,设定为1024;s(pi;(wmn、bmn))表示该网络的输出值,当输入图像块为正样本时,yi=1,当输入图像块为负样本时,yi=-1;

第三步、通过adma算法优化第一个卷积神经网络的网络参数(wmn、bmn),优化算法具体公式如下:

式中,m的取值为1024,jθ为输入一批次1024组训练样本得到的最小二乘损失函数值,gt为时刻t的最小二乘损失函数jθ的梯度,mt、nt分别为时刻t的初始化一阶矩、二阶矩向量,μ、v均为矩估计指数衰减率,分别设为0.9、0.999,θ为网络权值,η为学习率,ε取值10-8

6.根据权利要求5所述的印制电路板表面缺陷定位与识别方法,其特征在于,所述第二个卷积神经网络搭建过程如下:

第一步、第二个卷积神经网络的网络结构包括7层卷积层,其中:第1、2层卷积层包括32个3×3的卷积核,步长为1;第3层卷积层包括64个3×3的卷积核,步长为2;第4层卷积层包括64个3×3的卷积核,步长为1;第5层卷积层包括128个3×3的卷积核,步长为2;第6层卷积层包括128个3×3的卷积核,步长为1;第7层卷积层包括128个8×8的卷积核,输出层第七层的结果直接输出,为一个128维的特征向量;

第二步、第二个卷积神经网络采用的训练集与第一个卷积神经网络的训练集相同,将每批次若干组训练样本送入该网络,计算该网络的损失函数,该网络损失函数具体公式如下:

式中:l’loss为该步骤损失函数计算结果,n为每批次训练样本个数,取值为1024,为图像块pi、qi通过该网络检测输出的描述该特征点的128维特征向量,为计算两个特征点描述向量的距离,表示以pi为基准点,与其他所有负样本的描述向量距离最小值,表示以qi为基准点,与其他所有负样本的描述向量距离最小值,t(pi;(wmn、bmn))表示该网络的输出值;

第三步、通过adma算法优化第二个卷积神经网络的网络参数(wmn、bmn),优化算法公式与第一个卷积神经网络的优化算法相同。

7.根据权利要求5所述的印制电路板表面缺陷定位与识别方法,其特征在于,所述第三个卷积神经网络通过如下过程搭建:

第一步、第三个卷积神经网络包括2个卷积层、2个下采样层和4个全连接层,其中:第1层为卷积层,包括32个卷积核,步长为1,尺寸均为5×5;第2层为最大池化层,步长为1,使用的最大采样核大小为2×2;第3层为卷积层,包括64个卷积核,步长为1,卷积核大小为2×2;第4层为池化层,降采样核大小为2×2,步长为1;第6、7和第8层为全连接层,神经元个数分别为1024、512和256,最后一层为softmax分类器,输出一个6维的概率序列;

第二步、训练集为印制电路板常见的短路、断路、孔洞、漏孔、毛刺、余铜6类尺寸为64×64的缺陷图像块,且各类缺陷分布比例相同,将训练集中的样本图像随机抽取并输入到该网络中,计算该网络的损失函数,该样本的损失函数计算公式为:

式中,l”loss为该步骤损失函数计算结果,tk为输入样本标签的第k维的值,yk为该预测该样本在第k维的值,k为该样本的缺陷种类,取值为6,r(pi;(wmn、bmn))表示该网络的输出值;

第三步、通过adma算法优化第三个卷积神经网络的网络参数(wmn、bmn),优化算法公式与第一个卷积神经网络的优化算法相同。

8.根据权利要求1至7中任一项所述的印制电路板表面缺陷定位与识别方法,其特征在于,应用于缺陷定位与识别系统,所述缺陷定位与识别系统包括相机、环型光源、传送带、计算机和运动控制器,印制电路板设置于传送带上,传送带与运动控制器相连,通过运动控制器控制传送带运动,所述环型光源设置于相机的正下方,所述计算机分别与相机和运动控制器相连,通过相机采集印制电路板的待测图像i(x,y)与模板图像t(x,y),并将其传送给计算机进行后续操作。

技术总结
本发明公开了一种印制电路板表面缺陷定位与识别方法,首先采集印制电路板待测图像与模板图像;其次,使用第一个卷积神经网络得到特征点预测分布图,筛选得到最佳特征点;然后,使用第二个卷积神经网络计算最佳特征点的描述向量,匹配待测图像与模板图像的最佳特征点;接着,根据匹配点计算仿射变换矩阵,并将待测图像投影到模板图像上;再次,计算被投影的待测图像与模板图像的功率谱,根据功率谱差异得到待测图像的异常频率分量,再通过傅立叶反变换得到疑似缺陷区域;最后,使用第三个卷积神经网络对疑似缺陷区域进行识别及分类。本发明可准确地对印制电路板表面缺陷进行定位与识别,保障电路板质量,并对环境噪声有一定的鲁棒性。

技术研发人员:袁小芳;谢黎;刘琛;王耀南
受保护的技术使用者:湖南大学
技术研发日:2020.01.14
技术公布日:2020.06.09

转载请注明原文地址: https://bbs.8miu.com/read-10587.html

最新回复(0)