本发明属于大地电磁信号处理,具体涉及一种基于时频域融合网络的大地电磁信号去噪方法及系统。
背景技术:
1、大地电磁测深(mt)于20世纪50年代由a.n.tikhonov和l.cagnird提出,mt法是利用高空垂直入射的天然交变电磁波为激励场源,通过在地表观测相互正交的电场和磁场来研究地下地质体电性结构的一种地球物理勘探方法。基于高频电磁波向地下穿透深度小,低频电磁波穿透深度大的原理,通过在地面一点主要观测频率范围为的大地电磁脉动信号,并经数据处理和分析,求得反映该点不同深度电性分布的大地电磁测深视电阻率曲线,以及计算出阻抗张量,进而做出地质解释。由于大地电磁测深法具有无需人工源、对人工要求小、工作成本低、不受高阻层屏蔽、对低阻层敏感、勘探深度大、分辨能力较强、等值范围较窄等优点,广泛用于油气田、地热田等的普查与勘探,具有探测高阻覆盖层以下的地质构造优势。但是,频带范围极宽的天然大地电磁信号非常微弱,尤其在矿集区,极易受到各种野外通信设施,人文噪声的干扰,导致大地电磁数据质量急剧下降,导致数据已经不能客观反映地下电性结构。
2、国内外学者针对不同噪声提出了许多现代信号处理技术,如消除同源相关电磁噪声的远参考大地电磁测深法,消除高斯分布噪声的robust统计方法,去除非相关噪声的最小二乘法,以及小波变换,hilbert-huang变换、数学形态滤波、稀疏分解、k-svd字典学习等方法均被广泛应用于该领域,都能在一定程度上去除噪声干扰,改善数据质量。但传统现有方法尚存不足,极易过处理造成低频信息丢失。随着人工智能机器学习学科的不断发展进步,把深度学习神经网络应用到大地电磁领域已成为新的趋势。如cnn,lstm、以及相结合的cnn-lstm神经网络。但是现有的神经网络如cnn和lstm网络容易出现梯度爆炸等问题,因此研究不同类型神经网络的应用及其效果,探究如何提升大地电磁信号降噪精度是本领域的研究热点。
技术实现思路
1、本发明的目的是为了提高大地电磁信号降噪精度,提供了一种基于时频域融合网络的大地电磁信号去噪方法及系统,即提出将一种基于双向坐标注意力机制的快速傅里叶变换残差网络应用于大地电磁信号降噪,其中,首次将双向坐标注意力机制和快速傅里叶变换引入神经网络,用于大地电磁降噪处理,扩展了大地电磁领域的降噪技术。在处理大地电磁信号降噪时目的在于把噪声和纯净信号精确有效区分开来,本发明技术方案引入的双向坐标注意力机制,并非对一整段所有的大地电磁数据都有同样的关注度,然而选择性关注含噪比较明显或者比较多的数据,进而提取更丰富、更深层的大地电磁信号特征,增强网络的能力。引入快速傅里叶变换形成神经算子ffc(fast fourier convolution),可以在神经网络中进行非局部推理和生成。因此,本发明的技术方案相比于传统的cnn,lstm网络在效率和性能上均有较大的提高,面对大地电磁复杂的噪声环境和大尺度强干扰,具有更强的小目标提取能力,速度和精度也都更优,即有效提升了大地电磁信号降噪精度。
2、一方面,本发明提供的一种基于时频域融合网络的大地电磁信号去噪方法,包括以下步骤:
3、步骤s1:构建大地电磁的含噪信号样本库、以及噪声轮廓样本库或纯净信号样本库;
4、其中,所述噪声轮廓样本库的噪声轮廓样本是所述含噪信号样本库中大地电磁信号样本的对应噪声轮廓,所述纯净信号样本库的纯净信号样本是所述含噪信号样本库中大地电磁信号样本的对应纯净信号;
5、步骤s2:基于大地电磁信号样本及其噪声轮廓样本或纯净信号样本库训练出基于双向坐标注意力机制的快速傅里叶变换残差网络的降噪映射模型;
6、其中,所述降噪映射模型的输入为大地电磁含噪信号,输出为纯净信号或噪声轮廓;所述降噪映射模型的网络架构包括依次连接的输入层、双向坐标注意力机制模块bca、融合ffc神经算子的resnext残差网络、输出层;
7、步骤s3:将待降噪的大地电磁信号输入至所述降噪映射模型得到纯净信号或噪声轮廓,其中,将待降噪的大地电场信号减去噪声轮廓为纯净信号,实现大地电磁信号去噪。
8、本发明技术方案提供的降噪映射模型的网络是以残差网络为基础,结合双向坐标注意力机制和基于快速傅里叶变换形成的ffc神经算子构成的。引入的双向坐标注意力机制能够选择性关注含噪比较明显或者比较多的数据,进而提取更丰富、更深层的大地电磁信号特征,增强网络的能力。神经算子ffc将通道分成局部和全局分支,局部分支使用传统的卷积法进行特征图的局部更新;全局分支对特征图进行傅里叶变换,并在影响全局的谱域中对其进行更新,使得在各个维度上都获得全局感受野,对网络效率有大幅度的提升。
9、可选地,所述双向坐标注意力机制模块分成水平和垂直两通道,水平和垂直两通道上分别设有一维水平平均池化、随后通过concat层实现输入数据的拼接,统一接入一个一维卷积,进而构成aca模块;然后,aca模块的输出分别接入水平和垂直两通道上的最大池化,再经正则化以及sigmoid激活函数,进而构成mca模块;接着,mca模块的输出分别连接水平、垂直通道上的一维卷积、sigmoid激活函数,接入权值重分配层和全连接层,最后加入回归层进行输出。
10、可选地输入信号x={x0,x1,...,xc}至所述双向坐标注意力机制模块,x0,x1,xc分别对应输入信号x中第1个、第2个、第c+1个信号,所述双向坐标注意力机制模块的数据处理过程如下:
11、首先将输入信号x={x0,x1,...,xc}输入至aca模块,输出结果yaca:
12、
13、接着,将aca模块的输出yaca作为mca模块的输入,输出ymca:
14、
15、然后,将mca模块的输出经过系列线性变换层作为bca的总输出,output[(xbca)]表示通过bca注意力机制的最后一个输出:
16、
17、本文设计的一维双向坐标注意力模块利用两个并行的一维特征编码,将信道和空间协调信息合并到特征中,增强了注意力的空间范围,并且能够帮助网络更准确地定位目标信息,增强识别能力时间维度上,将坐标注意力机制模块输出输入至残差网络。
18、可选地,resnext残差网络分为三层,每一层均设有多个分支;其中,第一层的每个分支均采用1×1卷积,第二层的每个分支均将3×1普通卷积层替换为融入ffc神经算子的组卷积层,即对输入矩阵的多通道进行分组,在每个分组中引入ffc神经算子;第三层的每个分支均采用1×1卷积;最后,将第三层的每个分支的输出合并,再与resnext残差网络输入数据合并作为输出结果;
19、其中,所述ffc神经算子表示将对应分组的所有普通卷积中至少一个普通卷积替换为频域变换结构。
20、可选地,resnext残差网络中第二层是将输入矩阵的256通道划分为64组,每分组设有4通道,依次设置3个普通卷积和1个频域变换结构;
21、其中,所述3个普通卷积均为二维普通卷积,2个二维普通卷积并行设置,作为局部分支;1个二维普通卷积以及1个频域变换结构并行设置,作为全局分支。
22、可选地,所述频域变换结构为:卷积层连接bn网络层再连接relu激活函数,紧接着连接实部傅里叶变换,再连接卷积层、bn网络层、relu激活函数和虚部傅里叶变换,最后,在实部傅里叶变换加入跨层连接,进而将卷积层和bn网络层再连接relu激活函数层的输入与虚部傅里叶变换的输入合并输入到1×1卷积卷积层。
23、局部分支使用传统的卷积法进行特征图的局部更新。全局分支对特征图进行傅里叶变换,并在影响全局的谱域中对其进行更新。下文实例中局部分支包含两个并行的二维卷积,卷积核大小均为3×1,卷积核个数为128,全局分支包含一个普通二维卷积分支,以及与其并行的频域变换结构,首先是卷积层连接bn网络层再连接relu激活函数,紧接着连接实部傅里叶变换,再连接卷积层、bn网络层、relu激活函数和虚部傅里叶变换。然后,将此ffc模块融合进入残差网络结构。
24、频率维度建模基于快速傅里叶变换卷积实现,ffc神经算子使用通道式快速傅里叶变换,然后是点式卷积和反傅里叶变换,因此它对傅里叶变换中涉及的各维度的输入张量产生全局影响。将ffc算子融入残差网络的第二层,将应用分组卷积的之后的通道融入ffc。
25、可选地,双向坐标注意力机制模块bca的输出先经过残差网络的卷积层得到得到特征fg,fl;
26、
27、所述全局分支的频率变换结构分为两条通道进行数据处理,其中,第一条通道是在输入特征图的频率维度上应用真实的单维快速傅里叶变换,并在通道维度上将频谱的实部和虚部连接起来:
28、
29、式中,表示经过傅里叶变换的特征频谱;
30、第二条通道是使用传统的卷积法,表示为:
31、
32、式中,表示所述全局分支的第二条通道使用传统卷积的输出;
33、进而频率变换结构将两条通道输出进行连接:
34、f(l,g)=concat(fl,fg)
35、式中表示两通道连接之后的输出;
36、接着,在频域应用一维卷积块依次经过conv连接、bn层、relu激活函数,最后利用傅里叶反变换,恢复为时域信号:
37、ffcout1=ifft1d(relu(bn(conv(f(l,g)))))
38、式中,ffcout1表示时域变换部分的输出,bn(·)表示批量归一化运算;
39、所述时域变换结构的输出ffcout1与所述全局分支的另一个3×1二维普通卷积的输出convout分别经过正则化和relu激活函数之后得到输出ffcout;
40、
41、所述局部分支上输入信号经过卷积、正则化和relu激活函数之后得到输出convout,所述输出ffcout与所述输出convout均作为残差网络第三层的输入信号,最后经过输出层得到目标信号,即噪声轮廓或纯净信号。
42、此神经算子使用通道式快速傅里叶变换,然后是点式卷积和反傅里叶变换,因此它对傅里叶变换中涉及的各维度的输入张量产生全局影响。神经算子ffc将通道分成局部和全局分支,局部分支使用传统的卷积法进行特征图的局部更新;全局分支对特征图进行傅里叶变换,并在影响全局的谱域中对其进行更新。
43、综上,本发明提供的bca,ffcnet模块包括双向坐标注意力模块(aca、mca),时间维度建模,频率维度建模;双坐标注意力机制提取位置信息,时间维度建模使用残差网络模块实现,用于时域信息;频率维度建模基于快速傅里叶变换卷积。
44、可选地,所述含噪信号样本库的构建过程为:
45、步骤s11:观测大量含噪数据,利用数学函数分别构造分段长度相同、噪声宽度不同的多类噪声的噪声轮廓样本子库;
46、其中,噪声类别包括三角波、类三角波、脉冲波、类脉冲波,方波,类方波以及其任意组合;
47、步骤s12:逐次改变噪声轮廓样本子库中噪声轮廓的时序位置,得到若干长度相同噪声波形位置不同的噪声轮廓样本子库;
48、步骤s13:针对各类噪声对应的噪声轮廓样本子库,对噪声轮廓进行翻转变换,适应含噪信号的噪声特征。改变每一类噪声所有噪声轮廓的幅值,得到各类噪声不同幅值的噪声轮廓样本子库。改变噪声逐次改变噪声轮廓样本子库中噪声轮廓的时序位置,得到若干长度相同噪声波形位置不同的噪声轮廓样本子库;
49、其中,得到的各类噪声对应的噪声轮廓样本子库组成所述噪声轮廓样本库。
50、可选地,步骤s11中各类噪声宽度的噪声轮廓样本的获取过程为:分段长度为k的噪声轮廓中干扰数据轮廓的起始位置,依次改变若干次干扰数据轮廓的结束位置,得到若干个长度为k、噪声宽度不同的噪声轮廓样本,进而得到各类噪声的噪声轮廓样本库。
51、可选地,步骤s12中各类噪声波形位置的噪声轮廓样本的获取过程为:
52、对各类噪声的噪声轮廓样本库l进行位置平移改变噪声轮廓中干扰数据轮廓的起始位置,得到噪声轮廓多样性样本库l′,表示为如下:
53、
54、式中,噪声轮廓样本库l的长度为n,由若干噪声轮廓样本组成;第1个至第个元素由0组成,第个至第n个元素由l1至组成。其中表示0的个数,且
55、其中,依次改变若干次值,得到若干组噪声起始位置不同的噪声轮廓。
56、可选地,步骤s1中含噪信号样本库的构建过程为:
57、构建纯净信号样本库,其中,选取与噪声轮廓样本库相同长度且幅值接近实测大地电磁无干扰数据的高斯白噪声;再将纯净信号样本库和噪声轮廓样本库一一对应相加得到含噪信号样本库。
58、本发明技术方案从构造样本库的角度出发,基于通常认为含噪数据由受干扰数据和无干扰数据组成,其中无干扰数据即纯净信号数据,受干扰数据即噪声轮廓数据,对此分别构建纯净信号样本库、噪声轮廓样本库和含噪信号样本库。通过样本库可的训练可以得到含噪数据与纯净数据之间的映射关系,其中,优选纯净信号样本库中高斯白噪声与实测大地电磁无干扰数据的幅值相等。
59、二方面,本发明提供一种基于时频域融合网络大地电磁信号去噪方法的系统,其包括:
60、样本库构建模块,用于构建大地电磁的含噪信号样本库、以及噪声轮廓样本库或纯净信号样本库;
61、其中,所述噪声轮廓样本库的噪声轮廓样本是所述含噪信号样本库中大地电磁信号样本的对应噪声轮廓,所述纯净信号样本库的纯净信号样本是所述含噪信号样本库中大地电磁信号样本的对应纯净信号;
62、降噪映射模型构建模块,用于基于大地电磁信号样本及其噪声轮廓样本或纯净信号样本库训练出基于双向坐标注意力机制的快速傅里叶变换残差网络的降噪映射模型;
63、其中,所述降噪映射模型的输入为大地电磁含噪信号,输出为纯净信号或噪声轮廓;所述降噪映射模型的网络架构包括依次连接的输入层、双向坐标注意力机制模块bca、融合ffc神经算子的resnext残差网络、输出层;
64、降噪模块,用于将待降噪的大地电磁信号输入至所述降噪映射模型得到纯净信号或噪声轮廓,其中,将待降噪的大地电场信号减去噪声轮廓为纯净信号,实现大地电磁信号去噪。
65、三方面,本发明还提供一种计算机终端,至少包含:
66、一个或多个处理器;
67、存储了一个或多个计算机程序的存储器;
68、其中,所述处理器调用所述计算机程序以实现:
69、一种基于时频域融合网络的大地电磁信号去噪方法的步骤。
70、四方面,本发明还提供一种计算机可读存储介质,存储了计算机程序,所述计算机程序被处理器调用以实现:
71、一种基于时频域融合网络的大地电磁信号去噪方法的步骤。
72、有益效果
73、1.本发明技术方案提供的基于时频域融合网络的大地电磁信号去噪方法,引入坐标注意力机制大地电磁信号降噪技术中,坐标注意力机制是由2021年cvpr提出的最新的注意力机制,是cbam与se的改进,实验结果表明ca的效果优于se与cbam,本发明在ca的基础上,融合平均池化坐标注意力机制(aca)和最大池化坐标注意力机制(mca)提出双向坐标注意力机制(bca)。促使本发明所述方法并非对一整段所有的大地电磁数据都有同样的关注度,本发明关注特征明显的大尺度噪声数据,增强网络的能力。在mt实测数据中,许多大规模复杂噪声将纯净数据淹没。如何在提取噪声轮廓的同时减小纯净数据对结果的影响是一个关键问题。相较于传统的ca机制,只采用平均池化提取噪声特征,但是有必要减小纯净数据对噪声轮廓提取的影响,最大池化提取的信息同样重要,因此本发明提出了一种结合avgpool和max pool的bca,对ca机制进行池化拓展,多样化的池化方式和重复的信息利用,使其大地电磁数据去噪精度提高。
74、2.本发明技术方案在神经网络里面融入ffc快速傅里叶变换卷积,由于传统网络模型受到感受野的限制,增大感受野只能加深网络层数或者改变卷积方式,这势必会导致网络参数急速增多,不利于网络训练学习,将快速傅里叶变换引入神经网络,在频域中对其进行特征学习,能在各个维度上都获得全局感受野,对网络效率有大幅度的提升,且首次将大地电磁信号的频域与时域都融合在神经网络中,进行去噪任务。网络利用残差结构结合跳跃卷积,能有效改善网络退化,梯度爆炸等问题,能提取更丰富、深层的大地电磁信号特征,提升了网络的训练精度;
75、3.本发明技术方案利用残差结构,能有效改善网络退化,梯度爆炸等问题,且将其中的普通卷积替换为分组卷积,分组卷积在不明显增加参数量级的情况下提升了模型的准确率,同时由于拓扑结构相同,超参数也减少了,提升了网络的训练效率;
76、4.本发明技术方案可以利用映射模型直接映射出纯净信号,也可以映射出噪声轮廓,其中,与传统映射出噪声轮廓相比,直接映射出纯净信号时需要网络学习纯净信号更深层次的特征,利用网络的非线性映射能力,学习含噪信号与纯净信号的映射关系。
1.一种基于时频域融合网络的大地电磁信号去噪方法,其特征在于:包括以下步骤:
2.根据权利要求1所述的方法,其特征在于:所述双向坐标注意力机制模块分成水平和垂直两通道,水平和垂直两通道上分别设有一维水平平均池化、随后通过concat层实现输入数据的拼接,统一接入一个一维卷积,进而构成aca模块;然后,aca模块的输出分别接入水平和垂直两通道上的最大池化,再经正则化以及sigmoid激活函数,进而构成mca模块;接着,mca模块的输出分别连接水平、垂直通道上的一维卷积、sigmoid激活函数,接入权值重分配层和全连接层,最后加入回归层进行输出。
3.根据权利要求2所述的方法,其特征在于:输入所述双向坐标注意力机制模块的输入信号x={x0,x1,...,xc},x0,x1,xc分别对应输入信号x中第1个、第2个、第c+1个信号,所述双向坐标注意力机制模块的数据处理过程如下:
4.根据权利要求1所述的方法,其特征在于:resnext残差网络分为三层,每一层均设有多个分支;其中,第一层的每个分支均采用1×1卷积,第二层的每个分支均将3×1普通卷积层替换为融入ffc神经算子的组卷积层,即对输入矩阵的多通道进行分组,在每个分组中引入ffc神经算子;第三层的每个分支均采用1×1卷积;最后,将第三层的每个分支的输出合并,再与resnext残差网络输入数据合并作为输出结果;
5.根据权利要求4所述的方法,其特征在于:resnext残差网络中第二层是将输入矩阵的256通道划分为64组,每分组设有4通道,依次设置3个普通卷积和1个频域变换结构;
6.根据权利要求5所述的方法,其特征在于:所述频域变换结构为:卷积层连接bn网络层再连接relu激活函数,紧接着连接实部傅里叶变换,再连接卷积层、bn网络层、relu激活函数和虚部傅里叶变换,最后,在实部傅里叶变换加入跨层连接,进而将卷积层和bn网络层再连接relu激活函数层的输入与虚部傅里叶变换的输入合并输入到1×1卷积卷积层。
7.根据权利要求5所述的方法,双向坐标注意力机制模块bca的输出先经过残差网络的卷积层得到得到特征fg,fl;
8.一种基于权利要求1-7任一项所述方法的降噪系统,其特征在于:包括:
9.一种计算机终端,其特征在于:至少包含:
10.一种计算机可读存储介质,其特征在于:存储了计算机程序,所述计算机程序被处理器调用以实现:
