文章快速检索     高级检索
  重庆大学学报  2016, Vol. 39 Issue (6): 27-33  DOI: 10.11835/j.issn.1000-582X.2016.06.004 RIS(文献管理工具)
0

引用本文 

曹敏, 秦善强, 胡绪权, 付志红, 王浩文. 神经网络自变量输入模式的视电阻率求解算法[J]. 重庆大学学报, 2016, 39(6): 27-33. DOI: 10.11835/j.issn.1000-582X.2016.06.004.
CAO Min, QIN Shanqiang, HU Xuquan, FU Zhihong, WANG Haowen. Solution algorithm of apparent resistivity based on independent variable input mode of neural network[J]. Journal of Chongqing University, 2016, 39(6): 27-33. DOI: 10.11835/j.issn.1000-582X.2016.06.004. .

基金项目

国家自然科学基金项目(51277189);输配电装备及系统安全与新技术国家重点实验室自主研究重点项目(2007DA10512714103)

作者简介

曹敏(1961-),男,教授级高级工程师,主要研究方向为电力计量与测量,(E-mail)27860466@qq.com

文章历史

收稿日期: 2016-07-10
神经网络自变量输入模式的视电阻率求解算法
曹敏1, 秦善强2, 胡绪权3, 付志红2, 王浩文2     
1. 云南省电力科学研究院, 昆明 650217;
2. 重庆大学输配电装备及系统安全与新技术国家重点实验室, 重庆 400044;
3. 重庆璀陆探测技术有限公司, 重庆 402660
摘要: 根据瞬变电磁场理论公式中的响应和自变量之间的关系特点,提出用非线性方程模式的BP神经网络求解电阻率。通过构造单输入单输出网络结构,建立以不同时间点上的电流归一化的感应电压值为输入、视电阻率值为输出的神经网络,来拟合瞬变电磁场的二次涡流曲线。利用数值方法计算出的数据验证该训练网络的精确性,比较了不同算法对训练精度和收敛速度产生的影响。以重庆大学某处的防空洞探测实验为例验证了该算法的有效性,该算法避开具体的复杂电磁场计算或数值反问题计算,从而实现电阻率快速计算,为快速成像准备必要条件。
关键词: 瞬变电磁场    人工神经网络    反向传播    视电阻率    自变量输入    
Solution algorithm of apparent resistivity based on independent variable input mode of neural network
CAO Min1 , QIN Shanqiang2 , HU Xuquan3 , FU Zhihong2 , WANG Haowen2     
1. Yunnan Power Grid Electric Research Institute, Kunming 650217, P. R. China;
2. State Key Laboratory of Power Transmission Equipment & System Security and New Technology, Chongqing University, Chongqing, 400044, P. R. China;
3. Chongqing Triloop Detection Technology Co. Ltd., Chongqing 402660, P. R. China
National Natural Science Foundation of China(51277189) and Key Independent Research Project of State Key Laboratory of Power Transmission Equipment & System Security and New Technology(2007DA10512714103)
Abstract: According to the relationship between the response and the independent variables in transient electromagnetic field theory, a BP neural network with nonlinear equation model was proposed to solve the resistivity. By constructing a single-input-single-output network structure, a neural network with current normalized induced voltage at different time points as input and the apparent resistivity as the output was set up to simulate the secondary eddy current curve of the transient electromagnetic field. The accuracy of the trained network was verified by the data calculated by numerical computation, and the training accuracies and the convergence speeds of different algorithms were compared. The effectiveness of the proposed algorithm was verified by the experiments in an air-raid shelter in Chongqing University. The presented solution algorithm avoids calculation of complex electromagnetic field or numerical inverse problem, and realizes fast calculation of resistivity.
Key Words: transient electromagnetic field    artificial neural networks    backpropagation    apparent resistivity    independent variable input    

瞬变电磁是一种基于发射脉冲电流迅速关断并接收二次感应电压的电磁探测方法,对不均匀性的岩石物体在横向和纵向上有较高的分辨率[1]。该方法根据发射源的特征,作用于探测目标体上,并感应出目标体的二次场信号,以此计算得到被探测目标的电阻率分布和大概位置。Ward 等[2]从环形框中心方式的解析表达式计算视电阻率,Spies等[3]利用有限项的级数展开近似法,在不同时段采用不同的展开系数。Raiche等[4]提出了一种计算精确的晚期视电阻率的迭代算法。在考虑新的电流源时,通过逐步逼近的方法,提出了时域非线性问题的解析解的构造方法[5]。以迭代计算或逼近为基础,利用观测值与理论值之间的曲线拟合作为求解瞬变电磁视电阻率的方法。

国内外有学者探讨了在隧道超前地质预报的响应特性的瞬变电磁法[6-7],对不同位置的不良地质体的有限元数值模拟,需要复杂的理论推导和电阻率图像的非中心垂直分量变换,效率不高。人工智能算法在瞬变电磁领域的应用也得到快速发展[8-11],王家映[9]中在非线性反演问题中详细地介绍了人工神经网络(ANN)法,徐海浪等[10]利用BP神经网络优化方法,实现了电阻率二维非线性反演,Li等[11]利用模拟退火算法对理论感应电动势和实测感应电动势进行拟合;文献[9-11]在神经网络的实际工程应用上都存在一定的问题。例如:文献[9]中收敛于目标函数的局部极小,文献[10]中实际资料神经网络反演的训练集数据选择比较困难,文献[11]是由电阻率值拟合实测感应电动势,而实际工程应用是感应电动势计算得视电阻率,实际应用不好。朱凯光等[12]以假层半空间模型为基础,研究了基于人工神经网络的电导率深度成像算法,但在网络训练程度控制以及视深度的计算等方面仍需要进一步改进[12-13]。嵇艳鞠等[14]在快速计算电性源时域半航空感应电动势基础上,将理论计算的感应电动势进行等效变换,建立感应电动势与电阻率单一映射关系的样本集,用3层误差反向算法神经网络和Levenberg-Marquardt算法进行反演,但用于实测数据处理还需进一步研究[14-15]

神经网络在电磁法解释中得到重视,用神经网络反演地电结构避免了二维数值反演中求取偏导数矩阵的困难,但因为实际模型较复杂,训练样本集选择比较困难,在瞬变电磁视电阻率快速计算与成像方面的应用较少,离实际应用差距较大,在网络结构、计算方法、泛化能力等方面还需深入研究。

人工神经网络是一个并行、分布处理结构,对样本数据进行多目标学习,通过人工神经元之间的相互作用实现控制。人工神经网络在数据处理中避免了数据分析和建模中的困难,采用拟人化的方法进行处理,所以它特别适合于不确定性和非结构化信息处理。Margaris等[16]讨论了用BP神经网络解含有多项式方程组的非线性代数系统,论证了由于BP神经网络的结构容易修改,可解决任何类型的非线性方程系统的特性,并应用于求解2×2和3×3的非线性代数系统,通过神经网络产生的实验结果和系统根的理论值的对比验证了方法的准确性。

求解电阻率的过程实际上就是求解一个非线性方程[17],常规的数值计算方法是采用迭代法,其计算复杂且耗时,笔者引入神经网络,在映射出磁感应强度和电阻率的关系情况下,直接求解非线性方程,从而快速得到电阻率值。

瞬变电磁成像的关键是从探测记录的数据计算出含地质信息的参数——电阻率(电导率),传统上都是对常规数值计算方法进行分析与改进。借用神经网络的并行结构快速计算电阻率是此次研究的目的。笔者分析了瞬变电磁响应公式中响应和自变量关系的特点,提出非线性方程模式下构造BP神经网络求解电阻率。基于自变量输入模式,建立以不同时间点上的感应电压为输入,视电阻率值为输出的神经网络,来拟合二次涡流曲线,避开具体的复杂电磁场计算或数值反问题计算,从而实现电阻率快速计算,为快速成像准备必要条件。

1 BP神经网络及视电阻率计算模型 1.1 人工神经网络及反传算法

人工神经网络是由简单处理单元组成的大规模并行分布的处理器,能储存实验知识并使用。如图 1所示,每个处理单元输出一个联接,也可以分支成许多并行联接,这些并行联接的输出都是相同的信号,信号的大小没有变化[18]

图 1 神经元特性 Figure 1 Characteristics of neurons

人工神经元模拟生物神经元的一阶特性:1)通过网络学习过程获取实验知识;2)称为权重的神经元间的连接强度用来存储知识。

输入:X=(x1 ,x2 ,…,xn),

连接权:W=(w1 ,w2 ,…,wn),

网络输入:ξnet=Σxiwi

向量形式:ξnet=X·W

反向传播(backpropagation,BP)[19]算法是应用广泛的误差算法,误差信号由网络输出端逐层逆向传播,解决样本输入输出的非线性可分问题,用权值优化算法如梯度下降法、牛顿迭代法等,提高收敛速度并迭代运算求解权值。学习过程可用极小问题来表示:

$f=\left\{ \begin{matrix} minf\left( w \right), \\ s.tw\in R, \\ \end{matrix} \right.$ (1)

式中:f为权值目标函数;w为问题的变量;R为问题解的可行集(整个实数空间)。

反传神经网络的基本操作是训练(学习)和预测。训练是按照规则调整权值,建立一种导师学习的规律性,对一组输入输出应有的结果;预测是利用训练的导师学习规律性预测输出。只有达到高精度的训练性能才能获得高可靠性的使用性能。学习过程由正向传播和误差逆传播组成;正向过程中,输入信号从输入层经隐层单元逐层传播,直到在输出端产生输出信号,是输入信号和权值的函数。正向传播的每一层神经元的信号和权值只受上一层的神经元信号和权值影响(如图 2);若输出端的输出信号不是期望的输出,则进行误差反向传播,将实际输出与期望输出信号的误差沿输出端逐层向后传播;通过调整各层神经元的权值,最后使误差最小。

$E=\frac{1}{2}{{\sum\limits_{k}{({{t}_{k}}-{{o}_{k}})}}^{2}},$ (2)
图 2 3层BP网络结构 Figure 2 The structure of three-layer BP network

式中:tk为期望输出; ok为实际输出; k为样本数。

xkyk为第k个单元的输入和输出,E表示各样本样本训练时的误差和。训练误差的关键是更新权值的数学算法以及隐含层数目的确定,3层反传神经网络可任意精度逼近非线性函数,即通过调整权值和阈值使最小化误差逼近非线性函数。

图 3为梯度下降法权值调整示意图,m处为误差极小值点。其左侧权值为E/wij0,则调整权值使Δwij0;右侧为E/wij0,调整权值使Δwij0;考虑学习率,则权值更新迭代式为:

$\Delta {{w}_{ij}}\left( k+1 \right)=\eta \frac{\partial E}{\partial {{w}_{ij}}\left( k \right)}。$ (3)
图 3 梯度下降法中权值的调整 Figure 3 Adjust the right in gradient descent method

梯度下降法是权值更新算法的直接方法,其存在训练时间长、收敛速度慢以及目标函数易陷入局部极小的问题。改进的常用方法有很多,比如附加动量、利用高阶导数、自适应学习率;或共轭梯度法、拟牛顿法等,在克服BP神经网络的问题上都有不错的效果。

1.2 计算视电阻率的神经网络模型

以感应电压v(t)为输入、电阻率ρ为输出建立BP神经网络,训练样本由数值计算方法获得,以此保证训练样本的可靠性。给定电阻率值,将其带入式(4)、式(5)得到归一化电流的感应电压v(t),通过扩大电阻率范围保证样本的完备性。在映射出感应电压v(t)和电阻率ρ的关系情况下,直接求解非线性方程,从而快速得到电阻率值。

中心回线装置下,瞬变电磁二次场响应表达式为:

$\frac{v\left( t \right)}{I}=\frac{\mu S}{4at}\cdot \frac{1}{{{u}^{2}}}[3erf\left( u \right)-2/\pi \cdot u(3+2{{u}^{2}}){{e}^{-{{u}^{2}}}}],$ (4)
$u=a/2\sqrt{\mu /\rho t}。$ (5)

根据式(4)(5)可构造S,a,tV/I的四维空间向量为输入,输出为ρ的网络。实际现场的接收数据为感应电压和发射电流,则感应电压对电流的归一化v(t)/I为变量数据;S,a为定值参数,网络变为tv(t)/I为输入ρ为输出的3层BP神经网络。由实验室仿真正演计算数据作为样本进行训练,根据接收机的接收时窗(2.08e-3~13.116) ms,t的取值区间为t∈[1e-3,15] ms,等间隔取50个样本时间点;发射线框半径a=0.32 m;接收线圈等效面积S=205 m2(野外测量数据)。初始数据归一化到[0.1,0.9],对网络进行训练,训练完成后再反归一化恢复数据。

多维向量输入一维输出的网络,若输入自变量元素太多(4个),网络结构会因变量太多而影响训练,测试误差也会很大,如图 4(a)(b)所示。减小自变量输入个数(2个),得到的结果就会有很大改善,如图 4(c)(d)所示。

图 4 多输入训练误差 Figure 4 Error in training of multi-input

实际工作中,野外测量的数据为感应电压v(t)/I,接收装置参数已知。在每一个时间点上进行数据函数的模拟,得到了不同时间点上的以v(t)/I为输入、ρ为输出的最简单网络结构。

2 视电阻率神经网络模型训练算法 2.1 训练算法对预测精度的影响

基于MATLAB的多种改进的BP算法:加入动量因子的梯度下降法、自适应调整学习率的算法、弹性BP算法、共轭梯度法、拟牛顿法、一步正割BP算法及列文伯格马夸特算法,这些算法均包含在MATLAB神经网络工具箱的各函数中,分别为traingdm.m,traingda.m、trainrp.m、traincgf.m、trainbfg.m、trainoss.m、trainlm.m,只需在调用函数newff.m中选用相应算法即可,使得编写程序简单、快速。

笔者比较了6种训练方法,其结果如表 1所示。由表 1的收敛情况看,一步正割算法更符合实际应用。在训练网络时,3 000步迭代所用时间为36.594 s,可见网络结构的选取对于提高计算速度有很大的影响。

表 1 不同算法训练的误差情况 Table 1 The convergence of different algorithms in training
2.2 神经网络结构对训练误差精度的影响

隐层节点数太少,网络不能训练或网络性能很差;隐节点数太多,训练时间会变长,更容易陷入局部极小点而得不到最优。为了保证足够高的网络性能和泛化能力,尽可能避免训练出现“过拟合”现象[14],通过仿真做出比较,不同的隐节点得到的误差如表 2所示。

表 2 不同隐节点训练的误差情况 Table 2 The convergence of different implicit nodes in training

经过仿真试验,对于研究的单输入/输出型训练方式,采用3层BP网络、一步正割BP算法、隐含层选12个隐含层单元。

3 实验研究

防空洞位于学校某操场一角,其上方被土壤、石头覆盖,顶部浇筑水泥混凝土,防空洞上下两表面及两侧表面均有钢筋混凝土支撑,防空洞向下方及两侧延伸开来均由岩石、砾石等构成。实验时,在防空洞上方地表划定一条测线进行探测,共测量35个测点,测点间距为2 m,防空洞大概位于测点7与测点25之间,防空洞形图大概如图 5所示。

图 5 防空洞剖面图 Figure 5 Profile chart of air-raid shelter

实验装置为重庆璀陆探测技术有限公司TETEM-T1大功率瞬变电磁发射机,具有发射电流大、高速关断和关断沿线性度高等优点。同时配合实验室所设计的基于DASYLab与IOtech的瞬变电磁信号采集系统进行防空洞探测实验。

训练完成基于自变量输入模式的神经网络,对防空洞探测实验所采集的数据进行处理,计算出视电阻率。利用成像工具绘制其视电阻率拟断面图,如图(6)所示。图中的纵轴表示视深度,横轴表示测点数即水平探测位置。

图 6 防空洞剖面图 Figure 6 Profile chart of air-raid shelter

图 6中可以看出,测点5至测点25之间视电阻率出现低阻异常,据此能够清晰地分辨出防空洞的大体位置。进一步分析可看出,不同电性地质体的接触面反映十分明显,可轻易分辨出不同地质体,蓝色区域与实际防空洞的分布相吻合,达到了探测防空洞目的。

4 结 论

笔者从瞬变电磁中心回线的二次场响应表达式入手,引入反传神经网络,基于自变量输入模式,建立以不同时间点上的实测感应电压数据为输入、视电阻率为输出的神经网络来拟合二次涡流曲线,避开具体的复杂电磁场计算或数值反问题计算,从而实现电阻率快速计算。以防空洞实验数据为算例,验证了该方法的有效性,为快速成像准备必要的条件。

用BP网络与数值方法由核函数法计算一组数据(50个)所消耗的时间(Inter(R) Core(TM) i7-3770K CPU3.50 GHz 3.90 GHz)远远小于数值迭代的运算时间,BP神经网络计算视电阻率的精度也合乎要求。数值迭代的运算时间与计算视电阻率迭代的次数成正比,而BP神经网络与此无关,显示了神经网络并行处理数据的优越性。

参考文献
[1] Nevedrova N, Sanchaa A, Babushkin S,et al. Application of areal transient electromagnetic method measurements directed on polymetalprospecting[C/OL].(2013-06-02)[2016-07-10]. http://www.nsu.ru/rs/publication/84897521143.
[2] Ward S H, Hohmann G W. 4.Electromagnetic theory for geophysical applications[M].[S.l.]:Society of Exploration Geophysicists Press, 1987:130-311.
[3] Spies B R. Calculation of apparent conductivity for the transient electromagnetic (coincident loop) method using an HP-67 calculator[J]. Geophysics, 1980, 45(7): 1197–1204. DOI:10.1190/1.1441117
[4] Raiche A P, Spies B R. Coincident loop transient electromagnetic master curves for interpretation of two-layer earths[J]. Geophysics, 1981, 46(1): 53. DOI:10.1190/1.1441139
[5] Dumin O M, Tretyakov O A, Akhmedov R D, et al. Transient electromagnetic field propagation through nonlinear medium in time domain[C]//International Conference on Antenna Theory and Techniques, April 21-24, 2015,Kharkiv[S.l.]:IEEE, 2015:1-3.
[6] Meng L B, Li T B, Duan Z. Numerical simulation of transient electromagnetic response of unfavorable geological body in tunnel[J]. Applied Mechanics & Materials, 2011, 90/91/92/93: 37–40.
[7] Sun H F, Li S C, Li X, et al. Research on transient electromagnetic multipoint array detection method in tunnel[J]. Chinese Journal of Rock Mechanics & Engineering, 2011, 30(11): 2225–2233.
[8] Andersen K K, Kirkegaard C, Foged N, et al. Artificial neural networks for removal of couplings in airborne transient electromagnetic data[J]. Geophysical Prospecting, 2015, 2015(1): 741–752.
[9] 王家映. 地球物理资料非线性反演方法讲座(五):人工神经网络反演法[J]. 工程地球物理学报, 2008, 5(3): 255–265.
WANG Jiaying. Lecture on non-linear inverse methods in geophysical data(5):the artificial neural network method[J]. Chinese Journal of Engineering Geophysics, 2008, 5(3): 255–265. (in Chinese)
[10] 徐海浪, 吴小平. 电阻率二维神经网络反演[J]. 地球物理学报, 2006, 49(2): 584–589.
XU Hailang, WU Xiaoping. 2-D resistivity inversion using the neural network method[J]. Chinese Journal of Geophysics, 2006, 49(2): 584–589. (in Chinese)
[11] Li J H, Zhu Z Q, Feng D S, et al. Calculation of all-time apparent resistivity of large loop transient electromagnetic method with very fast simulated annealing[J]. Journal of Central South University of Technology, 2011, 18(4): 1235–1239. DOI:10.1007/s11771-011-0827-y
[12] 朱凯光, 林君, 韩悦慧, 等. 基于神经网络的时间域直升机电磁数据电导率深度成像[J]. 地球物理学报, 2010, 53(3): 743–750.
ZHU Kaiguang, LIN Jun, HAN Yuehui, et al. Research on conductivity depth imaging of time domain helicopter-borne electromagnetic data based on neural network[J]. Chinese Journal of Geophysics, 2010, 53(3): 743–750. (in Chinese)
[13] Zhu K G, Ma M Y, Che H W, et al. PC-based artificial neural network inversion for airborne time-domain electromagnetic data[J]. Applied Geophysics, 2012, 9(1): 1–8. DOI:10.1007/s11770-012-0307-7
[14] 嵇艳鞠, 徐江, 吴琼, 等. 基于神经网络电性源半航空视电阻率反演研究[J]. 电波科学学报, 2014, 29(5): 973–980.
JI Yanju, XU Jiang, WU Qiong, et al. Apparent resistivity inversion of electrical source semi-airborne electromagnetic data based on neural network[J]. Chinese Journal of Radio Science, 2014, 29(5): 973–980. (in Chinese)
[15] 李肃义, 嵇艳鞠, 刘伟宇, 等. 小波变换与神经网络融合法在油页岩近红外光谱分析中的应用[J]. 光谱学与光谱分析, 2013, 33(4): 968–971.
LI Suyi, JI Yanju, LIU Weiyu, et al. Application of wavelet transform and neural network in the near-infrared spectrum analysis of oil shale[J]. Spectroscopy and Spectral Analysis, 2013, 33(4): 968–971. (in Chinese)
[16] Margaris A, Adamopoulos M. Solving nonlinear algebraic systems using artificial neural networks[C/OL]. (2007-03-18)[2016-07-10].http://www.nsu.ru/rs/publication/84897521143.
[17] 谢品芳, 谢林涛, 付志红, 等. 基于BP网络的视电阻率快速计算[J]. 重庆大学学报, 2009, 32(9): 1111–1116.
XIE Pinfang, XIE Lintao, FU Zhihong, et al. Fast algorithm for apparent resistivity calculation based on back propagation neural networks[J]. Journal of Chongqing University, 2009, 32(9): 1111–1116. (in Chinese)
[18] 杨行俊, 关君里. 人工神经网络[M]. 北京: 高等教育出版社, 1992.
YANG Xinjun, GUAN Junli. Artificial neural networks[M]. Beijing: Higher Education Express, 1992. (in Chinese)
[19] 张友邦, 封宇行. 隐节点数可变的BP网络研究与应用[J]. 计算机工程与应用, 2001, 37(17): 99–101.
ZHANG Youbang, FENG Yuhang. Research and application of scalable middle layer BP network[J]. Computer Engineering and Applications, 2001, 37(17): 99–101. (in Chinese)