前言：中文期刊网精心挑选了神经网络的训练流程范文供你参考和学习，希望我们的参考范文能激发你的文章创作灵感，欢迎阅读。
神经网络的训练流程范文1
关键词：神经网络；边坡；稳定性
引言
边坡的稳定性是目前岩土工程界研究的重大课题，在矿山工程、水利工程以及建筑工程等诸多领域都涉及到边坡的稳定性问题。边坡工程是一个动态开放的、复杂的、非线性的系统问题，影响边坡稳定性的因素不但有地质和工程因素，而且还具有不确定性。目前，评价边坡稳定性的方法有层次分析法、灰色理论法、极限平衡法、有限元法等方法，但是这些方法难以摆脱人为因素的影响，计算复杂，具有一定的局限性。本文将人工神经网络的知识应用到边坡稳定性的预测中，结合人工神经网络在结构上的分布式存储和并行处理的特点，使人工神经网络具有较好的容错性、高度非线性映射、以及自适应、自组织学习的能力，从而能够捕捉边坡稳定性与影响边坡稳定因素之间的相关规律，弥补传统方法在预测边坡稳定性上面的不足，实现对边坡稳定性的可靠预测。
1 神经网络原理
人工神经网络ANN（artificial neural network）是属于人工智能（artificial intelligence）范畴的一种计算技术，它根据人们对生物神经网络的研究成果设计出来，具有良好的数学描述，可以方便地用计算机程序加以模拟。
目前，最常用的人工神经网络模型有线性神经网络、RBF神经网络、BP神经网络等，本文采用误差信号反向传播的BP神经网络对边坡的稳定性进行研究。BP神经网络在训练时，由信号的正向传播和信号的反向传播共同构成神经网络的学习过程，其训练流程示意图如图 1 所示。
图1 基于 BP 算法的神经元网络结构训练流程图
2 神经网络模型建立及训练
2.1 输入样本和输出样本的选择
基于BP人工神经网络的边坡稳定性预测模型的建立，首先是确定神经网络模型各层的节点个数。本文采用某矿山的边坡工程实例进行 BP 神经网络模型的有效检验，选取影响边坡稳定性的6个主控因素为输入样本，即：确定输入变量为 D1—边坡高度指标，D2—重度指标，D3—内聚力指标，D4—摩擦角指标，D5—边坡角指标，D6—孔隙压力比指标。
输出向量是边坡稳定性状态代码，将边坡稳定性状态代码分为两种类型：即1代表边坡稳定性状态为破坏，0代表边坡稳定性状态为稳定。
2.2 模型的训练和预测
本文通过编写程序语言，结合Matlab7.0来实现边坡稳定性的预测，应用人工神经网络工具箱中的newff函数来建立一个前馈型的边坡稳定性预测网络模型，在进行网络样本训练时，其中各参数的设定情况为：学习效率设为0.5，网络训练的最大迭代次数为15000次，其收敛精度设置为0.001，采用随机赋值的方法设定网络训练中权值和阈值的初始值。网络的输入层和隐含层均采用对数型S型函数作为传递函数。通过BP神经网络信号误差反向传播算法所建立的边坡稳定性预测网络模型，在样本训练的过程中，当网络训练达到所设置的目标精度或者满足最大迭代次数时，自动停止训练。
本文收集整理了国内外各类矿山及岩土工程中潜在或滑动破坏模式为圆弧形滑落的稳定边坡和失稳破坏边坡实例共10个（破坏4，稳定6）。根据提供信息包括边坡结构参数，岩土体的物理力学性质参数，边坡稳定状态及极限平衡法计算安全系数（表1）。输入层的6个神经元分别对应参数：重度、粘聚力、摩擦角、边坡角、边坡高度、孔隙压力比。将10个样本提供网络学习，经922次迭代后网络收敛。训练样本的神经网络的计算结果见表2。网络训练误差曲线图如图2所示。
根据以上预测结果可知，预测精度达到了预定的要求0.001，预测结果与边坡稳定性的实际情况相符，本文建立的BP神经网络边坡稳定性预测模型预测效果较好，预测精度较高，能够满足实际工作的需要，输出结果与现场情况吻合。
3 结论
人工神经网络将制约和影响边坡稳定的可直接取实测数据的定性因素包括边坡结构参数（高度、角度等）以及岩土体的物理力学性质（粘聚力、摩擦角、干容重等）纳入模型参与稳定性评价，借助计算软件MATLAB编制计算程序加以实现。
实际应用表明，神经网络模型由于具有很强的自学习、自组织的能力和高度非线形动态处理能力，用来评价边坡的稳定性有较好的适用性，可以加以推广应用。
参考文献
[1] 飞思科技产品研发中心. 神经网络理论与MATLAB7实现[M]. 北京： 电子工业出版社， 2005： 97-116.
[2] 李春辉. 基于BP神经网络的煤与瓦斯突出危险性预测的研究[D]. 昆明：昆明理工大学， 2010： 40-58.
[3] 刘勇， 江成玉. 基于BP神经网络的煤与瓦斯突出危险性的预测研究[J]. 洁净煤技术，2011（1）： 97-100.
[4] 冯夏庭， 王泳嘉， 卢世宗. 边坡稳定性的神经网络估计[J].工程地质学报，1995（4）： 54-61
[5] 侯殿昆， 宋秀琴， 刘景凡. 基于神经网络的多参数露天边坡稳定性分析[J]. 辽宁工程技术大学学报， 2007， 26（5）： 649-651.
[6] 邹义怀， 江成玉， 李春辉. 人工神经网络在边坡稳定性预测中的应用[J]. 矿 冶， 2011， 20（4）： 38-41.
神经网络的训练流程范文2
关键词：发电燃料；供应预测；BP神经网络；预测方法
中图分类号：TM 762 文献标示码：A
0 引言
发电燃料的供应受到能源政策、供需形势、资源分布、供应价格、交通运输、市场博弈等多种复杂因素的影响，长期以来缺乏合理有效的供应预测方法和技术手段，尤其是厂网分离后鲜见相关的研究工作。
文献1《辽宁火电厂燃料管理信息系统的开发与研制》开发和研制了覆盖辽宁全体直属电厂燃料公司并同东电局进行广域网数据交换，同时能进行审核管理和业务信息方便传输的燃料综合管理信息系统。
文献2《电力系统燃料MIS系统开发研究》探讨了燃料管理信息系统的组成、功能、结构及开发应用，为综述性理论研究。
以上文献均未对发电燃料供应提供较有效的预测方法。本文提出一种基于BP神经网络的发电燃料供应量预测方法，利用神经网络原理，通过数据收集、数据修正和神经网络结构选择建立起基于BP神经网络的发电燃料供应预测模型。通过MATLAB实际仿真，证明该预测方法预测较准确，并具有灵活的适应性。
基金项目：中国南方电网有限责任公司科技项目（K-ZD2013-005）
1 预测方法
按预测方法的性质不同，预测可分为定性预测和定量预测。常用的定性预测方法有主观概率法、调查预测法、德尔菲法、类比法、相关因素分析法等。定量方法又可以分为因果分析法和时间序列分析法等，因果分析法也叫结构关系分析法。它是通过分析变化的原因，找出原因与结果之间的联系方式，建立预测模型，并据此预测未来的发展变化趋势及可能水平。时间序列分析法也叫历史延伸法。它是以历史的时间序列数据为基础，运用一定的数学方法寻找数据变动规律向外延伸，预测未来的发展变化趋势。由于时间序列模型无法引入对负荷影响的其它变量，所以，单纯应用时间序列模型进行供应预测精度难以提高。
运用人工神经网络技术进行预测，其优点是可以模仿人脑的智能化处理过程，对大量非结构性、非精确性规律具有自适应功能，具有信息记忆、自主学习、知识推理和优化计算的特点，特别是其自学习和自适应功能是常规算法和专家系统所不具备的，因此，预测是人工神经网络的最有潜力的应用领域之一，有非常广泛的前途。
2 BP神经网络模型
2.1 人工神经网络概述
人工神经网络是由神经元以一定的拓扑结构和连接关系组成的信息表现、储存和变换系统，是模仿人脑结构的一种信息系统，可较好地模拟人的形象思维能力。它是对自然界中生物体神经系统进行抽象和改造，并模拟生物体神经系统功能的产物。神经网络的重要特点是具有记忆和学习能力，经过一定训练之后，能够对给定的输入做出相应处理。
人工神经网络适用于处理实际中不确定性、精确性不高等引起的系统难以控制的问题，映射输入输出关系。人工神经网络优于传统方法在于：
1）实现了非线性关系的隐式表达，不需要建立复杂系统的显示关系式；
2）容错性强，可以处理信息不完全的预测问题，而信息不完全的情况在实际中经常遇到；
3）由于神经网络具有一致逼进效果，训练后的神经网络在样本上输出期望值，在非样本点上表现出网络的联想记忆功能；
4）由于大规模并行机制，故预测速度快；
5）动态自适应能力强，可适应外界新的学习样木，使网络知识不断更新。
图1是一个人工神经元的典型结构图。
图1 神经元典型结构图
它相当于一个多输入单输出的非线性阈值器件。，表示该神经元的输入向量；为权值向量；θ为神经元的阈值，如果神经元输入向量加权和大于0，则神经元被激活；f表示神经元的输入输出关系函数，即传输函数。因此，神经元的输出可以表示为：
其中传输函数是神经元以及网络的核心。网络解决问题的能力与功效除了与网络结构有关，在很大程度上取决于网络所采用的传输函数。
几种常见的传输函数如图2所示：
（1）为阈值型，将任意输入转化为0或1输出，其输入/输出关系为：
（2）为线性型，其输入/输出关系为：
（3）、（4）为S型，它将任意输入值压缩到（0，1）的范围内，此类传递函数常用对数（logsig）或双曲正切（tansig）等一类S形状的曲线来表示，如对数S型传递函数的关系为：
而双曲正切S型曲线的输入/输出函数关系是：
（1） （2）
（3） （4）
图2 常见的传递函数图形
2.2 BP神经网络概述
神经网络的魅力在于它超强的映射能力，单层感知器可实现性分类，多层前向网络则可以逼近任何非线性函数。可以将BP网络视为从输入到输出的高度非线性映射，而有关定理证明BP神经网络通过对简单的非线性函数进行数次复合，可以近似任何复杂的函数。
在人工神经网络的实际应用中，80%-90%的人工神经网络模型是采用BP网络和它的变化形式，它也是前向网络的核心，体现了人工神经网络最精华的部分。在人们掌握反向传播网络的设计之前，感知器和自适应线性元件都只能适用于对单层网络模型的训练，只是后来才得到进一步拓展。
BP神经网络主要应用有：
（1）函数逼近：用输入矢量和相应的输出矢量训练一个网络逼近一个函数。
（2）模式识别：用一个特定的输出矢量将它与输入矢量联系起来。
（3）分类：把输入矢量以所定义的合适方式进行分类。
（4）数据压缩：减少输出矢量维数以便于传输或存储。
2.3 误差反向传播算法原理
BP神经网络是一种多层前馈神经网络，名字源于网络权值的调整规则，采用的是误差反向传播算法（Error Back-Propagation Training Algorithm）即BP算法。BP神经网络是单向传播的多层前向神经网络。除输入输出节点之外，有一层或多层的隐藏节点，同层节点之间无任何连接。典型的BP网络是三层前馈阶层网络，即：输入层、隐含层（中间层）和输出层，各层之间实行全连接。BP神经网络结构如图3所示：
图3 BP神经网络结构示意图
BP网络学习过程包括误差正向传播和反向传播两个过程。在正向传播过程中，输入样本从输入层传入，经各隐含逐层处理后，传向输出层，每一层神经元的状态只影响下一层神经元的状态。若输出层的实际输出与期望的输出不符，则转入误差的反向传播阶段。误差反传是将输出误差的某种形式通过隐含层向输入层逐层反传，并将误差分摊给各层的所有单元，从而获得各层单元的误差信号，此误差信号即作为修正各神经元之间权值的依据。这种信号正向传播与误差反向传播的各层权值调整过程，是周而复始地进行的。权值不断调整的过程，也就是网络学习训练的过程。此过程一直进行到网络输出的误差减小到可接受的程度，或进行到预先设定的学习次数为止。
BP神经元与其他神经元类似，不同的是，由于BP神经元的传递函数必须是处处可微的，它不能采用二值型{0，1}或符号函数{-1，1}，所以其传递函数为非线性函数，最常用的函数S型函数，有时也采用线性函数。本文采用S型（Sigmoid）函数作为激发函数：
式中，为网络单元的状态：
则单元输出为：
其中，为单元的阀值。在这种激发函数下，有：
故对输出层单元：
对隐层单元：
权值调节为：
在实际学习过程中，学习速率对学习过程的影响很大。是按梯度搜索的步长。越大，权值的变化越剧烈。实际应用中，通常是以不导致振荡的前提下取尽量大的值。为了使学习速度足够快而不易产生振荡，往往在规则中再加一个“势态项”，即：
式中，是一个常数，它决定过去权重的变化对目前权值变化的影响程度。
图4为BP算法流程图。
图4 BP算法流程图
3 发电燃料供应预测BP神经网络模型建立
3.1 数据的收集与整理
发电燃料供应是一个庞大的系统，其中的数据资料纷繁复杂。在进行模型的搭建之前，需要进行历史资料的整理，提取出所需的数据。本模型中，选取与燃料供应有关的数据作为影响因素，如电厂发电量、能源政策、能源供需形势、交通运输状况、燃料价格和机组能耗等。
3.2 数据的修正
如果在数据采集与传输时受到一定干扰，就会出现资料出错或数据丢失的情况，此时都会产生影响预测效果的坏数据，这些坏数据将会掩盖实际模型的规律，直接影响模型的效果与精度。据此，需对样本数据进行预处理，以确保在建模和预测过程中所运用的历史数据具有真实性、正确性和同规律性。一般样本数据预处理方法主要有经验修正法、曲线置换法、插值法、20%修正法、数据横向纵向对比法、小波分析去噪法等。对于简单问题，采用数据的横向纵向对比即可实现坏数据的剔除。
3.3 BP神经网络的结构选择
理论证明，3层前向式神经网络能够以任意精度实现任意函数，所以，本模型中采用3层前向网络。同时，当有N个影响时， 3层BP神经网络的输入层节点数为N个，隐含层节点数一般为2N ～ 4N，最佳取值可根据实际问题试凑得，输出层为1个节点， 因此可以取其平均结构为N - 3N - 1型， 输入层激发函数为线性函数， 中间层和输出层的激发函数为S型函数。
3.4 BP神经网络模型建立
对于实际的燃料供应模型，数据的选择要有针对性，结构要合适，这在预测过程中是重中之重。为便于模型选择、结果对比，可同时采用几种不同的数学模型进行预测。在完成对恰当的预测模型的选择后，利用提取自历史资料的训练数据对建立好的预测数学模型进行参数训练。当模型的参数训练好以后，即可利用此模型进行预测。
具体操作步骤如下：
（1）对训练样本与预测样本进行归一化预处理，公式表示如式（1）。
（1）
其中表示经过归一化后的值，表示实际值，，分别是训练集中数据的最大值和最小值，k表示输入向量的维数，i表示有作用因素的个数。
（2）对预测的数据样本进行提取，并分别列出训练与测试的样本集合。
（3）对BP神经网络的输入层、隐含层、输出层的节点进行定义，对网络的权重、阈值进行初始赋值。
（4）利用训练样本对BP神经网络进行训练，建立符合实际问题的模型。
（5）利用事先预备的测试样本对训练好的网络进行测试，若效果不佳，则重新训练，若效果好则继续下一步。
（6）利用预测样本及训练好的模型进行预测。
具体流程图如图5所示：
图5 模型建立流程图
4 基于BP神经网络模型的发电燃料供应预测
（1）样本数据的选择
以各类影响耗煤的因素作为输入 。
（2）进行归一化处理
避免量纲对模型的影响。同时，降低数据的数量级，可以提高BP网络的训练的速度，避免饱和。
（3）确定BP神经网络的结构
3层BP神经网络的输入层节点为1个（可根据实际情况调整），对应于输入样本，隐含层节点为15，输出层节点为1，对应于输出样本。网络初始连接权及神经元初始阈值采用随机赋值方式。神经元的激发函数为S函数，最大迭代次数为400，学习步长为0.001，学习误差为0.00001。
（4）利用训练样本进行网络的训练
（5）利用测试样本进行模型的测试
人为选定5%相对误差为模型训练好坏的判别标准。若测试样本的测试结果的相对误差在5%以内，则进行下一步，否则重新训练。
（6）利用预测样本和已训练好的模型进行预测
南方电网全网发电燃料供应量预测结果值与实际值的对比如图6所示：
图6 南网全网发电燃料供应预测值与实际值对比图
5 结论
随着厂网分离的实施，电网公司和电力调度机构对发电燃料供应的掌握严重不足，已经不能满足电力供应工作的要求，尤其是在来水偏枯、电力供应紧张的时期，发电燃料供应的预测对缓解电力供需矛盾、有序做好发用电管理起着举足轻重的作用，因此，迫切需要开展发电燃料供应影响因素及预测方法的研究工作。
本文在收集、掌握发电燃料供应来源、价格、运输等情况的基础上，基于BP神经网络研究建立发电燃料供应量的预测模型和预测方法。通过MATLAB仿真预测，对预测结果值和实际值进行了对标分析，证明该预测方法预测较准确，并具有灵活的适应性。本文的研究有利于提升发电燃料的管理水平和掌控力度，为合理有序做好电力供应工作提供有力支持。
参考文献：
[1]孙长青.基于OSGI的发电集团燃料管控系统设计与实现[D].导师：陈有青.中山大学，2011.
[2]史新梅，裴珍.辽宁火电厂燃料管理信息系统的开发与研制[J].安徽工业大学学报，2001，（04）：359-362+366.
[3]付民庆.基于J2EE架构燃料管理信息系统的研究与实现[D].导师：申晓留.华北电力大学（北京），2008.
[4]魏学军.DF电厂燃料管理信息系统的研究与应用[D].导师：胡立德；戴鹤.重庆大学，2008.
[5]孙文君.发电企业燃料自动监管系统设计及应用[D].导师：张庆超；关万祥.天津大学，2010.
神经网络的训练流程范文3
本方法作为水质分析评价的方法，比起其他方法，具有算法简单，运算速度快，受外界影响小等特点。
关键词：人工神经网络Matlab水质评价BP
中图分类号： TN711文献标识码：A 文章编号：
“人口、资源、环境”是当今世界面临的三大难题。人类的生存与发展从根本上依赖于水的获取和对水的控制。
天津市蕴藏着丰富的中、低温地下水资源。同时，天津市作为华北地区严重缺水的城市，地下水资源对天津市的经济发展具有极其重要的作用。地下水水质的分析评价，为资源管理提供了水质判别的依据，是资源管理系统中重要的一部分。
目前，天津市的地下水水资源的分析管理工作中，水质分析评价采用的比较多的是内梅罗指数公式法、模糊综合评判法、国标法等。
1 BP人工神经网络简介
BP (Back Propagation)神经网络是一种神经网络学习算法，全称是基于误差反向传播算法的人工神经网络。它的学习过程，由信息的正向传播和误差的反向传播两个过程组成。输入层各神经元负责接收来自外界的输入信息，并传递给中间层各神经元；中间层是内部信息处理层，负责信息变换；最后一个隐层传递到输出层各神经元的信息，经进一步处理后，完成一次学习的正向传播处理过程，由输出层向外界输出信息处理结果。
BP神经网络相对比其他的神经网络，具有运算速度快，叠加性好等特点。
2分析方法模型建立
2.1 分析标准选择
参照《中华人民共和国地下水质量标准》，结合天津市水资源的实际取样和检测经验，形成下述指标：
表1水质评价的要素表（单位：mg/L）
2.2 分析方法建立
分析方法基本流程如图
图1基本流程图
隐含层采用正切S型神经元，输出层采用线性神经元，输入向量的维数是16，所以输入层节点数确定为16个。输出层节点数由输出向量的维数决定，这里输出节点数为1。据经验以及反复训练, 隐含层节点数定为5。这样就形成了一个16×5×1神经网络。
图2BP神经网络结构
输入向量为2-1，地下水质量分类指标，共有项目16，分为五个级别。输出结果为一列。
2.3 平台选择
本文使用的开发平台为MATLAB7.8(R2009a)。
2.4 算法选择
本文选择动量批梯度下降函数（traingdm）来训练算法。它实现的是一种批处理的前馈神经网络训练算法，它不但具有更快的收敛速度，而且引入了一个动量项，有效地避免了局部最小问题在网络训练中的出现。
2.5 学习训练和模拟
网络的训练学习，分为如下几步：
首先，采用指令 net=newff(minmax(p),[5,1],{'tansig','purelin'},'traingdm') 建立网络。
newff()为建立BP神经网络的函数，minmax(p)表示网络输入p的取值范围（0～1），[5,1]表示隐层节点数是5，输出层节点数是1，{'tansig','purelin'}表示隐含层中的神经元采用tansig转换函数，输出层采用purelin函数，'traingdm'表示选择的学习算法。
权重和阈值初始化 net=init(net);给各连接权重IW{1,1}、LW{2,1}及阈值b{1}、b{2}赋予（-1,+1）间的随机值。
然后，采用指令[net,tr]=train(net,p,t)进行训练；训练次数1000，误差限为10-8。采用水质标准归一化后的数值作为训练向量。训练结果如下：
图3 网络训练误差图
采用指令 a= sim(net,p)模拟；
训练结果：1.0001 1.9998 3.0001 4.0000 5.0000
这说明网络已经训练完毕，可以使用进行实际应用。
根据训练好的网络及输入向量进行模拟网络输出，输入层P为16×n的数组，将监测数据，进行评价归一化后，根据训练好的模型进行仿真采用指令out= sim(net,p1)，得到的结果为1×n的向量。即为样本的评价值。然后将评价值根据大小分为不同的等级（I,II,III,IV,V），输出为rank数组。
3实验结果
3.1 小量样本对比实验
选取3个地点，使用不同方法进行评价，水质评价可以用矿化度和硬度这两项指标来简单的评价，因为这两个指标可以说明水质各组分浓度大小。比较结果如下：
表2小量样本结果
从上表中可以看出，3号样本的矿化度和硬度这两项指标远小于其他两个样本，水质情况明显好于其他两个样本。这个结论与BP神经网络的评价结果是一致的，其他两种方法不能将这3个样本的水质情况区分开。
从小量样本的结果看，BP神经网络法的评价与实际的符合度较好。
3.2 大量样本对比实验
分析方法是否科学，是否符合实际工作的需要，仅有小量样本的实验是远远不够的，还需要使用较大规模的数据样本进行实验。
大量样本实验选取多年地下水监测数据中随机抽取的200组数据，代入模型，结果如下：
表3大量样本结果
与往年数据进行比较，结果如下：
图4 地下水历年评价结果对比图
由上图可以看出，使用BP神经网络法对水质进行分析评价，结果比较合理，与往年的数据相符合，结果可信。
4结论
天津市地下水资源的管理，到现在已经走过了20几年的时间，积累了大量的监测数据，为了更好的整理分析这些数据，便于管理工作的进行，水质分析评价就成为了一个很好的工具。基于BP人工神经网络的水质分析评价模型，为水质分析评价工作提供了一个新的方向。与传统的方法不同，BP神经网络法进行水质分析评价，更为简单，快捷，结果也与真实情况相符合。
水质分析评价是一项长期、枯燥、严谨而又非常重要的工作。使用BP网络法评价，现阶段同样存在着不足，比如不同的评价对象具有不同的影响因子，对于不同的评价对象，评价因子需进一步更改。
本文对于地下水水质评价方法提出一个新的研究方向，希望能够抛砖引玉，供大家借鉴思考。
参考文献：
[1]郝华.我国城市地下水污染状况与对策研究[J].水利发展研究，2004，(3):23-25+49.
[2]卢新卫.基于人工神经网络的水质污染综合评价方法[J].工程勘察，1997，(6):25-26.
神经网络的训练流程范文4
关键词：BP算法 训练样本 小车自动寻径
中图分类号：TP273.3 文献标识码：A 文章编号：1007-9416（2013）07-0102-02
1 引言
随着生产技术的发展和自动化程度的提高，在自动化领域中，许多复杂性操作或对人体有害的工作都由机器自动完成，为了实现这一工作，机器就必须具有智能性。
人工神经网络是由人工神经元（简称神经元）互连组成的网络，以大规模模拟并行处理为主，具有很强的鲁棒性和容错性自学习能力，是一个大规模自适应非线性动力系统；具有集体运算的能力。多层前向神经网络（BP网络）是神经网络结构形式中应用较多的自学设计方法之一。BP算法可以通过已知数据训练网络模型，应用于对未知数据的预测[3]。因此能很好的应用于小车自动寻径，使小车具有智能性。
2 BP算法神经网络
BP神经网络（Back-Propagation networks）包括三个层次：输入层、隐含层、输出层[2]。
2.1 BP算法流程简述
BP神经网络的本质是误差反向传输的多层前馈网络，BP算法的基本思想是，学习过程由信号的正向传播与误差的反向传播两个过程组成。正向传播时，先自行对权重进行初始化，输入样本从输入层传入，经各隐层逐层处理后，传向输出层，如图1为BP神经网络模型[3]，若输出层的实际输出与期望的输出（理想输出）不符，则转入误差的反向传播阶段。
2.2 隐层神经元个数的确定
一般情况下，隐层神经元个数是根据网络收敛性能的好坏来确定的，在总结大量网络结构的基础上，在单隐层神经网络中，得出以下经验公式：
其中，为输入层神经元个数，为输出层神经元个数。
3 创建BP神经网络模型
3.1 问题描述
随机的绘制一张彩色地图，地图中有各种颜色的建筑和一条贯穿的公路（白色），引入BP神经网络，使该小车具有一定的智能，可以自动地判断前方是否为公路，进而沿着公路从地图的一端走到另一端。本次实验所用的地图如图2所示（地图及小车由本人按照一定的比例用电脑的画图工具所画）：
3.2 地图及小车图片的灰度化
由于Matlab默认为rgb模式打开图片，故为了更简单的解决问题，必须对图片进行灰度处理，处理之后地图及小车分别为520*1100和20*25维矩阵。
3.3 地图及小车图片的二值化
为了BP网络更好的收敛，需对相应图片进行二值化处理，如图3所示。由于本次实验公路为白色，小车为黑色。故将地图中除公路以外的部分的像素值置为0，公路上的像素值置为255，小车的像素值置为255。
所以，在小车的“眼里”，世界是黑白的。如下图：
3.4 小车的视野
小车必须有一定的视野，可以“看到”前方的路况，否则当小车发现情况不妙准备转弯的时候就已经撞到路边了。本次实验取的小车的视野为小车前方和左右方30像素范围，这样小车可以“预感到”自己前方和左右方向上的路况，进而及早调整方向。
3.5 训练BP神经网络
训练样本作为BP网络的输入数据集，对于网络的训练具有重要的作用[4]，本文建立单隐层BP神经网络，训练样本选取为小车在地图上某个方位的对应位置的差矩阵，共20个样本，其中10个是对的样本（即小车在公路上），10个为错的样本（即小车的车体不完全在路面上）。这样输入的样本矩阵的大小即为小车图片对应的像素矩阵的大小，为20*25，故输入层神经元个数取为500。输出层只有两种情况，在公路上为对，不在公路上为错，故输出层神经元个数为2。
由式（2）可得隐层神经元的个数为42，选取误差精度10-4，初始学习速率0.5，初始权值为（-1，1）区间内随机值。
经过245次训练以后，总体期望误差达到了给定范围，网络训练过程中的误差变化曲线[15]如图4所示。
4 实验结果
所有算法均在MATLAB R2009a中运行，微机配置为Core Processor 4000+2.10GHz，内存为2G。
用前面选出的训练样本对BP神经网络进行训练，训练之后小车即具有了一定的智能，可以识别前方和左右方的路况，实验结果表明，小车可以很好的沿着公路从地图的一侧行驶到另一侧。
5 结论
通过对BP神经网络训练后，小车可以正确地沿着公路地图的一侧行驶到另一侧，说明BP神经网络可以很好地应用于路径识别和自动驾驶领域。
参考文献
[1] 杨国才，王建峰，王玉昆.基于Web的远程自学型教学系统的设计与实现[J].计算机应用， 2000，20（4）：61-63.
[2] 安淑芝.数据仓库与数据挖掘[M].北京：清华大学出版社， 2005：100-101.
[3] 蔡自兴，徐光佑.人工智能及其应用[M].北京：清华大学出版社， 2003.
神经网络的训练流程范文5
关键词：径向基神经网络（RBFN）； 超高压； 继电保护； LLS； 梯度下降法
中图分类号：TN911-34; TP332 文献标识码：A
文章编号：1004-373X(2011)20-0196-04
Algorithm of EHV Relaying Protection Based on RBF Neural Network
ZHANG Dong1, WANG Tao2
(1. Inner Mongolia Electric Power Group, Hohhot 010080, China;
2. School of Electronics and Information Engineering, Soochow University, Suzhou 215021, China)
Abstract： An algorithm of EHV (extra high voltage) relaying protection based on RBFN (radial basis function neural network) is proposed. The algorithm can conduct the training according to the existing relaying data sample set because the RBFN has learning ability, find the internal relations of fault detection, fault location, self-adaptive automatic reclosing technology, differential protection and distance protection by analysis, and realize the self-adaptive control over the future relaying protection data samples. The highlight of this algorithm is that the factors of both predicting precision and training time of RFBN are taken into consideration in the process of construction. The linear least squares (LLS) and the gradient descent method are employed for MATLAB simulation experiment to obtain a more accurate result of prediction.
Keywords： RBFN; EHV; relaying protection; LLS; gradient descent
0 引 言
随着电力工业的不断发展，现代电力系统已成为┮桓龈呓追窍咝浴⒏吒丛佣鹊拇笙低常人们对系统运行的可靠性、持续性和稳定性要求也越来越高，这就使得电力系统中问题的解决越来越困难。
继电保护的任务就是检测故障信息，识别故障信号，进而决定保护是否跳闸。传统的继电保护和故障诊断方法自适应能力有限，不能适应各种运行方式和诊断复杂故障。
径向基神经网络（RBFN）具有很强的自适应能力、学习能力、非线性映射能力和容错能力，并且鲁棒性好，应用在电力系统继电保护有很大优势，很多难以列出方程式或难以求解的复杂的非线性问题，应用径向基神经网络（RBFN）方法都可以得到很好的解决。
1 人工神经网络概述
1.1 人工神经网的概念
人工神经网络（Artificial Neural Networks，ANNs）也简称为神经网络（NNs）或称作连接模型（Connectionist Model），它是一种模范动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。人工神经网络具有自学习和自适应的能力，可以通过预先提供一批相互对应的输入-输出数据，分析掌握两者之间潜在的规律，最终根据这些规律，用新的输入数据来推算输出结果，这种学习分析的过程被称为“训练”。
人工神经网络是一门模拟人脑生物过程的人工智能技术,是根据大脑神经元电化学活动抽象出来的一种多层网络结构，它是由大量的神经元互联形成的复杂的非线性系统。神经元结构如图1所示。所有输入M通过一个权重K进行加权求和后加上阈值d，再经传递函数f的作用后即为该神经元的输出a，且有：
Иa=f(MK+d)(1)И
1.2 径向基神经网络理论
径向基神经网络(RBFN)是一个三层的前馈神经网络，包括一个输入层、一个径向基层(即隐含层)和┮桓鍪涑霾恪F浠本原理是以径向基函数作为隐层单元的基，构成隐含层空间，隐含层对输入矢量进行变换将低维的模式输入数据变换到高维空间内，使得在低维空间内的线性不可分问题在高维空间内线性可分。径向基函数它模拟了人脑中局部调整、相互覆盖感受野(Receptive Field)，因此是一种局部逼近网络，科学界已经证明它能以任意精度逼近任意函数，其拓扑结构如图2所示。
图1 人工神经元模型
图2 RBF网络结构图
输入层节点获取输入向量后，传递输入向量到隐含层。隐含层节点由径向基函数构成，径向基函数可采取多种形式(通常采用Gaussian函数)。隐含层执行非线性变换，将输入空间映射到一个新的空间。输出层通常是简单的线性函数。隐含层节点和输出层节点以不同的权重完全连接。隐含层节点的激活函数对输入激励产生一个局部响应，输入向量越靠近基函数的中心，隐含层节点做出的响应越大。隐含层第j结点的输出响应为：
ИGj(x)=exp－x－μj2σ2j （2）И
式中：x= ［ X1,X2,…,Xn ］ 为输入向量；μj,σj分别为第j个神经元的中心和大小；c为神经元的个数。
输出层为隐含层各个单元的加权和:
И=f(x)=∑cj=1wjGj(x)（3）И
式中：wj为第j 个神经元对应的权值。
2 基于RBF的超高压继电保护算法
2.1 训练数据的样本采集
训练所需要的样本数据，直接关系到训练出来经验函数精度的优劣，所以一组好的训练样本是经验函数精度的保证。本文采用内蒙古电力集团公司超高压局近几年对继电保护数据记录，其中样本数据繁多，从中选取了5 000个有效数据作为样本，用其中4 000来训练经验函数，后1 000个用来检测训练效果。
2.2 RBF神经网络混合学习算法
RBF网络的学习分为两个过程。第一个过程：根据所有输入向量确定各隐含层节点的高斯函数的中心值cj。第二个过程：在确定了隐含层j的参数后，根据样本，利用最小二乘法原则求出输出层的权值wjt。建立RBF神经网络的关键问题是根据给定的训练样本确定径向基函数的中心。因为一旦确定了径向基函数的中心cj，则对于所有的训练样本而言Gj和预期输出yt 是已知的，输出权值`jt可以通过最小二乘法求出。
2.2.1 调整隐层神经元中心及宽度
梯度下降法的构造过程中首先定义误差函数：
ИE=12∑Nn=1En（4）И
式中：N为样本个数；En为输入第nЦ鲅本是的误差定义为：
ИEn=∑sk=1(tnk－ynk)2， n=1,2,…,N(5)И
要使误差函数最小化，则参数的修正量应与其负梯度成正比则有：ЕCj=－η1ECj和Δσj=－η2E郸要j Т入后得：
ИЕCj=2η1∑Nn=1∑sk=1(tnk－ynk)•Rnjwn(k,j)•pn－cnj(σnj)2(6)
Δσj=2η2∑Nn=1∑sk=1(tnk－ynk)•Rnjwn(k,j)pn－cnj2(σnj)3(7)И
当所有样本输入完成后，运用迭代的方法对参数进行调整，如下所示：
ИCj(m+1)=Cj(m)+ΔCj(8)
σj(m+1)=σj(m)+Δσj(9)И
式中:Cj是中心的学习速率；σj是高斯宽度的学习速率；m为迭代次数。为了保证分类器的泛化性能，采用的高斯宽度的学习速率通常大于中心的学习速率，因为小的学习速率使算法收敛过慢，而过大的学习速率可能会导致算法变得不稳定。
2.2.2 RBF网络的权值确定
首先设定输入矩阵为：M∈Rr×N，隐层输入矩阵为：P∈Ru×N；输出层矩阵为：K∈Rs×N；其中n为训练样本。若RBF网络的待定输出层权值W∈Rs×u，其三者关系为：
ИK=W×P（10）И
样本的目标输出为：T=(t1,t2,…,ts)T∈Rs×N，在这里采用线性最小二乘法(LLS)来使得目标输出与网络实际输出之间的误差达到最小,运用R的R+来求得W为R+T。
2.2.3 经验函数训练流程图
本文所训练的经验函数的算法流程图分为两个阶段，第一阶段是样本处理，由于样本具有重复性，在经过样本处理后，就保证了存储在样本库中的样本都具有代表性，消除重复训练，提高训练速率；第二阶段是训练经验函数。训练过程如图3所示。
图3 经验函数的算法流程图
3 实验结果与分析
该研究采用Matlab 7.0.0来做仿真实验,针对关注的5个重要的超高压继电保护指标分别进行预测，实验数据来自内蒙古电力集团公司超高压局近几年对继电保护数据记录，实验采用大量超高压继电保护值来训练RBF神经网络，当网络训练达到误差平方和目标0.01时，网络训练结束。
图4~图8分别为故障检测、故障定位，自适应自动重合闸技术、差动保护以及距离保护的预测值与实际值之间的比较(其中横轴均为时间序列，纵轴为超高压继电保护的相应指标值)。
通过仿真结果可以看出：曲线的拟合度较好，说明通过RBF神经网络短期预测超高压继电保护取得了较好的效果。但是长期的预测则需要考虑超高压继电保护各衡量指标的突变情况，此时RBF神经网络无法对其做出准确的预测。
4 结 语
本文将RBF神经网络及其相关算法应用到超高压继电保护预测上，可以更好、更快地动态预测继电保护的工作状态。在其中RBF网络大大提高了训练的速度，节省了时间且预测精度更高，在局部的短期预测中占有优势。怎样进一步改进优化预测算法是RBF神经网络预测超高压继电保护的下一步研究方向。
参考文献
［1］马锐.人工神经网络原理\.北京：机械工业出版社,2010.
［2］刘学军.继电保护原理\.北京：中国电力出版社,2007.
［3］贺张萍.深度探讨继电保护装置状态检修需求及应用难点\.科技资讯,2010(32):120-122.
［4］黄懿.继电保护可靠运行的控制分析\.中国科技博览,2010(3):61-64.
［5］MOHAMED E A, TALAAT H A; KHAMIS E A. Fault diagnosis system for tapped power transmission lines \. Source: Electric Power Systems Research, 2010, 80 (5): 599-613.
［6］Eissa M M, Sowilam G M A, Sharaf A M. A new protection detection technique for high impedance fault using neu-ral network \// Proceedings of 2006 Large Engineering Systems Conference on Power Engineering. \: \, 2006: 146-151.
［7］DUTTA A A, KADU A N. Pattern recognition method for detecting fault in EHV transmission lines \// Proceedings of2nd International Conference on Mechanical and Electrical Technology. \: ICMET, 2010: 24-27.
［8］刘田田,燕洁.人工神经网络在电力系统继电保护中的应用\.电力学报,2007(2):190-192.
［9］吕卫胜.人工智能技术在电力系统继电保护中的应用\.山东电力技术,2006(1):61-63.
［10］KHORASHADI-ZADEH H, EBRAHIMI M R A. AN ANN based approach to improve the distance relaying algorithm \// Proceedings of the 2004 IEEE Conference on Cybernetics and Intelligent Systems. Singapore: IEEE, 2004:1374-1379.
［11］曾晓林,薛建辉,洪刚.粒子群优化神经网络在高压断路器机械故障诊断中的应用\.电网与清洁能源，2010,26(6):57-61.
［12］李风光,杨志.基于BP网络的自适应接地保护研究\.电网与清洁能源，2010,26(10):31-34.
神经网络的训练流程范文6
关键词：神经网络；过程控制；模糊控制
我国矿石“贫、细、杂”，矿石成分复杂，性质波动严重，因而造成了我国浮选过程控制水平不高，浮选药剂消耗量大，产品质量波动大，精矿回收率低，经济效益差的现状，严重影响了我国钢铁工业的国际竞争力。因此急需能够满足我国浮选工艺现状的检测设备及先进控制算法，以提高我国浮选过程控制水平，以稳定产品质量，为后序炼铁工序提供更好的原料。
对于浮选工艺过程控制，药剂控制是根本性的。以反浮选为例，如果给药量过少，无用矿物成分就不能充分浮选，则会导致精矿品位降低，不能满足产品质量要；如果药剂量过多，不但药剂费用大，而且会导致返回的中矿量增加和尾矿品位增高，回收率降低，经济效益不理想。
本文根据影响浮选药剂用量的因素确定了RBF神经网络模型的结构。针对RBF神经网络参数难以确定的缺点，提出一种基于蚁群算法RBF神经网络优化方法。并通过仿真结果证明了该算法的有效性。
1 药剂量控制模型结构确定
目前传统的药剂添加方法是以给矿流量为参考，在应用比例控制的方法的基础上根据操作工经验来控制药剂流量。但由于浮选过程的严重非线性、干扰因素众多且系统存在大滞后。这种简单的控制方法难以保证浮选最终精矿品位的稳定，同时影响了精矿回收率。即使在浮选槽出口安装上价值昂贵的在线精矿品位检测仪表，由于浮选过程的大滞后特性，常规的闭环控制方法也难以达到目的。所以本章主要通过应用浮选生产过程中积累的大量生产数据，根据相应的浮选工艺参数，使用RBF神经网络技术对浮选过程进行建模。然后根据初始生产条件，应用建立好的数学模型预测所需的药剂用量，从而克服系统的大滞后、非线性特性，稳定浮选生产过程。
通过现场调研，我们知道原矿性质和药剂用量与浮选槽出口精矿品位有直接关系。最后我们依据工艺机理和现场操作工经验知识，最终确定给矿品位、给矿流量、给矿粒度、给矿浓度、精矿品位5个变量对药剂流量影响最大。
因此本文将给矿品位、给矿流量、给矿粒度、给矿浓度和精矿品位5个变量作为浮选药剂量控制模型的输入变量，将浮选药剂流量作为模型输出变量，从而建立一个5输入、1输出的RBF神经网络模型，模型结构如图1所示。
图1 浮选药剂量控制模型结构图
2 基于蚁群算法的网络泛化能力优化
我们应用处理后的样本数据对网络性能进行了测试（这里我们使用了700组样本数据作为网络训练数据，50组数据作为网络性能测试数据，网络训练停止条件是网络训练误差小于网络训练停止误差或者超过最大训练次数。我们把网络最大训练次数规定为5000次），测试中发现了两个问题。一是值得大小对网络测试误差的影响很大；二是网络的训练停止误差（训练次数）大小也影响测试误差的大小。有时网络训练停止误差越小，反而网络的性能越差。下面给出了仿真测试曲线：
图2 不同r值下的模型预测曲线
3 蚁群算法优化RBF神经网络参数
从网络性能测试结果和上面关于神经网络泛化能力的相关知识我们可以知道，要提高本文RBF神经网络模型的泛化能力。在网络训练过程中，我们所能做的就是在确定一个合适的r值（确定合理网络结构），并且判定合理的网络训练停止误差（也可以是学习次数）。
[图3 蚁群算法优化RBF神经网络参数流程图]
但是由于r值和网络训练停止误差是两个参数，只有在两个参数都合适的情况下才能获得最好的网络性能。这样如何寻找这两个参数的最优组合就成了问题的关键点。采用手动试验的方式由于两个参数的不同组合太多而难以实施。因而本文决定采用目前流行的蚁群优化算法对上述两个参数进行优化，来提高RBF神经网络的性能。本文应用蚁群算法优化RBF神经网络参数的流程如图3所示。
这里我们将样本数据分成3个部分：一部分为训练样本集；一部分为内部测试样本集；一部分为外部测试样本集。蚁群算法优化RBF神经网络参数的工作过程如下：
Step1：蚁群算法参数。
Step2：随机选定r值和网络训练停止误差。
Step3：采用文中的网络中心和权值训练方法，应用训练样本集训练RBF网络。训练结束后，应用内部测试样本集测试网络泛化误差。
Step4：根据泛化误差计算蚁群算法适应度函数，适应度函数值满足要求或蚁群算法迭代次数超过目标次数则停止算法，并给出参数优化结果。否则进行蚁群算法操作重新搜索r值和网络训练停止误差后返回Step3。
通过蚁群算法的优化，我们最后得到r=1.37，网络训练停止误差为6.3×10-4。此时RBF神经网络仿真结果如下：
[图4 蚁群算法优化后的模型预测曲线]
