前言：中文期刊网精心挑选了神经网络前向传播算法范文供你参考和学习，希望我们的参考范文能激发你的文章创作灵感，欢迎阅读。
神经网络前向传播算法范文1
关键字神经网络，BP模型，预测
1引言
在系统建模、辨识和预测中，对于线性系统，在频域，传递函数矩阵可以很好地表达系统的黑箱式输入输出模型；在时域，Box-Jenkins方法、回归分析方法、ARMA模型等，通过各种参数估计方法也可以给出描述。对于非线性时间序列预测系统，双线性模型、门限自回归模型、ARCH模型都需要在对数据的内在规律知道不多的情况下对序列间关系进行假定。可以说传统的非线性系统预测，在理论研究和实际应用方面，都存在极大的困难。相比之下，神经网络可以在不了解输入或输出变量间关系的前提下完成非线性建模[4，6]。神经元、神经网络都有非线性、非局域性、非定常性、非凸性和混沌等特性，与各种预测方法有机结合具有很好的发展前景，也给预测系统带来了新的方向与突破。建模算法和预测系统的稳定性、动态性等研究成为当今热点问题。目前在系统建模与预测中，应用最多的是静态的多层前向神经网络，这主要是因为这种网络具有通过学习逼近任意非线性映射的能力。利用静态的多层前向神经网络建立系统的输入/输出模型，本质上就是基于网络逼近能力，通过学习获知系统差分方程中的非线性函数。但在实际应用中，需要建模和预测的多为非线性动态系统，利用静态的多层前向神经网络必须事先给定模型的阶次，即预先确定系统的模型，这一点非常难做到。近来，有关基于动态网络的建模和预测的研究，代表了神经网络建模和预测新的发展方向。
2BP神经网络模型
BP网络是采用Widrow-Hoff学习算法和非线性可微转移函数的多层网络。典型的BP算法采用梯度下降法，也就是Widrow-Hoff算法。现在有许多基本的优化算法，例如变尺度算法和牛顿算法。如图1所示，BP神经网络包括以下单元：①处理单元(神经元)（图中用圆圈表示），即神经网络的基本组成部分。输入层的处理单元只是将输入值转入相邻的联接权重，隐层和输出层的处理单元将它们的输入值求和并根据转移函数计算输出值。②联接权重(图中如V,W)。它将神经网络中的处理单元联系起来，其值随各处理单元的联接程度而变化。③层。神经网络一般具有输入层x、隐层y和输出层o。④阈值。其值可为恒值或可变值，它可使网络能更自由地获取所要描述的函数关系。⑤转移函数F。它是将输入的数据转化为输出的处理单元，通常为非线性函数。
2.1基本算法
BP算法主要包含4步，分为向前传播和向后传播两个阶段：
1）向前传播阶段
（1）从样本集中取一个样本（Xp，Yp），将Xp输入网络；
（2）计算相应的实际输出Op
在此阶段，信息从输入层经过逐级的变换，传送到输出层。这个过程也是网络在完成训练后正常运行时的执行过程。
2）向后传播阶段
（1）计算实际输出Op与相应的理想输出Yp的差；
（2）按极小化误差的方式调整权矩阵。
这两个阶段的工作受到精度要求的控制，在这里取作为网络关于第p个样本的误差测度，而将网络关于整个样本集的误差测度定义为。图2是基本BP算法的流程图。
2.2动态BP神经网络预测算法
在经典的BP算法以及其他的训练算法中都有很多变量，这些训练算法可以确定一个ANN结构，它们只训练固定结构的ANN权值（包括联接权值和结点转换函数）。在自动设计ANN结构方面，也已有较多的尝试，比如构造性算法和剪枝算法。前一种是先随机化网络，然后在训练过程中有必要地增加新的层和结点；而剪枝法则正好相反。文献[2]中提出了演化神经网络的理念，并把EP算法与BP进行了组合演化；也有很多学者把遗传算法和BP进行结合，但这些算法都以时间复杂度以及空间复杂度的增加为代价。根据Kolmogorov定理,对于任意给定的L2型连续函数f:[0,1]nRm,f可以精确地用一个三层前向神经网络来实现，因而可以只考虑演化网络的权值和结点数而不影响演化结果。基于此，在BP原有算法的基础上，增加结点数演化因子，然后记录每层因子各异时演化出的结构，最后选取最优的因子及其网络结构，这样就可以避免由于增加或剪枝得到的局部最优。根据实验得知，不同的预测精度也影响网络层神经元的结点数，所以可根据要求动态地建立预测系统。具体步骤如下：
（1）将输入向量和目标向量进行归一化处理。
（2）读取输入向量、目标向量，记录输入维数m、输出层结点数n。
（3）当训练集确定之后，输入层结点数和输出层结点数随之而确定，首先遇到的一个十分重要而又困难的问题是如何优化隐层结点数和隐层数。实验表明，如果隐层结点数过少，网络不能具有必要的学习能力和信息处理能力。反之，若过多，不仅会大大增加网络结构的复杂性（这一点对硬件实现的网络尤其重要），网络在学习过程中更易陷入局部极小点，而且会使网络的学习速度变得很慢。隐层结点数的选择问题一直受到神经网络研究工作者的高度重视。Gorman指出隐层结点数s与模式数N的关系是：s＝log2N；Kolmogorov定理表明，隐层结点数s＝2n＋1（n为输入层结点数）；而根据文献[7]：s＝sqrt（0.43mn＋0.12nn＋2.54m＋0.77n＋0.35）＋0.51[7]。
（4）设置结点数演化因子a。为了快速建立网络，可以对其向量初始化，并从小到大排序[4，7]。
（5）建立BP神经网络。隐含层传递函数用tansig，输出层用logsig，训练函数采用动态自适应BP算法，并制订停止准则：目标误差精度以及训练代数。
（6）初始化网络。
（7）训练网络直到满足停止判断准则。
（8）用测试向量对网络进行预测，并记录误差和逼近曲线，评估其网络的适应性。其适应度函数采取规则化均方误差函数。
（9）转到（5），选取下一个演化因子，动态增加隐含层结点数，直到最后得到最佳预测网络。
3基于神经网络的预测原理[4]
3.1正向建模
正向建模是指训练一个神经网络表达系统正向动态的过程，这一过程建立的神经网络模型称为正向模型，其结构如图3所示。其中，神经网络与待辨识的系统并联，两者的输出误差用做网络的训练信号。显然，这是一个典型的有导师学习问题，实际系统作为教师，向神经网络提供算法所需要的期望输出。当系统是被控对象或传统控制器时，神经网络多采用多层前向网络的形式，可直接选用BP网络或它的各种变形。而当系统为性能评价器时，则可选择再励学习算法，这时网络既可以采用具有全局逼近能力的网络（如多层感知器），也可选用具有局部逼近能力的网络（如小脑模型控制器等）。3.2逆向建模
建立动态系统的逆模型，在神经网络中起着关键作用，并且得到了广泛的应用。其中，比较简单的是直接逆建模法，也称为广义逆学习。其结构如图4所示，拟预报的系统输出作为网络的输入，网络输出与系统输入比较，相应的输入误差用于训练，因而网络将通过学习建立系统的逆模型。但是，如果所辨识的非线性系统是不可逆的，利用上述方法将得到一个不正确的逆模型。因此，在建立系统时，可逆性应该先有所保证。
4应用实例分析
以我国西南某地震常发地区的地震资料作为样本来源，实现基于动态神经网络的地震预报。根据资料，提取出7个预报因子和实际发生的震级M作为输入和目标向量。预报因子为半年内M>=3的地震累计频度、半年内能量释放积累值、b值、异常地震群个数、地震条带个数、是否处于活动期内以及相关地震区地震级。在训练前，对数据进行归一化处理。由于输入样本为7维的输入向量，一般情况下输入层设7个神经元。根据实际情况，输出层神经元个数为1。隐含层神经元的传递函数为S型正切函数，输出层也可以动态选择传递函数。实例数据来自文献[4]，将数据集分为训练集、测试集和确定集。表1中的7×7数组表示归一化后的训练向量，第一个7表示预报因子数，第二个7表示样本数。
表1归一化后的训练向量
在不同神经元数情况下，对网络进行训练和仿真，得到如图5所示的一组预测误差曲线。其中，曲线A表示隐层结点数为6时的预测误差曲线，曲线B表示隐含层结点数为3时的预测误差曲线，曲线C表示隐含层结点数为5时的预测误差曲线，曲线D表示隐含层结点数为4时的预测误差曲线。将五种情况下的误差进行对比，曲线C表示的网络预测性能最好，其隐含层神经元数为5，图中曲线E表示的是隐含层结点数为15时的预测误差曲线（文献[4]中的最好结果）。同时也证明，在设计BP网络时，不能无限制地增加层神经元的个数。若过多，不仅会大大增加网络结构的复杂性，网络在学习过程中更易陷入局部极小点，而且会使网络的学习速度、预测速度变得很慢。
5结论
本文针对基本的BP神经网络，提出了可动态改变神经元数（与精度相关）的BP神经网络预测方法，可以根据实际情况建立预测系统。用此种方法可以建立最好的神经网络，不会有多余的神经元，也不会让网络在学习过程中过早陷于局部极小点。
参考文献
[1]YaoX,LiuY.FastEvolutionaryProgramming.inEvolutionaryProgrammingⅤ:Proc.5thAnnu.Conf.EvolutionaryProgram,L.Fogel,P.AngelineandT.Bäck,Eds.Cambridge,MA:MITPress,1996,451-460
[2]XinYao,YongLiu,ANewEvolutionarySystemforEvolvingArtificialNeuralNetworksIEEETRANSACTIONSONNEURALNETWORKS,VOL8,NO.31997，694-714
[3]潘正君，康立山，陈毓屏.演化计算[M].北京:清华大学出版社，1998
[4]飞思科技产品研发中心.神经网络理论与实现.北京:电子工业出版社，2005
[5]蔡晓芬，方建斌.演化神经网络算法.江汉大学学报，第33卷第3期，2005.9
神经网络前向传播算法范文2
【关键词】人工神经网络 路径规划 移动机器人
1 引言
在移动机器人导航技术应用过程中，路径规划是一种必不可少的算法，路径规划要求机器人可以自己判定障碍物，以便自主决定路径，能够避开障碍物，自主路径规划可以自动的要求移动机器人能够安全实现智能化移动的标志，通常而言，机器人选择的路径包括很多个，因此，在路径最短、使用时间最短、消耗的能量最少等预定的准则下，能够选择一条最优化的路径，成为许多计算机学者研究的热点和难点。
2 背景知识
神经网络模拟生物进化思维，具有独特的结构神经元反馈机制，其具有分布式信息存储、自适应学习、并行计算和容错能力较强的特点，以其独特的结构和信息处理方法，在自动化控制、组合优化领域得到了广泛的应用，尤其是大规模网络数据分析和态势预测中，神经网络能够建立一个良好的分类学习模型，并且在学习过程中优化每一层的神经元和神经元连接的每一个节点。1993年，Banta等将神经网络应用于移动机器人路径规划过程中，近年来，得到了广泛的研究和发展，morcaso等人构建利用一个能够实现自组织的神经网络实现机器人导航的功能，并且可以通过传感器训练网络，取得更好的发展，确定系统的最佳路径。神经网络拓扑结构模型可以分为：
2.1 前向网络
网络中各个神经元接受前一级的输入，并输出到下一级，网络中没有反馈，可以用一个有向无环路图表示。这种网络实现信号从输入空间到输出空间的变换，它的信息处理能力来自于简单非线性函数的多次复合。网络结构简单，易于实现。反传网络是一种典型的前向网络。
2.2 反馈网络
网络内神经元间有反馈，可以用一个无向的完备图表示。这种神经网络的信息处理是状态的变换，可以用动力学系统理论处理。系统的稳定性与联想记忆功能有密切关系。Hopfield网络、波耳兹曼机均属于这种类型。
3 基于人工神经网络的移动机器人路径规划算法
神经网络解决移动机器人路径规划的思路是：使用神经网络算法能够描述机器人移动环境的各种约束，计算碰撞函数，该算法能够将迭代路径点集作为碰撞能量函数和距离函数的和当做算法需要优化的目标函数，通过求解优化函数，能够确定点集，实现路径最优规划。神经网络算法在移动机器人路径规划过程中的算法如下：
（1）神将网络算法能够初始化神经网络中的所有神经元为零，确定目标点位置的神经元活性值，并且能够神经网络每层的神经元连接将神经元的值传播到出发点；
（2）动态优化神经网络，根据神经网络的目标节点和障碍物的具置信息，在神经网络拓扑结构中的映射中产生神经元的外部输入；
（3）确定目标值附件的神经元活性值，并且使用局部侧的各个神经元之间，连接整个神经网络，并且在各个神经元中进行传播。
（4）利用爬山法搜索当前邻域内活性值最大的神经元，如果邻域内的神经元活性值都不大于当前神经元的活性值，则机器人保持在原处不动；否则下一个位置的神经元为邻域内具有最大活性值的神经元。
（5）如果机器人到达目标点则路径规划过程结束，否则转步骤（2）。
4 基于人工神经网络的移动机器人路径规划技术展望
未来时间内，人工神经在机器人路径规划过程中的应用主要发展方向包括以下几个方面：
4.1 与信息论相融合，确定神经网络的最优化化目标解
在神经网络应用过程中，由于经验值较为难以确定，因此在神经网络的应用过程中，将神经网络看做是一个贝叶斯网络，根据贝叶斯网络含有的信息熵，确定神经网络的目标函数的最优解，以便更好的判断机器人移动的最佳路径。
4.2 与遗传算法想结合，确定全局最优解
将神经网络和遗传算法结合起来，其可以将机器人的移动环境设置为一个二维的环境，障碍物的数目、位置和形状是任意的，路径规划可以由二维工作空间一系列的基本点构成，神经网络决定机器人的运动控制规则，利用相关的神经元的传感器作用获未知环境的情况，将障碍信息和目标点之间的距离作为神经网络的输入信息，使用遗传算法完成神经网络的权值训练，神经网络的输出作为移动机器人的运动作用力，实现一个可以在未知环境中进行的机器人运动路径规划。
4.3 与蚁群算法相结合，降低搜索空间，提高路径规划准确性
为了提高神经网络的搜索准确性和提高效率，可以将蚁群算法与神经网络相互结合，蚁群算法的路径规划方法首先采用栅格法对机器人工作环境进行建模，然后将机器人出发点作为蚁巢位置，路径规划最终目标点作为蚁群食物源，通过蚂蚁间相互协作找到一条避开障碍物的最优机器人移动路径。
5 结语
随着移动机器人技术的发展，路径规划作为最重要的一个组成部分，其得到了许多的应用和发展，其在导航过程中，也引入了许多先进的算法，比如神经网络，更加优化了移动的路径。未来时间内，随着神经网络技术的改进，可以引入遗传算法、信息论、蚁群算法等，将这些算法优势结合，将会是路径规划更加准确和精确。
参考文献
[1]朱大奇,颜明重,滕蓉. 移动机器人路径规划技术综述[J].控制与决策,2010,25(7): 961-967.
[2]刘毅.移动机器人路径规划中的仿真研究[J].计算机仿真,2011,28(6): 227-230.
[3]熊开封,张华.基于改进型 FNN 的移动机器人未知环境路径规划[J].制造业自动化,2013,35(22): 1-4.
[4]柳长安,鄢小虎,刘春阳.基于改进蚁群算法的移动机器人动态路径规划方法[J].电子学报,2011,39(5).
[5]范浩锋,刘俊.基于 BP 神经网络的红外目标识别技术[J].计算机与数字工程,2013,41(4): 559-560.
神经网络前向传播算法范文3
关键词：发电燃料；供应预测；BP神经网络；预测方法
中图分类号：TM 762 文献标示码：A
0 引言
发电燃料的供应受到能源政策、供需形势、资源分布、供应价格、交通运输、市场博弈等多种复杂因素的影响，长期以来缺乏合理有效的供应预测方法和技术手段，尤其是厂网分离后鲜见相关的研究工作。
文献1《辽宁火电厂燃料管理信息系统的开发与研制》开发和研制了覆盖辽宁全体直属电厂燃料公司并同东电局进行广域网数据交换，同时能进行审核管理和业务信息方便传输的燃料综合管理信息系统。
文献2《电力系统燃料MIS系统开发研究》探讨了燃料管理信息系统的组成、功能、结构及开发应用，为综述性理论研究。
以上文献均未对发电燃料供应提供较有效的预测方法。本文提出一种基于BP神经网络的发电燃料供应量预测方法，利用神经网络原理，通过数据收集、数据修正和神经网络结构选择建立起基于BP神经网络的发电燃料供应预测模型。通过MATLAB实际仿真，证明该预测方法预测较准确，并具有灵活的适应性。
基金项目：中国南方电网有限责任公司科技项目（K-ZD2013-005）
1 预测方法
按预测方法的性质不同，预测可分为定性预测和定量预测。常用的定性预测方法有主观概率法、调查预测法、德尔菲法、类比法、相关因素分析法等。定量方法又可以分为因果分析法和时间序列分析法等，因果分析法也叫结构关系分析法。它是通过分析变化的原因，找出原因与结果之间的联系方式，建立预测模型，并据此预测未来的发展变化趋势及可能水平。时间序列分析法也叫历史延伸法。它是以历史的时间序列数据为基础，运用一定的数学方法寻找数据变动规律向外延伸，预测未来的发展变化趋势。由于时间序列模型无法引入对负荷影响的其它变量，所以，单纯应用时间序列模型进行供应预测精度难以提高。
运用人工神经网络技术进行预测，其优点是可以模仿人脑的智能化处理过程，对大量非结构性、非精确性规律具有自适应功能，具有信息记忆、自主学习、知识推理和优化计算的特点，特别是其自学习和自适应功能是常规算法和专家系统所不具备的，因此，预测是人工神经网络的最有潜力的应用领域之一，有非常广泛的前途。
2 BP神经网络模型
2.1 人工神经网络概述
人工神经网络是由神经元以一定的拓扑结构和连接关系组成的信息表现、储存和变换系统，是模仿人脑结构的一种信息系统，可较好地模拟人的形象思维能力。它是对自然界中生物体神经系统进行抽象和改造，并模拟生物体神经系统功能的产物。神经网络的重要特点是具有记忆和学习能力，经过一定训练之后，能够对给定的输入做出相应处理。
人工神经网络适用于处理实际中不确定性、精确性不高等引起的系统难以控制的问题，映射输入输出关系。人工神经网络优于传统方法在于：
1）实现了非线性关系的隐式表达，不需要建立复杂系统的显示关系式；
2）容错性强，可以处理信息不完全的预测问题，而信息不完全的情况在实际中经常遇到；
3）由于神经网络具有一致逼进效果，训练后的神经网络在样本上输出期望值，在非样本点上表现出网络的联想记忆功能；
4）由于大规模并行机制，故预测速度快；
5）动态自适应能力强，可适应外界新的学习样木，使网络知识不断更新。
图1是一个人工神经元的典型结构图。
图1 神经元典型结构图
它相当于一个多输入单输出的非线性阈值器件。，表示该神经元的输入向量；为权值向量；θ为神经元的阈值，如果神经元输入向量加权和大于0，则神经元被激活；f表示神经元的输入输出关系函数，即传输函数。因此，神经元的输出可以表示为：
其中传输函数是神经元以及网络的核心。网络解决问题的能力与功效除了与网络结构有关，在很大程度上取决于网络所采用的传输函数。
几种常见的传输函数如图2所示：
（1）为阈值型，将任意输入转化为0或1输出，其输入/输出关系为：
（2）为线性型，其输入/输出关系为：
（3）、（4）为S型，它将任意输入值压缩到（0，1）的范围内，此类传递函数常用对数（logsig）或双曲正切（tansig）等一类S形状的曲线来表示，如对数S型传递函数的关系为：
而双曲正切S型曲线的输入/输出函数关系是：
（1） （2）
（3） （4）
图2 常见的传递函数图形
2.2 BP神经网络概述
神经网络的魅力在于它超强的映射能力，单层感知器可实现性分类，多层前向网络则可以逼近任何非线性函数。可以将BP网络视为从输入到输出的高度非线性映射，而有关定理证明BP神经网络通过对简单的非线性函数进行数次复合，可以近似任何复杂的函数。
在人工神经网络的实际应用中，80%-90%的人工神经网络模型是采用BP网络和它的变化形式，它也是前向网络的核心，体现了人工神经网络最精华的部分。在人们掌握反向传播网络的设计之前，感知器和自适应线性元件都只能适用于对单层网络模型的训练，只是后来才得到进一步拓展。
BP神经网络主要应用有：
（1）函数逼近：用输入矢量和相应的输出矢量训练一个网络逼近一个函数。
（2）模式识别：用一个特定的输出矢量将它与输入矢量联系起来。
（3）分类：把输入矢量以所定义的合适方式进行分类。
（4）数据压缩：减少输出矢量维数以便于传输或存储。
2.3 误差反向传播算法原理
BP神经网络是一种多层前馈神经网络，名字源于网络权值的调整规则，采用的是误差反向传播算法（Error Back-Propagation Training Algorithm）即BP算法。BP神经网络是单向传播的多层前向神经网络。除输入输出节点之外，有一层或多层的隐藏节点，同层节点之间无任何连接。典型的BP网络是三层前馈阶层网络，即：输入层、隐含层（中间层）和输出层，各层之间实行全连接。BP神经网络结构如图3所示：
图3 BP神经网络结构示意图
BP网络学习过程包括误差正向传播和反向传播两个过程。在正向传播过程中，输入样本从输入层传入，经各隐含逐层处理后，传向输出层，每一层神经元的状态只影响下一层神经元的状态。若输出层的实际输出与期望的输出不符，则转入误差的反向传播阶段。误差反传是将输出误差的某种形式通过隐含层向输入层逐层反传，并将误差分摊给各层的所有单元，从而获得各层单元的误差信号，此误差信号即作为修正各神经元之间权值的依据。这种信号正向传播与误差反向传播的各层权值调整过程，是周而复始地进行的。权值不断调整的过程，也就是网络学习训练的过程。此过程一直进行到网络输出的误差减小到可接受的程度，或进行到预先设定的学习次数为止。
BP神经元与其他神经元类似，不同的是，由于BP神经元的传递函数必须是处处可微的，它不能采用二值型{0，1}或符号函数{-1，1}，所以其传递函数为非线性函数，最常用的函数S型函数，有时也采用线性函数。本文采用S型（Sigmoid）函数作为激发函数：
式中，为网络单元的状态：
则单元输出为：
其中，为单元的阀值。在这种激发函数下，有：
故对输出层单元：
对隐层单元：
权值调节为：
在实际学习过程中，学习速率对学习过程的影响很大。是按梯度搜索的步长。越大，权值的变化越剧烈。实际应用中，通常是以不导致振荡的前提下取尽量大的值。为了使学习速度足够快而不易产生振荡，往往在规则中再加一个“势态项”，即：
式中，是一个常数，它决定过去权重的变化对目前权值变化的影响程度。
图4为BP算法流程图。
图4 BP算法流程图
3 发电燃料供应预测BP神经网络模型建立
3.1 数据的收集与整理
发电燃料供应是一个庞大的系统，其中的数据资料纷繁复杂。在进行模型的搭建之前，需要进行历史资料的整理，提取出所需的数据。本模型中，选取与燃料供应有关的数据作为影响因素，如电厂发电量、能源政策、能源供需形势、交通运输状况、燃料价格和机组能耗等。
3.2 数据的修正
如果在数据采集与传输时受到一定干扰，就会出现资料出错或数据丢失的情况，此时都会产生影响预测效果的坏数据，这些坏数据将会掩盖实际模型的规律，直接影响模型的效果与精度。据此，需对样本数据进行预处理，以确保在建模和预测过程中所运用的历史数据具有真实性、正确性和同规律性。一般样本数据预处理方法主要有经验修正法、曲线置换法、插值法、20%修正法、数据横向纵向对比法、小波分析去噪法等。对于简单问题，采用数据的横向纵向对比即可实现坏数据的剔除。
3.3 BP神经网络的结构选择
理论证明，3层前向式神经网络能够以任意精度实现任意函数，所以，本模型中采用3层前向网络。同时，当有N个影响时， 3层BP神经网络的输入层节点数为N个，隐含层节点数一般为2N ～ 4N，最佳取值可根据实际问题试凑得，输出层为1个节点， 因此可以取其平均结构为N - 3N - 1型， 输入层激发函数为线性函数， 中间层和输出层的激发函数为S型函数。
3.4 BP神经网络模型建立
对于实际的燃料供应模型，数据的选择要有针对性，结构要合适，这在预测过程中是重中之重。为便于模型选择、结果对比，可同时采用几种不同的数学模型进行预测。在完成对恰当的预测模型的选择后，利用提取自历史资料的训练数据对建立好的预测数学模型进行参数训练。当模型的参数训练好以后，即可利用此模型进行预测。
具体操作步骤如下：
（1）对训练样本与预测样本进行归一化预处理，公式表示如式（1）。
（1）
其中表示经过归一化后的值，表示实际值，，分别是训练集中数据的最大值和最小值，k表示输入向量的维数，i表示有作用因素的个数。
（2）对预测的数据样本进行提取，并分别列出训练与测试的样本集合。
（3）对BP神经网络的输入层、隐含层、输出层的节点进行定义，对网络的权重、阈值进行初始赋值。
（4）利用训练样本对BP神经网络进行训练，建立符合实际问题的模型。
（5）利用事先预备的测试样本对训练好的网络进行测试，若效果不佳，则重新训练，若效果好则继续下一步。
（6）利用预测样本及训练好的模型进行预测。
具体流程图如图5所示：
图5 模型建立流程图
4 基于BP神经网络模型的发电燃料供应预测
（1）样本数据的选择
以各类影响耗煤的因素作为输入 。
（2）进行归一化处理
避免量纲对模型的影响。同时，降低数据的数量级，可以提高BP网络的训练的速度，避免饱和。
（3）确定BP神经网络的结构
3层BP神经网络的输入层节点为1个（可根据实际情况调整），对应于输入样本，隐含层节点为15，输出层节点为1，对应于输出样本。网络初始连接权及神经元初始阈值采用随机赋值方式。神经元的激发函数为S函数，最大迭代次数为400，学习步长为0.001，学习误差为0.00001。
（4）利用训练样本进行网络的训练
（5）利用测试样本进行模型的测试
人为选定5%相对误差为模型训练好坏的判别标准。若测试样本的测试结果的相对误差在5%以内，则进行下一步，否则重新训练。
（6）利用预测样本和已训练好的模型进行预测
南方电网全网发电燃料供应量预测结果值与实际值的对比如图6所示：
图6 南网全网发电燃料供应预测值与实际值对比图
5 结论
随着厂网分离的实施，电网公司和电力调度机构对发电燃料供应的掌握严重不足，已经不能满足电力供应工作的要求，尤其是在来水偏枯、电力供应紧张的时期，发电燃料供应的预测对缓解电力供需矛盾、有序做好发用电管理起着举足轻重的作用，因此，迫切需要开展发电燃料供应影响因素及预测方法的研究工作。
本文在收集、掌握发电燃料供应来源、价格、运输等情况的基础上，基于BP神经网络研究建立发电燃料供应量的预测模型和预测方法。通过MATLAB仿真预测，对预测结果值和实际值进行了对标分析，证明该预测方法预测较准确，并具有灵活的适应性。本文的研究有利于提升发电燃料的管理水平和掌控力度，为合理有序做好电力供应工作提供有力支持。
参考文献：
[1]孙长青.基于OSGI的发电集团燃料管控系统设计与实现[D].导师：陈有青.中山大学，2011.
[2]史新梅，裴珍.辽宁火电厂燃料管理信息系统的开发与研制[J].安徽工业大学学报，2001，（04）：359-362+366.
[3]付民庆.基于J2EE架构燃料管理信息系统的研究与实现[D].导师：申晓留.华北电力大学（北京），2008.
[4]魏学军.DF电厂燃料管理信息系统的研究与应用[D].导师：胡立德；戴鹤.重庆大学，2008.
[5]孙文君.发电企业燃料自动监管系统设计及应用[D].导师：张庆超；关万祥.天津大学，2010.
神经网络前向传播算法范文4
关键词：神经网络；Adaboost算法；强预测器；迭代算法；税收预测
中图分类号： TP183
文献标志码：A
Tax forecasting based on Adaboost algorithm and BP neural network
LI Xiang*， ZHU Quan-yin
Faculty of Computer Engineering， Huaiyin Institute of Technology， Huai’an Jiangsu 223003， China
Abstract：
In view of the lower accuracy of traditional tax forecasting models， the authors put forward a method of combining the Adaboost algorithm with BP neural network to forecast revenue. Firstly， the method performed the pretreatment for the historical tax data and initialized the distribution weights of test data； secondly， it initialized the weights and thresholds of BP neural network， and used BP neural network as a weak predictor to train the tax data repeatedly and adjust the weights； finally， it made more weak predictors of BP neural network to form new strong predictors by Adaboost algorithm and forecasted. The authors also carried out simulation experiment for the tax data of China from 1990 to 2010. The results show that this method has reduced the relative value of mean error from 0.50% to 0.18% compared to the traditional BP network， has effectively reduced the effect when single BP gets trapped in local minima， and has improved the prediction accuracy of network.
英文关键词 Key words：
neural network； Adaboost algorithm；strong predictor；iterative algorithm； tax forecasting
0 引言
税收是实施财政政策的重要工具，也是联系宏微观经济的一种纽带。作为国家宏观调控体系的重要组成部分，税收也是国家驾驭市场经济最主要、最有效、最常用的手段之一[1]。因此，税收预测的科学性和准确性具有重要的研究价值。
税收数据是一种动态、非线性的时间序列数据，受到政治、经济、文化等因素影响，税收数据的预测精度主要取决于预测算法。国内外学者当前对税收预测的研究方法，主要集中于基于线性回归方法、时间序列分析方法和神经网络预测方法。文献[2]采用线性回归方法对税收进行预测，由于影响税收预测的因素较多，且这些因素之间表现出较强的非线性特征，所以线性回归模型预测的精度不高。文献[3-4]中提出使用反向反馈传播（Back Propagation，BP）神经网络进行税收预测，但该方法没有克服传统BP神经网络存在的缺陷，容易陷入局部极小值，算法收敛速度较慢。文献[5-6]中提出使用Elman神经网络进行税收预测，取得了比传统BP神经网络更高的预测精度。但由于Elman神经网路的学习过程与前馈神经网络类似，也会出现收敛速度慢和易收敛到局部极小的缺陷，导致预测结果不稳定[7]。
本文针对上述问题，提出基于Adaboost算法和BP神经网络的税收预测方法，并将该方法应用于我国1990—2010年税收数据仿真实验，证明了本文方法的有效性。
1 BP神经网络与Adaboost算法
1.1 BP神经网络原理
BP网络是典型的前馈神经网络，其权值训练中采用误差逆向传播的方式，具有非线性连续有理函数的逼近功能[8]。在信号前向传递过程中，输入信号从输入层进入，经过隐含层处理，到达输出层。每一层的神经元状态只影响下一层的神经元状态。判断输出层的结果是否为期望输出，如果不是，则转入反向传播，然后根据预测误差调整网络权值和阈值，从而使BP神经网络预测输出不断逼近期望输出[9]。由于结构简单，可调参数多，训练算法多，操控性好，BP 神经网络获得了广泛的实际应用[10]。BP神经网络的拓扑结构如图1所示。
神经网络前向传播算法范文5
[关键词] 船舶供应商 评价体系 遗传算法 神经网络
选择合适的供应商直接关系到船舶企业降低成本、提高企业竞争力。现有的平价方法在确定指标权重时存在主观随意性，评价结果缺乏客观与公正。BP神经网络具有容错性、自适应性等特点，解决了评价过程中指标权重随意性和人为因素。本文构建了BP神经网络的船舶供应商评价模型，并针对BP神经网络收敛速度慢的缺点，采用遗传算法对构建的BP神经网络模型进行优化，从而构建评价船舶供应商遗传神经网络模型。
一、船舶供应商评价指标体系的构建
原材料供应商和船舶配套企业的产品质量性能以及管理水平等都会对船舶企业的正常运行带来重大影响，直接关系到企业的盈利能力。因此，构建科学的合理的供应商评价体系，是船舶制造企业综合评价供应商的依据。
周期长、成本高等特点决定了船舶是一种特殊的产品，需要结合船舶自身的特点来构建船舶供应商评价指标体系。综合学者的研究成果与船舶公司实际状况，本文认为应该从质量、成本、交货、柔性、财务与信誉状况以及服务与管理水平6个方面构建船舶供应商的评价指标体系。
二、基于遗传神经网络的船舶供应商评价模型
1.BP神经网络在船舶供应商评价中的应用
BP神经网络模型是一个分层型网络，具有输入层、中间层和输出层。供应商评价指标由输入层到输出层的传递是一个前向传播的过程，若输出结果与期望结果的误差超过允许范围，则误差反向传播，并根据各层误差的大小来调节权值,寻找最佳权集，实现正确输出。基于BP神经网络的船舶供应商评价模型结构及学习原理如图2所示。
2.基于遗传算法改进的BP神经网络模型
BP算法是沿梯度下降(平方误差函数)来指导搜索的，学习过程收敛速度慢，易陷入局部极小点。而遗传算法对于全局搜索具有较强的鲁棒性和较高的效率，克服了BP网络的局限性。将遗传算法与BP网络相结合,可以达到全局寻优和快速高效的目的。
遗传算法改进BP神经网络模型的步骤是:（1)确定网络参数；（2）设定的种群规模N，产生初始种群;（3)求N组网络权系数,得到具有相同结构的N个网络;（4)求N组网络权值对应的N个网络输出;（5）网络性能评价;（6)若不满足评价条件，由对染色体进行遗传选择、变异和交叉操作，产生新的染色体，直到满足评价函数;（7)选择一个最优染色体作为网络权重，进行网络的训练和评价。其工作流程如图3所示。
三、应用仿真算例
以中船公司的25家供应商数据为基础，采用matlab7.0编程，建立三层遗传神经网络模型。
将前15家供应商作为训练集，训练该网络；其余10家供应商作为测试集，模拟待评价的对象。设置误差精度为0.00001。首先用遗传算法，经过450次优化，得到全局最优的网络权值。然后以前15家供应商的二级评价指标为样本，经过BP神经网络4700次训练，得出对应的6个一级评价指标的训练样本;再以所得出的输出值为样本，经过BP神经网络4450次训练,训练出最终的遗传神经网络模型，并用于综合评价工作。输入后10家供应商二级评价指标值，得到其一级评价指标的输出值,以该输出值为输入，计算出10家供应商的综合评价结果。见表。
四、结束语
基于遗传神经网络的船舶供应商评价模型借助BP神经网络的容错性和自适应自学习能力克服了传统评价方法在指标权重赋值时存在的主观随意性问题，并用遗传算法的优化解决了BP存在的收敛速度慢的问题，为评价船舶供应商提供了一条新的途径。
参考文献:
[1]金朝光 纪卓尚 林 焰:船舶企业选择供应商的策略研究[J]. 计算机集成制造系统,2003,9(10):886～890
[2]马士华 林 勇 陈志祥:供应链管理[M].北京:机械工业出版,2004
神经网络前向传播算法范文6
【关键词】遗传算法；BP神经网络；柴油机；故障诊断
柴油机缸盖振动信号中包含着丰富的工作状态信息，在对其现代诊断技术中，基于振动信号分析的诊断方法显示出了其优越性，利用缸盖振动信号诊断柴油机故障是一种有效方法。故障特征的提取和故障类型的识别是利用振动信号分析法在对柴油机进行故障诊断过程中两个最为重要的过程。根据提取的故障特征识别柴油机的故障类型是一个典型的模式识别问题，对柴油机故障类型识别采用恰当的模式识别方法就尤为重要。神经网络作为一种自适应的模式识别技术，其通过自身的学习机制自动形成所要求的决策区域，而不需要预先给出有关模式的经验知识和判断函数；它可以充分利用状态信息，对来自于不同状态的信息逐一进行训练而获得某种映射关系。鉴于其自身特性，在故障模式识别领域中有着越来越广泛的应用。而据统计，有80%～90%的神经网络模型都是采用了BP网络或者是它的变形。BP网络是前向网络的核心部分，是神经网络中最精华、最完美的部分。但是它也存在一些缺陷，例如学习收敛速度、不能保证收敛到全局最小点、网络结构不易确定。遗传算法是一种基于生物自然选择与遗传机理的随机搜索算法。其基本操作是选择、交叉和变异，核心内容是参数编码、初始群体的设定、适应度函数的设计、遗传操作设计和控制参数的设定。遗传算法通过种群随机搜索，对数据进行并行处理，将结果收敛到全局最优解。因此，将遗传算法与BP神经网络结合应用于柴油机故障诊断中，可以提高网络的性能，避免网络陷入局部极小解，进而实现对设备故障的识别。
1 BP神经网络
1.1 BP神经元模型在柴油机故障诊断中的应用
BP神经网络是一种多层前馈型神经网络，其神经元的传递是S型函数，输出量为0至1之间的连续量，它可以实现从输入到输出的任意非线性映射。由于权值的调整采用反向传播学习算法，因此也称为其为BP网络。
图1 BP神经元模型
上图给出一个基本的BP神经元模型，它具有R个输入，每个输入都通过一个适当的权值和ω下一层相连，网络输入可表示为：
a=f（wp+b）
f就是表示输入/输出关系的传递函数。
BP神经网络的结构与所有影响齿轮故障的特征因素有关。柴油机运动部件多而复杂，激励源众多且其频率范围宽广，加之噪声的融入，使得柴油机表面振动信号极为复杂。基于这种特点，可以确定用于柴油机故障诊断的BP神经网络的输入层、输出层隐含层以及节点数等。由小波包提取各柴油机故障的特征值作为输入节点，输出节点数目与柴油机故障类别的数目有关。
1.2 BP神经网络与遗传算法
BP神经网络又称为反向传播算法，其算法数学意义明确、步骤分明，是神经网络中最为常用、最有效、最活跃的一种网络模型。常用方法梯度下降法和动量法，但是梯度下降法训练速度较慢，效率比较低，训练易陷入瘫痪，而且其实质是单点搜索算法，不具有全局搜索能力；动量法因为学习率的提高通常比单纯的梯度下降法要快一些，但在实际应用中速度还是不够；BP神经网络学习训练开始时网络的结构参数是随机给定的，因此结果存在一定的随机性。
遗传算法（Genetic Algorithm，GA）是模拟达尔文的遗传选择和自然淘汰的生物进化过程的计算模型，它是由美国密歇根大学的J.Holland 教授于1975年首先提出来的，遗传算法具有很强的宏观搜索能力和良好的全局优化性能，因此将遗传算法与BP神经网络结合，训练时先用遗传算法对神经网络的权值进行寻找，将搜索范围缩小后，再利用BP网络来进行精确求解，可以达到全局寻找和快速高效的目的，并且可以避免局部极小点问题。该算法不仅具有全局搜索能力，而且提高了局部搜索能力，从而增强了在搜索过程中自动获取和积累搜索空间知识及自应用地控制搜索的能力，从而使结果的性质得以极大的改善。
2 基于遗传算法的BP神经网络
遗传算法优化BP神经网络主要分为：BP神经网络结构确定、遗传算法优化权值和阀值、BP神经网络训练及预测。其中，BP神经网络的拓扑结构是根据样本的输入/输出个数确定的，这样就可以确定遗传算法优化参数的个数，从而确定种群个体的编码长度。因为遗传算法优化参数是BP神经网络的初始权值和阀值，只要网络结构已知，权值和阀值的个数就已知了。神经网络的权值和阀值一般是通过随机初始化为[-0.5，0.5]区间的随机数，这个初始化参数对网络训练的影响很大，但是又无法准确获得，对于相同的初始权重值和阀值，网络的训练结果是一样的，引入遗传算法就是为了优化出最佳的初始权值和阀值。
2.1 基于遗传算法的BP神经网络在柴油机故障诊断中的应用
通过基于遗传算法的BP神经网络建立小波包特征量与故障之间的对应关系。表1为柴油机常见故障在不同频段的能量分布，构成了人工神经网络的训练样本。表2为网络输出样本，“0”代表没有故障，“1”代表发生故障。利用表1中的训练样本对基于遗传算法的BP神经网络进行训练，经1000次训练达到了理想训练效果。
表1 训练样本
表2 网络理想输出
表3 待诊断的故障样本
表4 诊断结果
将表3中的待诊断的故障样本输入到已经训练好的BP神经网络，得到诊断结果如表4所示。第1组待诊断的信号第1个输出节点接近1，可以根据训练样本结果判断该组数据故障为供油提前角晚；第2组待诊断的信号第4个输出节点接近1，根据训练样本结果可以判断该组数据故障类型为供油提前角早；第3组待诊断的信号第7个数据节点接近1 ，可以判断故障类型为针阀卡死，其诊断结果和现场勘查结果一致。
3 结语
遗传算法优化BP神经网络的目的是通过遗传算法得到更好的网络初始值和阀值。通过以上研究可以看出，遗传算法和BP算法有机的融合，可以有效地弥补BP神经网络结构、权值和阀值选择上的随机性缺陷，充分利用了遗传算法的全局搜索能力和BP神经网络的局部搜索能力，克服了传统的BP神经网络柴油机故障诊断的缺点，提高了柴油机故障诊断的精度。
【参考文献】
