前言：中文期刊网精心挑选了神经网络反向传播公式范文供你参考和学习，希望我们的参考范文能激发你的文章创作灵感，欢迎阅读。
神经网络反向传播公式范文1
关键词：身体素质；专项成绩；跳高；递归神经网络
中图分类号：G804.2文献标识码：A文章编号：1007-3612(2008)02-0202-03
随着我国体育事业的蓬勃开展，特别是2008年奥运会的成功申办，大幅提高各项体育运动水平已成为体育管理部门、教练员和运动员关注的焦点。在以往的奥运会中，我国的跳高运动员的成绩并不理想，与世界一流水平还存在一定差距。为了缩小差距，更快地提高我国跳高运动员的专项成绩，争取在2008年奥运会上取得较大进步，准确建立起反映运动员专项成绩与身体素质相关关系的数学模型是必要的也是必须的。为了更准确地建立起映射专项成绩与身体素质函数关系的数学模型，本文利用递归神经网络强大的动态映射能力，在不需要事先确定模型数学表达形式的条件下，通过递归神经网络对训练样本的学习，建立了世界优秀男子跳高运动员的神经网络模型。
1研究对象与方法
1.1研究对象通过查阅有关文献资料，收集世界前15名男子跳高运动员的专项成绩与身体素质训练水平的历史数据（表1）。根据这些数据，分析优秀男子跳高运动员的专项成绩与身体素质训练指标之间的相关关系，建立起映射身体素质训练水平与专项成绩相关关系的递归神经网络模型。
1.2研究方法人工神经网络（Artificial Neural Network－ANN）是为模仿人脑的工作方式而设计的一种机器，是一种具有分布式存储、平行处理和自适应学习的信息处理系统。自从20世纪50年代Rosenblatt首次将单层感知器应用于模式分类学习以来，已经有了30多年的研究历史。近年来，随着神经网络理论水平的发展和应用领域的拓宽，神经网络强大的映射能力已得到人们的公认，并在许多应用领域中取得了丰硕的成果。其中，递归神经网络（Recurrent Neural Network，RNN）因其具有动态映射能力而受到青睐。80年代末，国际上一些神经网络专家，如Jordan、Pineda、Williams和Elman等提出了递归神经网络。递归神经网络的本质特征是在神经元之间既具有内部的反馈连接又有前馈连接。从系统观点看，它是一个反馈动力系统。在计算过程中它体现出动态特性，比BP前馈神经网络具有更强的动态行为和计算能力。本文采用递归神经网络来建立数学模型可以拟合跳高运动员的专项成绩与身体素质训练之间的任何一种函数关系，真正反映出它们的内在特征，从而克服多元回归模型和灰色模型的不足。目前，国际上有10种左右的递归神经网络模型，应用最广泛的是Elman网络，其结构见图1。它具有输入层、隐层、输出层以及反馈层，反馈层用来保存隐层单元前一时刻的输出状态。Elman型递归神经元网络的特点是隐藏层的输出通过反馈层的延迟、存储，自联到隐藏层的输入，这种自联方式使其对历史状态的数据具有敏感性，内部反馈网络的加入增加了网络本身处理动态信息的能力，有利于动态过程的建模。
图1Elman递归神经网络当递归神经网络的结构确定以后，便需进行神经网络的学习，在递归神经网络的学习算法中，最基本也是最重要的学习算法为动态反向传播算法（Dynamic Back Propagation）。该学习算法由正向传播和反向传播组成。在正向传播过程中，输入信号从输入层通过作用函数，逐层向隐含层、输出层以及反馈层传播。如果在输出层得不到期望的输出，则转入反向传播，将误差信号沿原来的连接通路返回，通过修改各层神经元的连接权值，使得输出误差信号最小。此学习过程不断地反复进行，直到输出误差信号小于某一给定数值，这样便获得了映射输入与输出信号的一组连接权值，得到训练好的神经网络模型。
2运动员的Elman递归神经网络模型
2.1身体素质训练指标的选取
依据15名跳高运动员7项身体素质训练指标与专项成绩的历史数据，进行身体素质训练指标与专项成绩之间的相关分析和关联分析，其相关系数和关联度见表2。从表2可以看出，100m跑、立定三级跳远、助跑手摸高、4-6步助跑高、后抛铅球、高抓杠铃和深蹲杠铃这7项身体素质训练与专项成绩的相关系数和关联度均较高。经专家评定，确认这7项素质训练指标与跳高运动员的专项成绩关系密切。
2.2神经网络模型Elman神经网络模型的建立一般可分为2个步骤：步骤1为确定神经网络模型的结构，步骤2为采用动态反向传播算法对训练样本进行学习，获得最优的连接权值。
2.2.1神经网络结构的确定选取神经网络的输入神经元数为7，分别对应7项身体素质训练指标；输出神经元数为1，代表专项成绩。神经网络的隐层数取1层，隐层神经元数目为10个。隐含层神经元的传递函数采用Sigmoid函数，输出层神经元的传递函数采用线性函数。
2.2神经网络的学习以7项素质训练指标与专项成绩对应的15组历史数据作为神经网络的训练样本，15组训练样本的数据见表3。
将以上训练样本进行归一化处理，变换成之间的数据。采用Levenberg-Marquardt动态反向传播算法对15组训练样本进行学习，从而获得最优的神经网络权值。这里，我们运用Matlab 6.5软件中的神经网络开发工具，方便和简单地实现了Elman神经网络的学习。整个学习过程耗时0.3 s（计算机的为，内存为），动态反向传播算法的学习过程曲线见图2。学习之后的神经网络模型，即神经网络的连接权值见表4，它映射出运动员素质训练与专项成绩之间的函数关系。
2.3神经网络模型的拟合精度将7项素质训练指标的数据代入神经网络模型中，获得专项成绩的预测值，计算结果见表5。采用多元线性回归模型，通过利用最小二乘法来拟合身体素质训练指标与专项成绩之间的15组数据，获得的数学模型为：
利用该数学公式，同样计算出运动员的专项成绩，计算结果见表5。
比较两种数学模型的拟合精度。从表5可以看出，神经网络模型的拟合精度要高于多元线性回归模型，即递归神经网络模型更好地映射出运动员身体素质训练水平与专项成绩之间的函数关系，为运动员训练提供了更为合理的数学模型。
2.4神经网络模型的应用在建立了运动员神经网络模型之后，便可根据运动员的实际情况，设定运动员身体素质训练水平的变化范围。并利用递归神经网络模型，计算出在该训练水平范围内的专项成绩。假定运动员1的深蹲杠铃成绩在之间变化，而其它素质训练指标取表1中的数据，运动员1的跳高专项成绩与深蹲杠铃成绩的相关曲线见图3。
同样，可绘制其它素质训练指标与专项成绩之间的关系曲线。利用这些曲线，教练员和运动员可以分析出素质训练对运动员专项成绩的影响程度。最后依据此分析结果来科学安排运动员的训练计划，为运动员创造优异成绩提供理论依据。
3结论
利用递归神经网络强大的动态映射能力，本文建立起世界优秀跳高运动员身体素质训练水平与专项成绩相关关系的递归神经网络模型，该模型克服了多元回归模型和灰色模型的缺点，不需要事先确定数学模型的数学表达形式，更为客观地反映了跳高运动员的身体素质训练水平与专项成绩之间的函数关系，从而获得了更高的拟合精度。教练员和运动员利用该神经网络模型，可以更为准确地掌握运动员专项成绩的发展趋势，从而安排出更为科学的运动员训练计划。
参考文献：
［1］ 范秦海,周越,周健.跳高运动员专项身体素质与专项成绩相关关系的研究［J］.中国体育科技,2002,38(2):35-38.
［2］ 刘嘉津.运用GM(1,h)模型规划田径训练的量化方法［J］.西安体育学院学报,2003,20(6):57-58.
［3］ 张乃尧,阎平凡.神经网络与模糊控制［M］.北京:清华大学出版社,1998：53-150.
神经网络反向传播公式范文2
关键词：BP算法 训练样本 小车自动寻径
中图分类号：TP273.3 文献标识码：A 文章编号：1007-9416（2013）07-0102-02
1 引言
随着生产技术的发展和自动化程度的提高，在自动化领域中，许多复杂性操作或对人体有害的工作都由机器自动完成，为了实现这一工作，机器就必须具有智能性。
人工神经网络是由人工神经元（简称神经元）互连组成的网络，以大规模模拟并行处理为主，具有很强的鲁棒性和容错性自学习能力，是一个大规模自适应非线性动力系统；具有集体运算的能力。多层前向神经网络（BP网络）是神经网络结构形式中应用较多的自学设计方法之一。BP算法可以通过已知数据训练网络模型，应用于对未知数据的预测[3]。因此能很好的应用于小车自动寻径，使小车具有智能性。
2 BP算法神经网络
BP神经网络（Back-Propagation networks）包括三个层次：输入层、隐含层、输出层[2]。
2.1 BP算法流程简述
BP神经网络的本质是误差反向传输的多层前馈网络，BP算法的基本思想是，学习过程由信号的正向传播与误差的反向传播两个过程组成。正向传播时，先自行对权重进行初始化，输入样本从输入层传入，经各隐层逐层处理后，传向输出层，如图1为BP神经网络模型[3]，若输出层的实际输出与期望的输出（理想输出）不符，则转入误差的反向传播阶段。
2.2 隐层神经元个数的确定
一般情况下，隐层神经元个数是根据网络收敛性能的好坏来确定的，在总结大量网络结构的基础上，在单隐层神经网络中，得出以下经验公式：
其中，为输入层神经元个数，为输出层神经元个数。
3 创建BP神经网络模型
3.1 问题描述
随机的绘制一张彩色地图，地图中有各种颜色的建筑和一条贯穿的公路（白色），引入BP神经网络，使该小车具有一定的智能，可以自动地判断前方是否为公路，进而沿着公路从地图的一端走到另一端。本次实验所用的地图如图2所示（地图及小车由本人按照一定的比例用电脑的画图工具所画）：
3.2 地图及小车图片的灰度化
由于Matlab默认为rgb模式打开图片，故为了更简单的解决问题，必须对图片进行灰度处理，处理之后地图及小车分别为520*1100和20*25维矩阵。
3.3 地图及小车图片的二值化
为了BP网络更好的收敛，需对相应图片进行二值化处理，如图3所示。由于本次实验公路为白色，小车为黑色。故将地图中除公路以外的部分的像素值置为0，公路上的像素值置为255，小车的像素值置为255。
所以，在小车的“眼里”，世界是黑白的。如下图：
3.4 小车的视野
小车必须有一定的视野，可以“看到”前方的路况，否则当小车发现情况不妙准备转弯的时候就已经撞到路边了。本次实验取的小车的视野为小车前方和左右方30像素范围，这样小车可以“预感到”自己前方和左右方向上的路况，进而及早调整方向。
3.5 训练BP神经网络
训练样本作为BP网络的输入数据集，对于网络的训练具有重要的作用[4]，本文建立单隐层BP神经网络，训练样本选取为小车在地图上某个方位的对应位置的差矩阵，共20个样本，其中10个是对的样本（即小车在公路上），10个为错的样本（即小车的车体不完全在路面上）。这样输入的样本矩阵的大小即为小车图片对应的像素矩阵的大小，为20*25，故输入层神经元个数取为500。输出层只有两种情况，在公路上为对，不在公路上为错，故输出层神经元个数为2。
由式（2）可得隐层神经元的个数为42，选取误差精度10-4，初始学习速率0.5，初始权值为（-1，1）区间内随机值。
经过245次训练以后，总体期望误差达到了给定范围，网络训练过程中的误差变化曲线[15]如图4所示。
4 实验结果
所有算法均在MATLAB R2009a中运行，微机配置为Core Processor 4000+2.10GHz，内存为2G。
用前面选出的训练样本对BP神经网络进行训练，训练之后小车即具有了一定的智能，可以识别前方和左右方的路况，实验结果表明，小车可以很好的沿着公路从地图的一侧行驶到另一侧。
5 结论
通过对BP神经网络训练后，小车可以正确地沿着公路地图的一侧行驶到另一侧，说明BP神经网络可以很好地应用于路径识别和自动驾驶领域。
参考文献
[1] 杨国才，王建峰，王玉昆.基于Web的远程自学型教学系统的设计与实现[J].计算机应用， 2000，20（4）：61-63.
[2] 安淑芝.数据仓库与数据挖掘[M].北京：清华大学出版社， 2005：100-101.
[3] 蔡自兴，徐光佑.人工智能及其应用[M].北京：清华大学出版社， 2003.
神经网络反向传播公式范文3
伴随着人民生活水平的提高，汽车已经成为了人民生活中重要组成部分。但是伴随着的汽车自身某些故障的产生，使得汽车故障的研究成为了人们研究的重点，文献[1]指出计算机和信息化技术的广泛运用到汽车中，其中传感器逐步应用到汽车控制中，它能够对汽车信息进行感知，采集，转换和处理。将感知的信息转换其他需要的信息输出。汽车传感器是汽车电子控制的关键部件，也是汽车电子技术的核心部分。文献[2-3]提出一种基于数据驱动的多模型传感器故障软闭环容错控制方法，并对非线性系统中卡死、恒增益、恒偏差等常见传感器故障进行了研究。文献[4]指出目前传感器控制主要是分布是针对衡秤体下方，通过传感器输出来完成故障传感器输出信号，但容易偏离中心，影响估计精度。文献[5]指出数字称重传感器可以实现不间断工作，能够在短时间内获得故障信号，但缺点是价格昂贵。文献[6]提出基于结构振动响应特性利用改进的模态滤波方法对阵列式传感器系统进行故障诊断。
本文主要BP神经网络的基础上引入静态模糊控制，对汽车传感器控制的故障进行有效、准确的分类。并针对汽车传感器的故障准确的进行诊断和恢复，从而可以有效的来保证汽车传感器的正常的运作。
1.汽车传感器控制故障模型矩阵
汽车传感器的输出信号主要是电压信号，当汽车传感器与（传感器与发动机控制装置）之间的接线发生断路的时候，电压信号就会超出正常范围从而引起故障。通常设定汽车传感器器的输出信号电压的正常范围为，如果实际输入ECU信号电压大于或小于，则认为该信号不可靠，表示传感器有故障。只有传感器信号持续一定时间后，才会判断为有故障。假设车辆传感器网络中传感器节点个数为，每个节点在数据采集过程进行次采样，单节点数据长度为。单个节点采集数据作为矩阵的列，则网络数据可表示为
为便于表述，将各节点数据以此衔接，网络数据可写为向量形式
（1）
其中，。
网络数据的测量过程可由如下的矩阵向量形式表示：
其中，，测量矩阵。（2）
2.改进的BP神经网络在汽车传感器诊断
2.1汽车静态模糊函数构建
汽车传感器网络故障具有一定的随机性，是一种典型的非线性结构，而静态模糊函数可以很好找到传感器故障中的死亡节点。静态模糊基函数构造如下：
（3）
通过将汽车节点传感器能量（设定为）输入公式（3）中，得到相应的改进节点能量如下：
（4）
在公式（6）中，其中表示传感器节点的个数。为固定参数，通过在模糊函数中构造静态函数如下：
（5）
在公式5）中，为模糊变量，表示参考参考模糊变量集。其中设定为0-1之间的实数，表示的可能性是；该准则设定的含义是当达到的时候，的可能性则是。设定用mamdani蕴涵表示，通过采用mamdani来进行推理得出。使用公式（8）对进行自学习得到，其中的精度远大于。
（6）
将公式（4），（5）和（6）进行三者结合，得到针对汽车传感器的静态控制节点的自学习能力函数，从而能够快速的对汽车传感器节点能量损失进行判断。
2.2BP神经网络
BP神经网络是一种单向传递的网络，通常是由输入层，隐含层，输出层组成。它将信号进行前向传递和反向传播。其中反向传播时权值按Delta学习规则进行调整。在前向传递中依次按式（9）计算各层的输入输出直到输出层。当输出层得不到期望的输出则进行反向传播，根据期望与实际输出之间的误差调整权值和阈值。权值的调整公式见式（10）。
（7）
在公式（1）中为第层节点的激活值，为阈值，为输入信号，为第节点与第节点的连接权系数，为节点的输出值。
（8）
在公式（8）中，为神经网络期望输出与实际输出的误差。
2.3本文算法的描述
本文首先通过自学习中的静态模糊函数来确定汽车传感器故障的支撑集，然后通过BP神经网络算法来针对传感器的故障进行快速分类，从而缩短检测时间，提高检测效率。通过求解以为自变量的目标函数的极小值
：（9）
其中对。正则化参数、分别对变换系数和生成矩阵的稀疏度进行加权。为便于表述，不妨假设，稀疏度量使用1范数。
3.试验仿真与分析
本文选取本公司下属的汽车修理厂中的汽车故障100组数据，每组分为为50组数据，前30组用于训练，余下20组用于测试。然后通过静态模糊函数来分类进行故障样本，同时设计1个BP神经网络分类器，以此来验证静态模糊函数自学习的作用。两组BP神经网络分类器诊断结果比较如表1所示。选取冲击传感器故障下的三组数据如表2所示，BP神经网络分类器的实际输出数据如表3所示。
从表1-3中发现利用改进的BP网络算法对汽车传感器故障样本数据进行处理后，神经网络的输入层从20个减少为8个，训练次数大幅度减少为100次显然CPU的耗时明显缩短。并且基本保持故障识别率不变。通过采用静态模糊函数保证识别率的同时，简化了BP神经网络的结构，提高了诊断速度，是实现增加BP神经网络对故障样本分类实时性的行之有效的方法。
4.结束语
本文提出了基于BP网络神经中引入静态模糊控制的方法对故障进行快速分类，首先对故障样本的输入数据运用静态模糊函数进行数据收集，再对神经网络的输出结果进行数据数据分类。同时具体的实验数据表明本文的算法在保证故障准确率的同时简化了神经网络结构，提高了故障诊断速度。
参考文献：
[1]赵炯等.基于传感器融合技术的电动汽车自动驾驶系统的开发[J].制造业自动化，2013.35（5）：43-46
[2]李炜，张婧瑜.多模型传感器故障软闭环容错控制研究[J].计算机应用研究，2015，32（2）：447-450
[3]王千等.K-means聚类算法研究综述[J].电子设计工程，2012，20（7）：40-43
[4]BLISSD，STICKELC，BENTZJW.Loadcelldiagnosticsandfailurepredictionweighingapparatusandprocess[P].UunitedStatePatent：728638，2000
[5]PENGXF.Applicationofdigitalloadcells[J].IndustrialMeasurement，2008，（01）：62-63
[6]JIANMINGL，YonggonL，SCOTTDS，etal.Selforganizingradialbasisfunctionnetworkforreal-timeapproximationofcontinuous-timedynamicalsystems[J].IEEETrans.NeuralNetworks，2008，19（3）：460-474
神经网络反向传播公式范文4
关键词：BP神经网络；经济评价；石油项目；经济预测
中图分类号： TP319
文献标识码： A
文章编号： 16727800（2017）004014503
0引言 在石油项目前期评估中，需判断其可行性并对项目经济效益进行评价。人工神经网络 （Artificial Neural Network，ANN）[13] 利用大量非线性并行处理关系模拟众多神经网络，通过自学习找出输入值与输出值之间的关系，能轻松处理非线性问题，是一种基于黑箱原理的处理系统。针对传统经济评价决策方法中存在的问题，将神经网络应用到石油经济评价中。将多个石油项目的经济评价指标作为ANN的输入值，通过相应训练样本的学习，使基于人工神经网络的石油经济评价系统更接近人类思维模式，对项目作出更合理的决策。1BP神经网络 反向传播（Back Propagation，BP）神经网络是一个多层前馈神经网络[45]，是当前应用较多且较为成熟的神经网络模型之一，其基本网络包含3层：输入层、隐含层和输出层，隐藏层可以是单层或多层。典型的BP网络结构如图1所示，为一个单隐层BP神经网络结构，学习过程由正向传播信号和反向传播误差组成，输入信号由输入层向前传播经过激发函数作用由隐藏节点传到输出节点，如果输出层输出数值与期望不符，则将误差作为调整信号按照原路逐层反向传播，并对连接各层神经元之间的权重和阈值进行调整，逐渐缩小误差值，直至误差小于一个可接受的范围方停止学习。同时，也是一个监督学习，因为每个训练样本都带有标签，这些训练样本预先确定了经过BP网络训练后的输出值。经过多次学习，就能将该神经网络逼近某个函数，这个训练好的网络就能用于评价预测，学习过程其实就是将n维映射成m维，为了获得正确的映射需要经过反复学习即调整相关参数（权重和阈值）。
2石油项目经济评价指标体系构建2.1石油投资经济效益指标 对于石油项目的经济效益评价，可借助经济指标反映石油项目在未来项目寿命期内的经济效益。鉴于石油项目的复杂性，单一的评价指标无法对项目作出全面的评价。根据文献[6]-[7]选择采用多个相互联系且相对独立的评价指标，如图2所示，包括：净现值、费用现值、净现值指数、投资收益率、内部收益率和动态投资回收期。
一个项目首先要判断是否可行，主要考虑净现值（NPV），NPV表示现金流入与流出的差额，当NPV≥0时表示项目可行，此时项目到达或超过基准收益率标准，能给投资者带来利润，否则项目不可行，会损坏投资者价值。而在多个项目方案比较选择中，一般净现值最大的项目是最佳项目。净现值指数指标对于项目评价的准则与净现值一样，这个指标是净现值与净投资现值的比值，比起净现值还考虑到最初投资额的大小。投资收益率是一个静态指标，是指单位投资可获得的利润，值越大越好，当它的值超过标准投资收益率时意味着该项目可行。内部收益率是指当净现值为零时的贴现率，即在整个项目寿命期内，现金流入刚好完全抵补现金流出，是项目经济评价重要指标之一。费用现值是指在项目寿命期内只考虑现金流出，也就是费用支出，包含总投资和成本费用，代表成本的值肯定越小越好。投资回收期是指项目的累计净现值抵补全部投资的返本年限，即累计利润达到零的时间期限，只是一个辅指标，选用动态投资回收期这一指标，是因为比起静态回收期，此标准考虑到资金的时间价值。2.2石油经济评价指标计算模型 上述指标经过下列计算模型计算后，可作为人工神经网络输入层的输入数据，计算模型参考文献[8]，具体如下：
3石油项目前期经济效益评价3.1石油项目经济评价指标归一化将上述6个石油项目的经济评价指标作为BP神经网络的输入数据，这些数据具有不可共度性，也就是说衡量这些数值的单位不相同，有些是百分数，有些以时间为单位，无法进行比较。石油项目中关于项目费用和盈利的指标的数值是非常大的，这会导致BP神经网络学习缓慢，收敛慢，有时数值太大，经神经网络作用后，偏差也会很大；而且对于神经网络中所应用的激活函数来说，有些函数是有值域的，数据太大或太小都会影响网络学习效果。为了解决这些问题，一般在训练样本数据前要对数据进行预处理，进行归一化后的数据收敛性更强，参考文献[9]～[11]采用最值法作为数据归一化方法。但是费用现值和动态投资回收期的值对于石油项目来说越小越好，而剩下4个指标体现石油项目收益，这些指标值越大越好，因此对上述分成收益型指标和成本型指标两类数据归一化，费用现值和动态投资回收期为成本型指标，其余皆为效益型指标。假设有n个训练样本，每个训练样本含6个指标数值，按以下公式将每个样本的6个指标进行数据归一化，限制在[0，1]区间内。 （1）收益型指标，包括净现值、净现值指数、投资收益率和内部收益率。
式中yij和xij分别表示第i组训练样本的第j个指标归一化后和归一化前的数值，而ximax和ximin分别表示第i组训练样本中的最大和最小值。3.2BP人工神经网络设计对于石油项目经济效益评价问题，就是利用BP人工神经网络将其转换为6个项目经济评价指标与最终评价值之间的非线性映射。实验选用三层BP神经网络，输入层节点数为6个，对应6个石油项目经济评价指标。激活函数选用单极性Sigmoid函数（双曲线正切函数），公式如下：
对于隐藏层节点数确定，最常用的方法是试凑法[1213]，以公式（3）、（4）来设置较多的隐节点，对于每个隐节点数进行一次BP网络的训练，通过比较每次训练误差的大小，选定误差最小的作为该BP网络的隐藏层节点个数。
其中，m表示隐藏层节点个数，n表示输入层节点个数，l表示输出层节点个数，α取1～10之间的常数，此处设计的BP网络层是6个输入节点，1个输出节点，根据取值范围，隐藏层节点数取值范围是4～13。根据最终项目评价结果为可行与不可行来分为两类，对于BP神经网络，可行项目期望输出值为1，不可行项目期望输出值为0.5，如表1所示的部分训练样本。将大量的石油项目相关数据通过BP网络训练，得出该BP网络隐藏层节点数为9个。
3.3石油项目前期经济效益评价过程 如图3所示，用户可以创建石油项目，录入最初的原始数据，比如相关基础数据、成本费用、营业税金及附加、融资方案等。提交该项目后，生成财务报表，初步反映该石油项目在项目寿命期内的经济情况。根据初步计算进行不确定性分析，以盈亏平衡分析和敏感性分析为主，以表格和图像的形式呈现投资项目的风险和不确定性，提高投资决策的可靠性。利用计算模型计算BP神经网络的输入数据，经过神经网络学习能力对石油项目进行终极评价，为最终审核提供可靠的建议。3.4实验结果与分析 通过石油项目经济评价系统获取不同项目的经济效益评价数据，将经过归一化后的数据作为训练好的BP神经网络输入端。如图4所示，通过样本训练后，所有输出期望值都围绕在0.5和1附近，输出值output=0.5时，代表该石油项目是不可行的，输出值output=1，代表该石油项目是可行的。
为了验证此BP神经网络对于石油项目经济效益评价预测的准确性，将表2中有代表性的测试数据通过神经网〖HJ*3〗络预测获得最终的期望值输出。第一个石油项目净现值大于0，成本低，投资回收期短，投资回报率高，是一个非常好的投资项目，与其输出值含义相符合。相反，第二个项目净现值小于0，收益率低，完全符合输出值0.5，是一个不可行项目。项目3虽然净现值大于0，不会亏本，但是投资大，资本回收期长，并且回报率低，这并不是一个好的项目，故该系统判定为不可行项目。
4结语 本文通过模拟实验验证将BP神经网络应用于石油项目经济评价的有效性，克服传统评价的缺陷和局限性。
结果表明经过大量真实数据训练的神经网络能更准确地为用户提供基于项目数据的判断，能准确描述代表石油项目经济效益的6个指标与项目可行性之间的非线性关系。当然BP神经网络也有其缺陷，对于隐藏层数及其节点数的确认并没有完整的理论指导，后期将引入深度学习对其进行经济效益预测，以使预测更加精确。
参考文献：[1]蔡自兴，徐光v.人工智能极其应用[M].第四版.北京：清华大学出版社，2011.
[2]C M BISHOP.Neural network and theirapplications[J].Revi.Scie.Instr，1994（156）：18031832.
[3]胡金滨，唐旭清.人工神经网络的BP算法及其应用[J].信息技术，2004 （4）：14.
[4]L K HANSEN，P SALAMON.Neural network ensembles[J].IEEE trans pattern analysis and machine intelligence，1990（12）：9931001.
[5]WANG P，ZHAO T，FAN Y，et al.Study of Chinese farmers income forecast model based on BP neural network[J].Computer and Applications，2014（56）：508511.
[6]董蔚P，单守会.未开发石油储量评价及经济分类方法[J].石油与天然气地质，1993，14（3）：251256.
[7]李敏杰.海外石油投资经理评价指标浅析[J].西安财经学院学报，2007，20（1）：7619.
[8]游达明，刘亚铮.技术经济与项目经济评价[M].北京：清华大学出版社，2009：6290.
[9]Q SONG，Q JIANG，Z SONG.Economic evaluation of CO2EOR industry chain in refineries[J].Shiyou Xuebao Shiyou Jiagong/acta Petrolei Sinica，2015.
[10]L XIAOKE.Analysis of the misunderstanding in investment project economic appraisal theory[C].Business Management and Electronic Information （BMEI），2011：196198.
[11]杨伟，倪黔东，吴军基.BP神经网络权值初始值与收敛性问题研究[J].电力系统及自动化学报，2002，14（1）：2022.
神经网络反向传播公式范文5
[关键词] BP神经网络；岩性识别；改进BP神经网络
[DOI] 10.13939/ki.zgsc.2015.24.063
1 主要研究内容
根据国内外研究现状，利用目前研究最透彻的人工神经网络技术-BP（ Back Propagation）人工神经网络，以C#.NET为软件工具，通过合理地编写程序，针对低阻、高放射等非常规储层进行识别与判别。主要利用常规测井资料，以实际的岩心、岩屑观察、物性等分析测试资料、试油试产资料为测井参数约束的标准，针对储层的岩性进行预测、判断。从而得出BP人工神经网络方法在测井数据处理与解释中的优势所在，并指出其缺陷与不足之处。
2 BP神经网络
2.1 基本BP神经网络的设计
基本BP算法包括两个方面：信号的前向传播和误差的反向传播。即计算实际输出时按从输入到输出的方向进行，而权值和阈值的修正从输出到输入的方向进行。
2.2 BP神经网络算法步骤
（1） 初始化网络权值，阈值，及有关参数（如学习因子）。
3 BP神经网络在岩性识别上的应用
3.1 地层特征
在储层测井响应特征方面，本文研究油区的泥岩与砂质泥岩均以高自然伽马、正自然电位幅度、微电极无差异或差异幅度小为特征、并且有电阻率相对偏低和高声波时差值的特征，较纯的泥岩层往往还出现井径扩大现象。粉砂岩、泥质砂岩以中.高自然伽马和中一低负异常幅度自然电位及微电极差异幅度小或无差异为特征。视电阻率变化较大。细砂岩为主要储集层，以自然电位高负异常幅度低自然伽马值及微电极差异幅度大为特征。部分储油砂层的自然伽马值偏高。细砂岩含油后一般电阻率较高。
3.2 基本BP网络的构建与实现
3.2.1 测井数据的处理
由于各种测井数据量纲不一致，进入网络之前，无论是学习样本或预测数据，都需先进行归一化处理，将它们置于统一的数值量纲范围内，如在[0，1]之间。对于具有近似线性特征的信息，可以采用线性归一化公式：处理。
3.2.2 岩性参数的设置
由于在做岩性识别时，我们设置了相应的参数。其中有聚类参数、自然加码、井的深度等。其中聚类设置表示，自然加码的设置是判断输入数据的合法性，井的深度和间隔有利于模仿底层结构。
3.3 改进的BP网络（动量-自适应）的实现
3.3.1 增加动量项
附加动量法使网络在修正其权值时，不仅考虑误差在梯度上的作用，且考虑在误差曲面上变化趋势的影响。在没有附加动量的作用下，网络可能陷入浅的局部极小值，利用附加动量的作用有可能滑过这些极小值。
带有附加动量因子的权值和阈值调节公式为：
根据附加动量法的设计原则，当修正的权值在误差中导致太大的增长结果时，新的权值应被取消而不被采用，并使动量作用停止下来，以使网络不进入较大误差曲面；当新的误差变化率超过一个事先设定的最大误差变化率时，也得取消所计算的权值变化。其最大误差变化率可以是任何大于或等于1的值。典型的取值取1.04。所以，在进行附加动量法的训练程序设计时，必须加进条件判断以正确使用其权值修正公式。
训练程序设计中采用动量法的判断条件为：
3.3.2 自适应调节学习率
对于一个特定的问题，要选择适当的学习速率不是一件容易的事情。通常是凭经验或实验获取，但即使这样，对训练开始初期功效较好的学习速率，不见得对后来的训练合适。为了解决这个问题，人们自然想到在训练过程中，自动调节学习速率。通常调节学习速率的准则是：检查权值是否真正降低了误差函数，如果确实如此，则说明所选学习速率小了，可以适当增加一个量；若不是这样，那么就应该减少学习速率的值。下式给出了一个白适应学习速率的调整公式：
3.3.3 引入陡度因子
误差曲面上存在平坦区域，权值调整进入平坦区的原因是神经元输出进入了变换函数的饱和区，如果调整进入平坦区没法压缩神经元的净输入，就使其输出退出变换函数的饱和。
3.3.4 动量-自适应学习速率调整算法
当采用前述的动量法时，BP算法可以找到全局最优解，而当采用自适应学习速率时，BP算法可以缩短训练时间，采用这两种方法也可以用来训练神经网络，该方法称为动量-自适应学习速率调整算法。
神经网络反向传播公式范文6
关键词：科技型创业企业；信用评价；BP神经网络
中图分类号：F27
文献标识码：A
文章编号：16723198（2015）23006203
1 引言
目前，科技型创业企业已成为推动国民经济持续健康发展的重要动力之一，然而在其发展和壮大过程中也最容易出现制约其发展的问题。由于科技型创业企业需要大量的资金投入，融资问题已成为影响其是否取得成功的关键因素。在国内企业取得融资的有限渠道中，银行和金融市场起着至关重要的作用，但往往由于市场信息的不对称以及企业信息不透明等因素的限制，出于规避高昂的监督成本和收益的高度不确定性等风险，银行和金融机构在放贷额度中给予科技型创业企业的融资额度相对有限。由于科技型创业企业的研发周期长，在缺乏有效的外部融资的状况下，即使项目有大好投资前景，企业也有较大的失败风险，最终无法发挥出科技型创业企业对企业技术创新的促进作用。因此，对国内科技型创业企业进行信用评价，建立适合其特征的信用评价模型，来提高其信用水平、财务信息透明度、拓宽其融资渠道十分必要。目前国内针对企业信用评价的研究有了一定的发展，但统一的主要针对科技型创业企业信用评价的指标体系和评价模型尚未形成。
传统的企业信用评价模型主要有专家打分法、信用评级方法和信用评分方法等，现代的信用评价模型主要有：KMV模型、财务比率分析模型、Logit回归模型、神经网络模型、模糊综合评价法和AHP（Analytical Hierarchy Process）法。由于企业的信用风险与反映企业信用风险状况的各项指标变量之间通常具有非线性的关系，而上述企业信用评价方法都不能有效解决变量之间的非线性关系，也不能有效解决指标变量存在的非正态分布问题。由于神经网络模型在解决变量间的非线性关系问题中具有优越性，在Odom（1990年）运用神经网络模型解决企业信用评价问题之后，神经网络模型逐渐获得了相关实践者和学者的极大关注。Tam（1991）、Kiang（1992）、Datta（1991）和Shekhar（1992）将神经网络模型用于银行破产预测，Altman（1994）将其用于对意大利企业经营成败状况进行预测，取得了比多元判别分析模型预测结果更加准确的结果。根据小微型科技企业信用状况的特点，何跃、蒋国银（2005）运用人工神经网络原理构建了三层BP神经网络信用评价模型，该模型的优点是具有较强的自学习和非线性处理能力，针对小微型科技企业信用状况的预测具有较高的预测结果。国内许多学者（鲍盛祥、殷永飞，2009；庞素琳，2012）认为，在变量之间是非线性关系的情况下，人工神经网络模型的精度优于传统的统计方法。
2 BP神经网络概述
BP神经网络具有准确性高、误差小、收敛速度快的显著优势，相比其他企业信用评价方法，BP神经网络模型的自学习能力和自联想功能较强，也不要求样本数据呈正态分布、满足先验概率已知以及协方差相等要求，同时也具有能够有效解决非线性分类问题、对样本数据容量不做具体要求等优势，是处理企业信用评价问题的理想方法。因此，本文使用BP神经网络来建立适合科技型创业企业的信用评价模型。
神经网络内部依次为输入层、隐含层、输出层，BP神经网络属于前向反馈神经网络，BP神经网络的学习算法包含了正向和反向传播两个过程，正向传播过程即为：指标变量信息由输入层经隐含层各神经元传向输出层，前层神经元的处理结果只对后层神经元的结果产生影响，如果最后输出层产生的结果与期望输出不符，则自动转变为反向传播过程。反向传播即为：将输出误差经隐含层神经元向输入层逐层反馈，在此过程中，网络会将误差均摊给各层的每一个神经元，从而网络可以取得各层神经元传来的误差信号，网络将其作为修正各神经元权值的依据，经过权值的不断调整使网络完成训练。权值的调整过程持续到预先设定的学习次数或输出误差减小到可接受程度为止。三层前馈BP神经网络的结构如图1所示。其中，X=（x1，x2，……，xn）代表输入向量，Y=（y1，y2，……，ym）代表输出向量，n和m分别代表输入和输出向量的维数。不同层间的神经元属于全互联接，每层次内的神经元没有任何连接。
来衡量其信用的高低。反映科技型创业企业经营和财务状况的财务指标具体包括偿债能力、盈利能力、营运能力和成长能力等方面。本文在借鉴现有企业信用评价研究成果并结合科技型创业企业的特征，选择出16项可以有效反映科技型创业企业特点的财务指标。为解决某些财务指标变量间高度的相关性问题，本文通过SPSS 19.0软件，使用因子分析法对这些指标变量进行分析和整理，在删除那些与科技型创业企业信用状况不相关或与其他指标高度相关的指标后，本文最终确定了包含12项指标变量的指标体系作为下文对科技型创业企业的信用状况进行评价的指标体系（如图1所示）。但由于保留的指标变量间还可能存在多重共线性问题，为保证评价结果的准确性、可靠性，本文再次对其进行因子分析来提取公因子，以特征根大于1且累计方差贡献率大于80%作为提取公因子的标准，通过分析本文提出了5个能够体现原始变量的主要信息的公因子，它们即为下文评价模型中的输入变量。
由于选取的样本企业的各项财务指标包含了不同的量纲和数量级，本文首先将各指标变量进行标准化处理，从而使各个指标变量都具有共同的数值特性。本文运用的标准化方法如下式所示：
Xij=xij-xjσj，其中，Xj为原始数据的均值，Xj=1ni=1xi，σj为原始数据的标准差，σj=1nni=1（xij-xj）。
4 科技型创业企业信用评价实证分析
4.1 BP神经网络的设计
BP神经网络可以根据实际情况来设置一个或者多个隐含层，当样本较多时，增加一个隐含层可以显著减小网络规模。由于包含单个隐含层网络可以通过适当调增神经元个数来实现任意非线性映射，所以，包含单个隐含层的神经网络即可解决大部分场合下问题。因此本文建立的BP神经网络模型包含单个隐含层。
（1）输入层和输出层神经元个数。输入层神经元个数等于输入变量的个数，由于本文得到了5个公因子，因此输入层神经元数n=5。输出层神经元的个数m取决于科技型创业企业信用评价结果类别。本文用输出“1”表示中小企业信用正常，用输出“0”表示中小企业信用较差，因此本文建立的模型的输出层神经元的个数为1。
（2）隐含层神经元个数。隐含层神经元个数的确定目前还没有一个理想的解析式，通常根据经验公式来确定。
常用的经验公式为：n1=n+m+a，其中m为输出层个数，n为输入层个数，a为[1，10]之间的常数，有上文可知，m=1，n=5，代入公式可知隐含层个数的取值范围为（3，13），经过实际对比分析，当隐含层选10时，训练误差较小，因此，本文设定隐含层个数为10。
（3）训练函数的选择。本文建立的BP神经网络模型的输入层和输出层函数均为Sigmoid函数，并设定最大训练步长epoch=1500。
（4）样本原始数据来源。本文选择了100家在创业板和新三板上市的科技型创业企业的财务数据作为实证样本数据进行训练，各项数据取自于瑞思数据库和东方财富Choices数据库。为了确保能够得到可靠、准确的训练结果，样本企业行业的选取包含了电子、化工、制药、家电、生物科技、机械制造、金属加工等多个行业部门，能够反映科技型创业企业的特征。
4.2 实证分析与结果输出
本文运行Matlab2014a版本并运用编写的程序将100家企业各自的5项主因子作为输入变量，对网络进行训练和检验并对训练样本进行了仿真。本文将前90家企业数据作为训练样本来训练网络，将后10家企业数据作为检验样本代入网络以检验网络的预测精度。对于得出的预测结果设定以0.5为分界值，如过大于05，则将公司判定为信用好的企业，反之则判定为信用差的企业。由图2可知网络可以以较快的速度实现收敛。
为了抵消随机因素的影响，本文取相同的训练参数和测试样本代入网络重复运算20次，统计正确率和迭代次数（如图3所示），20次训练结果如表2。
由网络20次训练结果（表2）可知，使用BP神经网络模型对实证样本数据进行预测的结果和期望输出对比后，模型的平均正确率达到83%，预测精度较高，适合作为预测科技型创业企业信用状况的评价模型。实证结果表明，利用BP神经网络对科技型创业企业进行信用评价，具有较高的可操作性和准确性。
5 结论
本文在借鉴国内外现有的企业信用评价理论和相关研究成果的基础上，结合科技型创业企业的特点构建了适合对其进行信用评价的指标体系，然后在运用因子分析提取反映企业信用状况的公因子作为代入模型的指标变量，据此建立了BP神经网络信用评价模型，通过对国内100家在创业板和新三板上市公司的实际数据进行分析，得出的实证结果表明使用BP神经网络对科技型创业企业进行信用评价的平均正确率可以达到83%，具有较高的准确率和可操作性。因此，金融机构可以据此加强对科技型创业企业的信用评价，筛选优秀的科技型创业企业借款人以降低信用风险，同时也可改善科技型创业企业与金融机构之间的信息不对称程度，使科技型创业企业能够获得更多的融资机会，促使其能够以健康的方式持续的发展，进而充分发挥出其促进企业技术创新的作用。
参考文献
[1]庞素琳.信用评价与股市预测模型研究及应用统计学、神经网络与支持向量基方法[M].北京：科学出版社，2005.
[2]迟国泰，章穗，齐菲.小企业贷款信用评价模型及实证研究―基于最优组合赋权视角[J].财经问题研究，2012，（9）：5357.
[3]李菁苗，吴吉义，章剑林等.电子商务环境下中小企业信用评价[J].系统工程理论与实践，2012，（3）：555560.
[4]刘湘勤，龙海雯.银行结构、信用环境与中小企业发展：基于中国跨省数据的实证分析[J].西北大学学报（哲学社会科学版），2007，（6）：159161.
[5]谭庆美，吴金克，赵黎明.基于BP神经网络的中小企业信用评价研究[J].西北农林科技大学学报（社会科学版），2009，（5）：5762.
[6]邢乐成，梁永贤.中小企业融资难的困境与出路[J].济南大学学报（社会科学版），2013，（2）：17.
