前言：中文期刊网精心挑选了反向传播神经网络基本原理范文供你参考和学习，希望我们的参考范文能激发你的文章创作灵感，欢迎阅读。
反向传播神经网络基本原理范文1
[关键词]有机碳含量评价 神经网络
中图分类号：TP183 文献标识码：A 文章编号：1009-914X（2015）45-0356-01
1 BP神经网络基本原理
BP神经网络，即误差反传误差反向传播算法的学习过程，由信息的正向传播和误差的反向传播两个过程组成。输入层各神经元负责接收来自外界的输入信息，并传递给中间层各神经元；中间层是内部信息处理层，负责信息变换，根据信息变化能力的需求，中间层可以设计为单隐层或者多隐层结构；最后一个隐层传递到输出层各神经元的信息，经进一步处理后，完成一次学习的正向传播处理过程，由输出层向外界输出信息处理结果。当实际输出与期望输出不符时，进入误差的反向传播阶段。误差通过输出层，按误差梯度下降的方式修正各层权值，向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播过程，是各层权值不断调整的过程，也是神经网络学习训练的过程，此过程一直进行到网络输出的误差减少到可以接受的程度，或者预先设定的学习次数为止。
2 BP神经网络工作机理
2.1 正向传播
图中，表示神经元的输入，表示输入层与隐含层之间权值，为隐含层与输出层之间的权值，f（）为传递函数，为第k个神经元输出。假设BP神经网络输入层有n个节点，隐含层有q个节点，输出层m个节点。
隐含层第k个神经元的输入：
经过传递函数f（）后，则隐含层第k个神经元的输出：
其中f（）为单调递增且有界，所以一定有最大值。
输出层第j个神经元输出：
2.2 反向传播
输入P个学习样本，通过传入网络后，输出，第P个样本误差：
式中：期望
全局误差E：
输出层权值的变化，通过调整，使得全局误差E最小，得出输出层神经元权值调整公式：
隐含层神经元的调整公式：
3 应用实例
选择AC，DEN，CNL，GR，PE，RD作为输入曲线。XX井的53个点的岩心数据，从中选出30个点作为训练样本，23个点作为预测，构建网络，对全井段处理。结果对比（如图3-1），发现神经网络计算的TOC比传统的法计算的TOC效果好。其中TOC_NN为神经网络预测TOC，TOC_DaltalogR_AC为法计算的TOC。
4 结论
BP神经网络预测TOC克服了常规解释模型的缺陷，不用选择解释参数，计算结果与解释人员经验无关，预测结果精度有较大幅度的提高。利用多种测井解释数据及岩心分析资料作为网络训练样本，通过网络的训练、学习，建立了BP网络TOC模型，并利用该模型预测该地区新井的TOC值，实验证明用该模型进行TOC预测是可行的。
参考文献
[1]杨斌.神经网络及其在石油测井中的应用[M].北京：石油工业出版，2005：111-115.
[2]罗利，姚声贤.神经网络及模式识别技术在测井解释中的应用[J].测井技术，2002.
反向传播神经网络基本原理范文2
关键词：建筑电气设备故障；模糊理论与神经网络；设备故障诊断专家系统
中图分类号：TP207 文献标识码：A DOI：10.11974/nyyjs.20160132074
随着当今社会经济的不断发展，人们对生活品质的追求越来越高，电气设备变得多样化和先进化，不同区域间联系更加紧密，而在给人们的生活带来便利的同时，简单的人工故障诊断方法已经无法满足结构日益复杂、功能日益完善的电气系统，建立电气设备控制系统智能故障诊断专家系统已经成为目前能满足社会需求的选择。近年来，模糊理论被广泛的应用于建立故障诊断神经网络，将模糊系统与神经网络技术结合而形成的故障诊断技术也正在发展和应用。
1 建筑电气设备常见故障类型及危害
1.1 电气设备常见故障类型
1.1.1 电源故障
1.1.2 线路故障
1.1.3 元器件故障
1.1.4 防雷接地处理故障
1.2 电气设备故障危害
电气设备的运行需要很多电器元件的相互配合，产生故障通常是因为电能或控制信息在传递、分配、转换过程中失去控制。断路、短路、异常接地、漏电、电气设备或电器元件损坏、电子设备受电磁干扰而发生错误动作、控制系统元件的偶然失效都属于电气设备故障[1]，而这些故障也很有可能造成大范围的人员伤亡以及造成严重的财产损失，一旦发生，也会造成其他相关领域不同程度的瘫痪。由此可见，电气设备出现故障的概率较高，危害范围也比较大。
2 神经网络与模糊理论
神经网络是一种模仿动物神经网络行为的特征，进行分布式并行信息处理的算法数学模型[2]。这个模型可以根据不同系统自己的特征来选择处理不同信息的方式，在很多不同领域都有比较广泛的应用，当然，它本身也有一些缺陷，比如它不能求解不确定性问题、不能处理符号性信息等，因此，它需要结合其它相关理论和方法来弥补自身的不足，以便更好地解决特定领域中的问题。
模糊理论是指用到了模糊集合的基本概念或连续隶属度函数的理论[3]。模糊控制是一种基于规则的控制，它可以直接采用语言型控制规则，在设计过程中不需要建立被控对象的精确数学模型，控制原理和策略通俗易懂，便于人们接受与理解，控制效果好，具有一定的智能水平，应用起来很方便，适用于对那些数学模型难以获取、动态特性不易掌握或变化非常显著的对象。模糊控制器是一种比较容易控制、掌握起来比较理想的非线性控制器，具有一定的适应能力和强健性。
将模糊系统与神经网络技术相结合而形成的模糊神经网络可以作为对电气设备进行故障诊断的模型，这一技术的提出为电气设备故障的诊断带来发展和进步，模糊理论被广泛的应用于建立故障诊断神经网络，这2种理论的结合将会给故障诊断研究提供解决思路，值得推广应用[4]。
3 建立电气设备故障诊断系统
由于电气设备故障机理的复杂性，系统在实际运用过程中，可能会发生随机故障模式，故障征兆信息的正确与否直接关系到故障诊断的正确性，因此利用现有的电气设备系统控制平台，对电气设备控制系统的信号进行实时采集和及时与PC 机进行通信，建立电气设备控制系统故障诊断系统便显得特别重要。
3.1 BP神经网络模型
BP（Back Propagation）模型是一种最常用的人工神经网络模型，它的基本原理为利用误差反向传播算法，从而得到多层前向神经网络模型。在故障诊断方面使用BP模型在一定条件下能够加强工作效率，使得故障诊断问题变得更加直观。利用模糊理论与神经网络相结合的模糊神经网络解决建筑电气设备故障的诊断，是一种智能化控制的手段，也将逐渐发展成为未来的趋势[5]。其模型原理图如图1。
要建立模糊神经网络系统，要根据相关理论或实际工作中的经验，将故障现象和故障原因相对应，作为系统的学习样本。按照输入与输出相对应的关系输入学习样本，系统经过内部的算法不断提高精度，当精度达到设定的要求时，模糊神经网络系统的学习过程结束。此时，将测试样本的输入数据放入系统输入端，如果输出数据与测试样本基本相同，那么模糊神经网络系统建立成功。
在模糊神经网络系统的实际使用时，必然会遇到输入数据与样本不同的状况。根据内部算法，系统将会找到与学习样本最相似的一组数据作为参考，自主得到输出数据。与此同时，如果系统自主算出的结果得到采纳，那么这组数据将会做为新的样本存入数据库，成为参考数据。
3.2 BP学习算法
目前，BP算法是应用很广泛、完善性比较高的神经网络训练算法，方便、容易实现、计算量小、并行性强是这个方法领先其他算法的优势。BP算法的基本原理[6]为先求解误差函数的最小值，根据梯度下降法，按误差对权值做负反馈。
BP算法需要依次根据输入对输出进行矫正，也就是对每组数据都要计算比对。然而，全局误差的梯度下降算法，要求连接权和阈值的矫正是在批量进行学习样本的输入之后再进行的，所以要修改各个连接权值。利用梯度下降法来修改各个连接权值，以便达到近似全局误差的算法效果。全局误差梯度下降算法流程如图2所示。
4 结 语
电气设备的故障诊断已经成为值得重视的问题，为保证运行系统能够正常运行，因此需要建立起更加科学完善的电气设备管理系统，逐渐减少电气设备运行出现故障的可能性，保障电力系统的稳定能力，本文简单介绍将模糊理论与神经网络结合，更好的解决电气设备故障问题，结合传感器检测技术、自动控制技术、通信与网络技术等方法，建立电气设备控制故障诊断系统，希望可以早日应用到生活中的建筑电气设备故障诊断中去。
参考文献
[1]电气设备及控制电路常见故障分析[EB]. 电工学习网.
[2]田景文.人工神经网络算法研究与应用[M]. 北京理工大学出版社，2006.
[3]诸静.模糊控制原理与应用[M].机械工业出版社，1995.
[4]龙祥，钱志博.模糊理论在设备故障诊断神经网络中的典型应用[J].广东工业大学学报，2006.
[5]陈流豪.神经网络BP算法研究综述[J].电脑知识与技术，2010.
反向传播神经网络基本原理范文3
关键词:学生综合素质评价;BP神经网络;算法设计
中图分类号:TP311文献标识码:A文章编号:1009-3044(2009)24-6786-03
BP neural Network Based on the Overall Quality of the Student Evaluation of Algorithm Design
ZHANG Wen-sheng
(Xiamen Gongshang Lvyou Xuexiao, Xiamen 3610012,China)
Abstract: In this paper, the overall quality of the students a variety of evaluation methods carried out in-depth analysis to explore the use of BP neural network theory to evaluate the feasibility of the overall quality, and BP neural network based on the overall quality of the student evaluation of algorithm design.
Key words: evaluation of the overall quality of students; BP neural network; algorithm design
学校德育教育是提高学生综合素质的重要一环,在学校工作中占有举足轻重的地位。德育涉及大量定性和定量的数据处理,为了体现其科学性和公平性,采用先进的计算机技术进行学生综合素质量化评估势在必行。
1 问题的提出
据调查,目前在学校里对学生素质评价的方法,主要有以下几种:
1) 定性描述法
在学期或学年结束时,班主任根据学生在班级、学校和社会活动中的行为表现,运用文字对学生的综合素质进行描述,作为对学生的评价。这种方法在评价学生综合素质时起过一定的作用,但是,由于教师对学生综合素质评价的内容不明确,要求不统一,带有一定的主观片面性和模糊性。
2) 等级划分法
班主任根据平时对学生的观察和了解,对学生的综合素质行为划分出优、良、中、差四个等级。它只能说明每个学生综合素质发展的程度,在班集体中所处的地位,但缺乏具体内容,学生对于自己或他人的优点和缺点、以及个人今后的努力方向都不明确。
3) 自我总结法
这种方法是以学生为主,在教师的指导下总结自己的收获,存在的问题、以及今后的努力方向,并写成书面材料,然后写在操行表的自我总结栏内。这种方法是以学生的自我评价为主,它对于提高学生的自我评价能力,具有一定的促进作用。但是,由于没有老师和同学们参加评价,其评价结果缺乏客观性。
4) 小组评议法
是以班级小组评议为主。通过开评议会的形式,对全组成员分别进行评议,肯定成绩,提出缺点,最后把大家的意见集中起来,作为对学生的评价结果。它具有一定的客观性,可是,没有教师参加评议,影响了评价结果的可信度。
上述各种方法的都有一定的长处,也有一定的缺点。例如,对学生的综合素质的结构,没有明确统一的规定和具体要求;不能同时吸收各方面的意见参加评价;没有制定较为符合需要的综合素质量表和采用科学的测量手段等等。所以,评价的结果往往带有主观片面性,评语内容的不确定性,以及处在同一等级的同学之间存在差异的模糊性。于是最近又提出了对学生综合素质定量进行测量和评价。
5) 定量分数法
将构成学生综合素质的各种因素数量化,并制定出综合素质量表。在具体的进行测量和评价时,把学生综合素质所含每种因素的发展程度分为优、良、中、差四个等级,每个等级分别对应一定的标准值。对不同因素确定不同的权重大小,再综合学生每个因素所取得的标准值,最后得出学生的综合素质分。
用定量的方法对学生的综合素质发展程度进行评价时,不同因素需要确定不同的权重大小。权重的大小对评估结果十分重要,它反映了各指标的相对重要性。由于对不同的因素的权重是人为给定的,而学生综合素质的各项因素对学生的整体素质存在不可确定的影响程度,因些在对学生的测量和评定过程中必然受到主观因素及模糊随机性的影响。并且这种方法需要消耗大量的人力和时间。
为了探讨这个问题,我们根据BP神经网络的基本概念和原理,用神经网络自我学习的方法,对中学生综合素质进行测量和评价。BP神经网络能利用经验样本对神经网络的训练,达到神经网络的自我学习,在网络中自动建立一个多输入变量与输出变量间的非线性映射过程,无需建立具体的数学模型和规则,可以处理那些难以用模型或规则描述的过程或系统。神经网络具有自组织、自学习、自适应的特点,能通过连接权重的不断调整,克服权重确定的困难,弱化人为因素,自动适应信息、学习新知识,最终通过学习训练对实际学习样本提出合理的求解规则,对学生的综合素质的整体评定具有十分重要的意义。首先我们来了解BP神经网络的基本原理。
2BP神经网络的基本原理
1) 神经元网络基本概念
神经网络是单个并行处理元素的集合,从生物学神经系统得到启发。在自然界,网络功能主要由神经节决定,可以通过改变连接点的权重来训练神经网络完成特定的功能。如图1所示。这里,网络将根据输出和目标的比较而进行调整,直到网络输出和目标匹配。
2) 神经元网络结构
图2所示为一个单标量输入且无偏置的神经元。
神经元输出计算公式为:a=f(wp+b)。神经元中的w和b都是可调整的标量参数。可以选择特定的传输函数,通过调整权重 和偏置参量 训练神经网络做一定的工作,或者神经网络自己调整参数以得到想要的结果。
3) BP结构及算法描述
在实际应用中,神经网络用得最广泛的是反向传播网络(BP网络),典型的BP网络是三层网络,包括输入层、隐含层和输出层,各层之间实行全连接。
BP网络是采用Widrow-Hoff学习算法和非线性可微传输函数的多层网络。网络的学习过程由正向和反向传播两部分组成。在正向传播过程中,每一层神经元的状态只影响到下一层神经元网络,如果输出层不能得到期望输出,就是实际输出值与期望输出值之间有误差,那么转入反向传播过程,将误差信号沿原来的连接通路返回,通过修改各层神经元的权值,逐次地向输入层传播去进行计算,再经过正向传播过程,这两个过程的反复运用,使得误差信号最小。实际上,误差达到人们所希望的要求时,网络的学习过程就结束了。
4) 反向传播算法
反向传播学习算法最简单的应用是沿着性能函数最速增加的方向一梯度的负方向更新权重和偏置。这种递归算法可以写成:
xk+1=xk-ak*gk
这里xk是当前权重和偏置向量,gk是当前梯度,ak是学习速率。在神经元中,学习速度又称为“学习速率”,它决定每一次循环训练中所产生的权值变化量(即该值的存在是神经元网络的一个必须的参数)。大的学习速度可能导致系统的不稳定,但小的学习速度将会导致训练较长,收敛速度很慢,通常情况下取值在0-01～0,8之间。
3 基于BP神经网络的学生综合素质量化评估模型
从上述对神经元网络基本概念的研究,我们可以看出BP神经网络主要根据所提供的数据,通过学习和训练,找出输入与输出之间的内在联系,从而求取问题的解,而不是完全依据对问题的经验知识和规则,因而具有自适应功能,这对于弱化权重确定中的人为因素是十分有益的;其次能够处理那些有噪声或不完全的数据,具有泛化功能和很强的容错能力;由于实际对学生量化评估往往是非常复杂的,各个因素之间相互影响,呈现出复杂的非线性关系,人工神经网络为处理这类非线性问题提供了强有力的工具。因此与其它评定方法相比,基于神经网络的评价方法越来越显示出它的优越性。结合学校对学生进行综合素质评估考核的具体问题,我们提出以下设计。
3.1量化评估内容的确定
1) 确定学生的综合素质结构
学生的综合素质结构,主要是根据一定历史阶段的社会要求、学校对学生的传统要求,以及各个不同年龄阶段学生心理和生理发展的特征来确定的,它具有一定的社会性、科学性、可行性。以教育部提出的职业学校学生发展目标为依据,评定内容包括:道德品质与公民素养、学习能力、交流与合作能力、运动与健康、审美与表现、职业技能等6个层次。每个层次又包括各种因素,各层次和因素之间又是相互联系和相互促进的,它既反映了社会的、学校的具体要求,又符合学生综合素质发展和形成的规律。当然,在实际评价学生中,可以根据学校的实际特点进一步确定各要素,进一步构成学生综合素质评价的综合评价指标体系。
2) 学生综合素质评价的结构设计
用BP神经网络进行学生综合素质评价结构的设计如图3所示。对学生的综合素质进行量化评估时,从输入层输入评价学生综合素质的n个评价指标因素信息,经隐含层处理后传入输入层,其输出值y即为学生评估结果。这n个评价指标因素的设置,要考虑到能符合学生综合素质发展和形成的规律,能全面评价学生的综合素质状况。
网络结构的参数选择十分重要,由于输入层与隐含层神经元个数的增加会增加网络的表达能力,不仅会降低系统的性能,同时也会影响其收敛速度和增加噪声干扰。所以首先必须确定输入层神经元的数目。为使模型即有理论价值又有可操作性,本例对应于对学生综合素质考核结构的六个因素,本文采用6个输入神经元,分别为道德品质与公民素养、学习能力、交流与合作能力、运动与健康、审美与表现、职业技能等评价指标。由于目前隐单元数尚无一般的指导原则,为了兼顾网络的学习能力和学习速度,隐含层神经元的个数选择采用试算法,在网络训练过程中进行调整。笔者首先选定15,用训练样本来学习,然后减少隐含层单元数后再进行学习,通过观察训练误差变化的大小来调整隐单元数。其原则是:若在减少隐单元数进行训练时过程平衡(即逐步收敛并达到较小的误差)且误差无显著增加,则说明减少隐单元数是合适的;否则表明隐单元数不宜减少,而应增加隐单元数直到满意为止。选择一个输入神经元为学生综合素质最终评价结果,分别以0、0,5、1对应于学生评议等级的优、良、中三种不同的评价结果。经过多次实验,最后得到适宜的网络模型为6-4-1网络模式。
3.2 量化评估模型
1) 指标体系的规范化处理
根据神经网络计算规则,为了保证输出在线性部分,不到两端去,应保证输入输出在0-1之间,反传达时也一样,输出应在0~1之间。因此要将原始数据归一预处理,变换为[0,1]区间的数值,得到规范化数据,作为输入输出节点的样本数据。原始数据采用我校高一年一个班级的50名学生的学生综合素质各项指标因素样本数据,将实际数据分为两组:前40名学生的各项指标因素成绩样本数据作为学习样本,后10名学生的成绩数据作为测试样本。
2) 学习算法
本模型采用6-4-1BP神经网络结构,其中输入层为6个指标值和一个阈值。模型初始化时对所有的连接权赋予(0,1)上分布的随机数,阈值取1。权值的修正依据带惯性因子的delta规则。根据多次试验的结果,其中,惯性因子α=0.075,学习率η=0.85,将样本数据40组为一次循环,每次循环记录40组样本中最大的学习误差。经过多次的学习,最后观察网络输入与期望输出的相对误差,当误差小于0.005时,学习结束。可以得到如果增大样本的个数,精度还会进一步提高。
本文探讨了神经网络在学生综合素质评价上的应用方法,可取得较为理想的结果,它可以解决用传统统计方法不能或不易解决的问题。但是由于它是一种黑盒方法,无法表达和分析评估系统的输入与输出间的关系,因此也难于对所得结果作任何解释,对求得的结果作统计检验;再者,采用神经网络作评价系统时,由没有一个便于选定最合适的神经网络结构的标准方法,只能花大量时间采用凑试法,从许多次实验中找出“最合适”的一种;还有样本数据需要足够的多,才能得到较为理想的结果。
参考文献:
[1] 高长梅,赵承志,白昆荣.学校德育工作全书(上)[M].北京:人民日报出版社,2005.
[2] 闻新,周露,李翔,张宝伟.MATLAB神经网络仿真与应用[M].北京:科学出版社,2008.
[3] J.P.Marques de sa,Pattern Recognition―Concepts,Methods and Applications[M].北京:清华大学出版社,2006.
反向传播神经网络基本原理范文4
Abstract： Neural network is widely applied for character recognition. Through the analysis of the problems， this paper recognizes character by the application of improved BP neural network， so as to improve recognition rate. This method has high recognition rate， fast speed， strong practicability， and can be applied to various high noise environment.
关键词： 神经网络；图像预处理；特征提取；字符识别
Key words： neural network；image preprocessing；feature extraction；character recognition
中图分类号：TP301.6 文献标识码：A 文章编号：1006-4311（2014）10-0206-02
0 引言
字符识别是指采用扫描仪、数码相机等输入设备，把英文字母、数字、条形码等特殊字符的图形文件输入计算机，由识别软件对图片信息上的字符信息进行识别并变换成可编辑文档的识别技术。主要有光学字符识别（Optical
Character Recognition，OCR）、图像字符识别（Image Character Recognition，ICR）和智能字符识别（Intelligent Character Recognition，ICR），实际上这三种自动识别技术的基本原理大致相同。
1 常用字符识别方法
字符识别方法基本上都是为了区分结构识别、统计识别以及两者相结合的三大类方法，这三大类方法都包含具体的识别方法。
1.1 结构识别 结构识别是早期字符识别的研究的主要方法，我们也可以称之为句法结构识别。其思想是提取含有一定规律的结构信息，作为识别的依据。识别过程类似一个逻辑推理过程。结构识别的优点在于对字符变化的适应性强，区分相似字符能力强。但是在实际获取字符图像的过程中，由于存在着很多扭曲、倾斜等因素，就导致不能够准确地提取结构特征，后面的识别过程就成了无源之水。此外，结构识别的算法描述也较为复杂，匹配过程的复杂度也很高，因此，我们原有的句法识别就受到新的挑战。
1.2 统计识别 统计决策论的发展相对较早而且成熟，是为了提取待识别字符的一组统计特征，然后按照一定的准则进行决策函数的分类判决的。而统计识别是将字符点阵看作是一个能够经过大量统计数据得到的整体，是以后所用的特征都需要经过的。统计特征主要是以抗干扰能力强为主要特点，以实现匹配与分类的算法简单，且容易实现的。不足之处在于细分能力较弱，区分相似字的能力差一些。
1.3 结构识别与统计识别相结合 上述方法各有优缺点，而随着研究的深入，这些方法逐渐得到融合。网格化特征就是结合的产物。特征的统计以网格为单位，即使个别点的统计有误差也不会造成大的影响，增强了特征的抗干扰性。这种方法正得到日益广泛的应用。
字符的结构特征直接反映了字符的特有属性，而用字符的统计特征进行字符识别则是利用了计算机软件善于处理数字的特点。虽然近几年流行的神经网络方法主要采用的是局部特征，但其分类机理也与传统的统计识别方法相类似，优点是灵活性强。
2 字符识别流程
字符识别技术在当今社会的许多领域都有着广泛的商业应用前景。常见应用有条码识别、车牌识别、盲人的辅助阅读设备和邮包自动分检等。本文以车牌识别为例说明字符识别的应用以及识别流程。车牌识别系统的工作流程如图1所示。
经过字符分割后，得到可以进行字符识别的图像。本文采用神经网络方法进行字符识别，识别的具体过程如图2所示。
3 基于改进型BP神经网络的字符识别算法
3.1 BP神经网络简介 神经网络最早的研究是20世纪40年代，由心理学家Mcculloch和数学家Pitts合作提出的，由此拉开了神经网络研究的序幕。人工神经网络是通过对人脑生物神经机理进行简化，抽象和模拟之后建立起来的一种计算模型，属于机器学习的重要研究领域。人工神经网络可以应用于字符识别、人脸识别等领域。
随着神经网络的威力逐渐显现以及付诸应用的现实性，大量的学者对此进行了深入研究，出现了多种神经网络，如径向基神经网络和Hopfield网络等。1986年科学家Rumelhart和McCelland提出了BP（Back Propagation）神经网络，是一种按误差逆传播算法训练的多层前馈网络，是目前在字符识别中应用最广泛的神经网络模型之一。BP网络能学习和存储大量的输入输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。
BP神经网络的结构如图3所示。从左至右分别是输入层、隐含层和输出层。
从图3可以看出，某一层的输出就是下一层的输入，即：am+1=fm+1（Wm+1am+bm+1），m=0，1，…M-1……
这里，M为神经网络的层数。第一层的神经元的输入为a0=p，最后一层神经元的输出是a=aM，即为整个神经网络的输出。BP神经网络虽然在字符识别领域有着重要的应用价值，但其存在如下问题：①进行字符识别时存在局部极小值问题；②算法通常需要迭代几千步甚至更多，收敛速度慢；③隐含层和隐含层节点的数量难以确定。要解决上述问题，就需对BP神经网络算法进行改进。
3.2 基于改进型BP神经网络的字符识别
3.2.1 图像预处理 在字符图像采集、输入的过程中由于受到多种噪声的干扰，会使图像质量下降，为字符识别工作带来困难，因此需要对初始图像进行必要的预处理。图像预处理的具体步骤如下：①选取合适的阈值进行图像二值化；②灰度变换增强对比度，改善视觉效果；③选取合适的方法去除噪声，常用的有中值滤波、均值滤波、高通滤波等方法；④图像分割，即将图像中的字符独立的分割出来。
3.2.2 字符特征值的提取 如果直接采用分割后的字符进行对比，那么需要对比的信息量很大，程序运行的时间也会大大增加。所以需要对分割后的字符进行特征提取，本文使用了类似九宫格的方法进行特征提取，即在字符图像的水平方向上将图像均匀分成三部分，在每一部分用一条水平方向的扫描线从左至右穿过字符，进行查找；垂直方向上原理相同，扫描线从上到下穿过字符，进行查找。取这六条线上的特征作为字符图像的特征，这样就得到了每个字符的六个特征值。
3.2.3 改进型BP神经网络 针对BP神经网络的局限性，为了避免落入局部极小值点，提高网络训练的精度和速度，对其算法进行了改进，常用的方法有：①优化初始权重。由于BP网络的误差曲面存在多个局部最小点和算法采用误差梯度下降的方法调整网络权重，因此导致了网络的训练结果极容易落入局部极小点。所以，网络的初始权重对网络的最终训练结果影响非常大，它是影响网络最终能否达到需求精度的重要因素之一。②调整自适应学习率。学习率η也称步长，在标准的算法中为常数。BP算法的收敛特性和收敛速度很大程度上取决于学习率，对于不同的问题，其取值范围也会不同。η取值过大可以加快学习速度，但会导致学习过程不收敛；η取值过小，则迭代次数明显增加，导致学习速度过慢。为了加速收敛的过程，可以自适应改变学习速率。③附加动量法。动量法是指在反向传播的基础上，在每个权值调整值上加上一项正比于前次权值变化的值，并根据反向传播法来产生新的权值变化。
本文为了简单起见，采用附加动量法只对数字和英文字母进行字符识别，利用梯度下降法，使权值沿函数的负梯度方向改变。提高了学习速度，增加了算法的可靠性。
带有附加动量项的权值调节公式为：
Wij（k+1）=Wij（k）+η[（1-α）D（k）+αD（k-1）]
其中，α是附加的动量项，取值范围为0
3.2.4 设计改进型BP神经网络进行字符识别 本系统采用了两个BP网络来进行数字和字母的识别。BP神经网络的建立主要是三个层的神经元数目的确定。①输入层节点数。此节点个数即为图像预处理后所输出的特征的维数。本系统输入层节点数为24×48。②隐含层节点数。确定隐含层节点数的基本原则是：在满足精度要求的前提下取尽可能紧凑的结构，即取尽可能少的隐含层节点数。本系统的两个神经网络，可以根据输出层神经元的多少来确定其个数，即输出层神经元越多，其隐含层神经元个数也越多。③输出层节点数。用于识别数字的BP网络，由于只有10个数字，所以采用了8421码进行编码，输出层的神经元数目为4。而识别26个字母的BP网络，其输出层的神经元数目为5。待识别的字符图像和训练好网络后识别的结果分别如图4和图5所示。
4 结束语
在字符识别的过程中，每一步都会有不同程度的误差，本文神经网络经验证后识别率可达95.1%，平均识别时间为0.6s。影响识别成功率的主要因素是训练样本的数量和训练次数，要保证一定数量以上的训练样本和训练次数，以保证识别率。另外，神经网络的层数和各层神经元的个数，对神经网络算法的运行速度和识别率也有着直接的影响，其数量越多，识别率越高，但也制约着识别速度，因此，如何处理好两者关系很重要。
参考文献：
[1]关学忠，刘勇智.基于数字图像处理的车牌定位及字符分割方法[J].装备制造，2010（01）.
[2]武桐.基于图像匹配的汉字识别系统研究与实现[D].上海：上海交通大学，2010.
反向传播神经网络基本原理范文5
关键词：模拟电路；故障诊断；模糊数学；bp网络；模糊bp网络
0引言
电路故障是指在规定的条件下，电路工作时它的一个或几个性能参数不能保持在要求的上、下限之间，其结构、组件、元器件等出现性能减退、老化、破损、断裂、击穿等现象，丧失了在规定条件和环境下完成所需功能的能力。
长期以来，学界对模拟电路工作特点的研究已相当深入，但对于故障诊断方法的研究却困难较大，这是由于模拟电路本身的特性决定的：1）输入激励和输出响应都是连续量，模拟电路中的故障模型复杂，量化难度大；2）模拟电路信号量程宽，不管电压、电流的量程还是频率都可达十几个数量级，测量难度大；3）模拟电路中的元器件参数具有容差，导致电路的故障状态的模糊性，而无法准确定位；4）模拟电路中存在广泛的反馈回路和非线性问题，使计算的难度更加复杂。因此，学界提出了许多模型和方法来完成对某些符合特定条件的模拟电路的故障诊断。其中神经网络法的使用就相当普遍，在硬和软故障诊断中都有应用，因为神经网络的技术优势针对模拟电路故障诊断有较好的适用性，这主要体现在：1）神经网络的大规模并行处理特点，大大提高了诊断效率；2）自适应与自组织能力使神经网络在学习和训练中改变权重值，发展出新的功能。同时，模糊数学也与神经网络相结合，这是利用了模糊数学对待诊断模拟元器件的故障不确定性进行量化处理，能够有效克服模拟电路元器件因为容差、非线性及噪声造成的电路参数模糊性。
本文的研究目的就是分别利用单纯bp神经网络和模糊bp神经网络的方法建立模拟电路故障诊断模型，利用电路仿真收集电路不同工作状态下的关键点电压，代入诊断模型并得到诊断结果。根据各网络的结果分析比较各诊断模型的优缺点，找出模糊数学对改进模拟电路故障诊断模型的具体表现。
1模糊神经网络的故障诊断模型
1.1典型模糊神经网络诊断模型介绍
图1显示的是一个典型的模糊神经网络模型，该模型由原始知识获取（fundamental knowledge acquire,fka）、特征参数处理（characteristic parameter produce,cdp）、知识提取（knowledge extracted,ke）、经验知识库（experience knowledge base,ekb）、学习样本集（learning sample set,lss）和模糊神经网络（fuzzy neural networks,fnn）共6个模块共同组成，其工作流程是：
图1 典型模糊神经网络诊断模型
1）原始知识获取模块通过对电路工作原理进行分析，模拟或仿真各类故障发生时输入和输出参数，从而获取原始知识（x，y），将其传入知识提取模块中供系统学习，所得经验集存入经验知识库中；
2）将原始知识和已经存放在经验知识库中的经验知识（初始库可为空）一起输入学习样本组织模块中，进行学习样本的构建，合成训练样本集为（x1，y1）；
3）将（x1，y1）输入到模糊神经网络模块，学习训练，并在达到指定精度后停止；
4）将从模拟电路中获得的实测参数xc输入至特征参数提取模块中，完成数据分析和处理，输出特征参数数据xc'；
5）将特征参数数据输入到学习收敛后的模糊神经网络中，进行诊断推理，得出诊断结果yc'；
6）将得到的实测数据集（xc'，yc'）输入学习样本组织模块，动态增强模糊神经网络的自适应能力；
7）将得到的实测数据集（xc'，yc'）输入知识提取模块，进行分析和处理，如能提取出经验知识，则归入经验知识库中[1]。
1.2模糊神经网络结构
模糊神经网络的结构应该包括4层，如图2所示。
模糊层的作用是将输入量进行模糊化。每一个模糊层节点对应一个该论域中的模糊子集和隶属函数。该层接收精确数值输入，经过模糊化计算得出对应的隶属度并输出。
图2 模糊神经网络结构图
输入层、隐含层和输出层共同构成一个完整的神经网络。输入层不具有运算功能，它只是将所感知的输入值精确传递到神经网络中；隐含层的作用相当于特征检测器，提取输入模式中包含的有效特征信息，使输出层所处理的模式是线性可分的，该层节点是模糊神经元，与输入层间的连接权值是随机设定的固定值；输出层节点也是模糊神经元，与隐含层之间采用全连接方式，其连接权值是可调的，作用是输出用模糊量表示的结果[2]。
1.3输入层、输出层和隐含层节点数确定
输入层的个数代表了电路故障诊断的关键测试点的个数n1，输出点为电路所具有的潜在故障模式种类数n3。
根据输入层和输出层的个数，隐含层节点数n2的确定有以下4种经验公式[3]：
（1）
（为0～10之间的常数）（2）
（为0～10之间的常数）（3）
（4）
2模糊数学和神经网络的算法介绍
2.1模糊数学和隶属度函数
模糊数学的作用是对测试点测得的电压信号进行特征提取——模糊化处理。因为在模拟电路测试中，参数值会随着故障原因的不同和故障阶段不同而发生变化，所以在进行数据处理时常用方法是使用精确事实规则。即用正态分布函数作为隶属度函数表示“大约为a”的模糊概念，此外还有如三角分布和梯形分布等[4]。在使用中，正态分布使用较多，其中的a是该测试点的理想状态工作点，b为该测试点在各种可能状态下的工作电压均方差。
2.2bp神经网络与算法
图3bp神经网络模型结构图
反向传播网络（back-propagation network，简称bp网络），是一种有隐含层的多层前馈网络。每一层均有一个或多个神经元节点，信息从输入层依次经各隐含层向输出层传递，层间的连接关系强弱由连接权值w来表征。bp算法是一种监督的学习，基本原理是梯度最速下降法，中心思想是调整权值使网络总误差最小。通过连续不断地在相对于误差函数斜率下降的方向上计算网络权值和偏差值的变化而逐渐逼近目标的。每一次权值和偏差的变化都与网络的误差的影响成正比，并以反向传播的方式传递到每一层。bp网络模型结构如图3所示。
以bp神经网络模型结构图为例进行bp算法推导，其输入为p，输入神经元有r个，隐含层内有s1个神经元，激活函数为f1，输入层内有s2个神经元，对应的激活函数为f2，输出为a，目标矢量为t。
1）隐含层输出：（i=1,2,…,s1）（5）
2）输出层输出： （k=1,2,…,s2） （6）
3）定义误差函数：（7）
4）输入层的权值变化量：（8）
其中：
同理可得：（9）
5）隐含层权值变化有： （10）
其中：
同理： （11）
bp网络经常使用的是s型的对数、正切激活函数或线性函数[5]。
3电路故障诊断算法验证
图4 共集-共射电路的直流通路图
例：如图4所示的直流通路图，电阻的标称值如图中所注。利用multism软件在直流状态下进行多次monte carlo分析仿真该电路[6]，并考虑电阻的容差影响，取40个样本作为模糊神经网络的训练样本，另取5个样本为测试样本。设电阻r1～r5的容差值为-5%～5%。测试点选为a、b、c、d和e五点，所测电压值为va、vb、vc、vd和ve。
表1 部分电路实验样本原始数据
表2 测试样本原始数据
表1列举了40组电路实验样本原始数据的11组，包含了该电路在11种工作状态下的五个关键点电压值，所以n1=5，n2=11，隐含层的节点数可以依据公式2.3确定为12个，其中a为5。
表2则列举了5组测试样本的原始数据。
步骤一：数据模糊化
根据用正态分布函数作为隶属度函数表示“大约为a”模糊概念的思路，可以分别得到各测试点上电压隶属度函数的参数值。
a1=5.57、a2=4.97、a3=4.9、a4=5.7和a5=5.69以及b1=4.3729、b2=4.4817、b3=3.9091、b4=4.2870和b5=3.7944。
由各测试点的隶属度函数可得到网络的训练样本见表3。
表3 神经网络部分输入、输出训练样本
步骤二：将训练样本输入神经网络进行训练
将全部40个原始值和模糊化值的输入样本和对应的输出样本分别输入bp神经网络中进行训练。
步骤三：将测试样本输入神经网络进行检测
将全部5个原始值和模糊化值的输入样本和对应的输出样本分别输入已经训练好的bp神经网络中，输出诊断结果见表4。
表4 输出诊断结果
表4中的数据是经过故障诊断后得到的结果，在此只是各随机选用了一组数据加以比较说明。通过对故障诊断的试验观察和结果的比较可以作出以下分析。
1）模糊化数据能够有效减少神经网络的收敛次数。如在bp网络诊断中，使用模糊化数据的迭代次数由886减少到263次，收敛速度明显加快；
2）模糊化数据能够有效提高神经网络训练的效果。通过表4中数据的对比可以发现对于相同的神经网络，经过模糊化数据的训练，其准确性更高。这主要表现在电路所对应的状态结果普遍高于未经模糊化数据训练的网络得出的结果；同时，其他状态对应的机率更低，皆低于0.1，且更多值为0，说明数据模糊化能使神经网络的诊断结果更集中，正确率更高，有效性更加明显。
4结论
通过分别采用bp网络和模糊bp网络建立了电路故障诊断模型，对电路相同工作状态参数的诊断结果进行比较，得出了模糊数学对提高电路故障诊断模型精度和有效性效果明显的结论。模糊数学和神经网路理论的组合有效地提高了模拟电路故障诊断模型的收敛速度，提高了故障诊断的工作效率，还提高了诊断的准确性，有效性得到了充分显示。
参考文献：
[1] 吕律,魏蛟龙.基于模糊神经网络的板级电路故障诊断研究[j].计算机与数字工程,2003（3）:21-23.
[2] 李国勇.智能预测控制及其matlab实现[m].北京:电子工业出版社，2010.
[3] matlab中文论坛.matlab神经网络30个案例分析[m].北京:北京航空航天大学出版社,2010.
[4] 朱大奇.电子设备故障诊断原理与实践[m].北京:电子工业出版社，2004.
反向传播神经网络基本原理范文6
关键词：工程量清单计价;工程造价;神经网络;模糊数学;灰色系统理论;蒙特卡洛模拟
Abstract: The paper mainly research method to quickly determine the project cost in the current bill of quantities mode, select the BP neural network, fuzzy mathematics and gray system theory, Monte Carlo simulation to forecast project cost, briefly principle and operation of several methods to achieve the guidance of the actual project.Key words: engineering the bill of quantities; project cost; neural network; fuzzy mathematics; gray system theory; Monte Carlo simulation
中图分类号：文献标识码：A 文章编号：2095-2104（2012）
我国传统的定额计价是从前苏联引进的计划经济条件下的以标准和定额管理为主导的管理模式。传统定额计价模式的“量价合一”以及要素价格的固化违背了市场规律，使得市场形成价格的竞争机制在建筑工程造价中难以实现，严重背离了市场形成价格、企业自主定价的原则。而且，这种投资分解和编码体系主要是面向材料和工序进行分解划分的，这种体系主要是为了进行投资的静态计算和分析，不适合项目全过程的动态控制。随着我国市场经济的不断发展，投资主体的日益多元化，传统定额计价模式已经越来越不适应造价管理的需要，不仅无法实现有效控制造价的目的，而且也因抑制了建筑企业积极性的发挥，不利于建筑业市场的发展。
鉴于这些突出的问题，为了适应建筑市场改革的要求，我国在1992年提出了“控制量、指导价、竞争费”的举措。其主要思路是:将工程预算定额中的人工、材料、机械的消耗量和相应的单价分离，人、材、机的消耗量是国家根据有关规范、标准以及社会的平均水平来确定的，指导价就是要逐步走向市场形成价格，这一措施在我国实行社会主义市场经济初期起到了积极的作用。但是随着建设市场化进程的发展，这种方式的弊端渐渐凸显出来。这里的“量”指的是社会平均消耗量，反映的是社会平均水平，不能体现企业的技术装备水平、管理水平和劳动生产率，因此，并不能体现公平竞争的原则。之后，建设部于1998年又提出“具备条件的地区和工程项目，可以按照建设行政主管部门的统一工程计算规则和工程项目划分的规定，进行工程量清单招标，合理低价中标等试点”，并在广东、天津等地进行了试点。2003年，建设部了《建设工程工程量清单计价规范》（GB50500-2003）,作为强制性规范在全国范围内推行。经过几年的发展，目前通用的计价规范为《建设工程工程量清单计价规范》（GB50500-2008）。这标志着我国工程造价管理由传统的“量价合一、政府定价”的模式发展为“量价分离”的工程量清单计价模式。
一、工程量清单计价模式
1.概念：
建筑工程项目的工程量清单由招标人在工程项目招标文件中给出工程量清单和要求，投标人根据招标人给的工程量清单确定各分部分项工程费、措施项目费、其他项目费和规费、税金所需的全部费用的一种工程计量与计价的编制方法。
投标人在投标报价时应考虑各种不利的施工条件、自身的技术能力和管理水平、市场材料和设备的价格变化等风险。所报的价格应该是综合价格，也就是包括完成所给工程数量的项目要发生的全部直接成本、间接成本乃至规费、利润和税金。一旦中标，所报的综合单价无特殊理由将不会改动。工程结算时，工程数量允许按照实际发生的数量上下调整，工程总价也会随着上下调整的工程数量乘以相对不变动的综合单价上下调整。
2.编制步骤
3.清单计价计量方法。即以《全国统一工程量清单计价规范B50500- 2008》的规定计算规则计算工程量的方法。
4.工程量清单计价方法
依据工程量清单计规范对工程在招投标报价时进行计价的方法。
工程预算造价＝
5. 工程量清单计价的费用构成
工程量清单计价模式的费用构成包括分部分项工程费、措施项目费、其他项目费，以及规费和税金。
（1）分部分项工程费
分部分项工程费是指完成在工程量清单列出的各分部分项清单工程量所需的费用。包括:人工费、材料费(消耗材料费总和)、机械使用费、管理费、利润，以及风险费。
（2）措施项目费
措施项目费是由“措施项目一览表”确定的工程措施项目金额的总和。包括:人工费、材料费、机械使用费、管理费、利润，以及风险费。
（3）其他项目费
其他项目费是指预留金、材料购置费(仅指由招标人购置的材料费)、总承包服务费、零星工作项目费的估算金额等的总和。
（4）规费
规费是指政府和有关部门规定必须缴纳的费用总和。
（5）税金
税金是指国家税法规定的应计入建筑安装工程造价内的营业税、城市维护建设税及教育费附加费用等总和。
二、工程量清单快速报价方法：
建设工程具有投资大、生产和使用周期长等特点，决定了项目决策的重要性。工程造价决定着项目的一次投资费用。投资者是否有足够的财务能力支付这笔费用，是否认为值得支付这项费用，这是项目决策中要考虑的主要问题。因此在项目决策阶段，工程造价预测就成为项目财务分析和经济评价的重要依据。
1.神经网络法：
神经网络应用于工程造价中是对类比法的一种发展。人们普遍认为，工程建设的资源耗量与工程的一些基本特征值之间存在着必然的联系。但是，这种必然的联系一般并不都能以一个简单的以通过其内部的推理机制，解决工程特征和工程建设资源耗量之间的复杂关系问题。神经网络也就是利用已建工程的基本资料，通过建立工程特征和资源耗量之间的联系来完成工程估价的任务。