前言：中文期刊网精心挑选了经典神经网络算法范文供你参考和学习，希望我们的参考范文能激发你的文章创作灵感，欢迎阅读。
经典神经网络算法范文1
中图分类号：TP183 文献标识码：A 文章编号：1009-914X（2015）15-0343-01
1、前言
在实际的现场工矿条件中，油层温度远高于地面正常的环境温度，在一定范围内造成仪器的测量数据产生温度漂移，不能准确地反映真实的地层参数，这直接影响到定向工程。为了消除这种测量误差，本文介绍一种基于小波神经网络的算法来实现电阻率温度补偿，并通过实际的测量数据修正结果证实了能够最大限度地消除温度造成的测量误差。
2、理论基础
由于温度造成的测量数据偏差已经影响到仪器正常的工作，为了消除其对MRC仪器输出的影响，达到输出电压与各个易感器件产生的连带误差最小的目标，采用一种算法去逼近真正的测量值。本文拟采用基于小波分析和前馈神经网络，其所构成的数学模型结合了小波变换良好的时域局域化性质及神经网络的自学习功能，通过对网络特征的分析处理，将学习向量的内积和小波基迭代计算，以实现函数逼近的目标。小波网络因其良好的非线性映射能力和较强的容错逼近特性，能够逼近特定性质的非线性曲线[2]。
如图1所示：
2.1 小波神经网络
小波神经网络的学习，是用已定位的小波元代替神经元作为网络的激活函数，通过小波网络提供区别函数的多分辨近似，非平稳信号分析和神经网络的自学习的并行处理。利用神经网络数据正向传递与误差的反向传播算法，计算输出层的误差变化值。同时选取适当的小波作特征提取，在其特征空间选取最佳的小波基，通过伸缩和平移因子，加快网络学习和收敛速度。本文采用的是以小波函数为隐层节点的基函数的神经网络，进行随钻仪器电阻参数温度补偿的研究。
小波分析的定义：在函数空间中选择母小波函数S（x），此函数需要满足相容性条件。
对小波函数S（x）进行伸缩变换和平移变换得到小波基函数，其公式如下：
其中自变量（a，b）是伸缩因子和平移因子。小波级数把函数f（x）分解成不同频率的组合。
符号“< >”表示内积，和称为小波系数。
2.2 小波神经网络结构及算法
本文采用小波神经网络结构如图2所示
该网络输入神经元代表的是不同温度下测量节点的采样数值，将此学习样本输入到神经网络，隐层的激励函数采用的是Morlet小波，选用的依据是其对隐层基函数的正交性要求较低，具有较高的时频域分辨能力，同时满足相容性条件，能有效地提高学习逼近的速度和准确性。
小波神经网络训练算法流程图如图3所示：开始网络化参数初始输入学习样本和期望输出小波网络学习，计算网络实际输出网络误差学习次数T
三、仪器温度补偿实例
仪器发射线圈流过的电流产生磁场，通过井眼和周围的底层传播到两个接受线圈，采集其测量时序和信号幅度，从而来计算此地层的电阻率值。在实际的测量计算中，选用相位差和幅度比来实现。设定常温到120度之间的试验需求样本数据，通过网络学习所达到的实测数据。网络学习的收敛速度也满足了预期的效果，同时满足了设定的误差范围。在仪器测量的实际运行中提高了测量稳定性和容错性。
参考文献
[1] 焦李成.神经网络系统理论[M].西安电子科技大学出版社，1990.
经典神经网络算法范文2
关键词：神经网络算法 电力负荷 短期预测
1. 引言
近年来BP网络以其独特的优势被运用到电力负荷预测中，运用BP网络的预测方法，可以结合电力负荷的历史数据，针对这些数据不确定、非线性的特点，对未来的短期负荷进行预测，发挥了较好的作用。电力短期负荷预测是电网运营商为用户提供可靠服务的重要基础。传统的电力负荷预测包括许多被广泛采用的方法，例如SVM法、回归法等等。这些方法的优势在于实现难度低，便于操作，但是其预测精度往往难以满足电网运营商的需求。传统的BP神经网络算法同样存在一些弱点，包括学习过程收敛速度慢、算法易陷入局部极小点和鲁棒性差等缺陷，对预测的效率与精度带来一些影响。本文引入遗传算法对其进行优化和改进，通过实验与比较，证明了所构建的负荷预测系统的准确度，在电力需求侧管理方面有着很好的实践意义，值得推广应用。
2.神经网络负荷预测概述
可以将电力系统短期之内的负荷看做是一个标准的时间序列。从算法的角度来讲，一般有两个类型的预测模式，第一种是基于参数的时间序列预测，第二种是基于非参数的时间序列预测方法。本研究所涉及的基于BP神经网络的电力短期符合预测属于基于非参数的序列预测，这种预测方式的优势在于不必再假设具体的信号模型。所以，与基于参数的预测相比较，具有更好的使用范围。在电力短期符合预测中，可以把这些以时间序列存在的负荷数据作为历史数据，以历史数据来计算数据发展的未来趋势，这就涉及到数据序列之间的映射关系，因为BP网络的特性便于实现数据序列里的映射关系，所以十分适合于进行未来趋势的预测。本文引入BP神经网络，进行电力系统短期负荷的预测。
3.基于传统神经网络的负荷预测
电网负荷与历史数据及天气状况之间是非线性的关系。经过仔细对其进行关联分析，得到了影响较大的因子：温度、时段、节假日以及环境，本研究将一天的24小时分为四个时段，为不使函数作用在其取值范围的平坦区，以归一化预处理的方法，将所采集的数据映射于 [0.1，0.9]区间。以一个星期为周期，把本星期之内的前6天作为训练数据，最后一天作为预测数据，如表1所示：
结合Kolmogorov算法，输入层有 12个神经元，隐含层为5个节点，输出层中的神经元有4个。以传统的神经网络方法对BP网络进行训练，引入Matlab实现对实验数据的仿真分析，结果为：训练次数超过1000次后，训练误差预测误差已经可以接受。
4.基于优化神经网络的负荷预测
传统的神经网络具有学习过程收敛慢、算法易陷在局部极小值以及鲁棒性差等缺陷，本文引入遗传优化算法对其进行改进。遗传算法能够在全局范围内以较快的速度找到最优解，收敛速度较快。通过改善权值和阈值的确定过程，增强其收敛速度，并避免其陷在局部极小值。
遗传算法能够以逼近自然选择与自然基因的方法进行搜索，遗传算法一般有三个步骤，分别是选择、交叉与变异。本文引入遗传算法训练传统神经网络权值，具体的流程如下：
（1）对权值进行编码操作，把其转换为步长是l的字符序列。
（2）确定序列的初始种群，通过将以上的字符序列进行编号，把所有的权值转换为一组数据，这些数据代表每一个个体，因此所有的数据便能够形成初始种群。
（3）确定适应度，把BP的输出误差经过运算得到其能量函数E，适应度为F = C/E。
（4）确定适应度之后，对上一代种群进行考察，取里面适应度较高的部分（一般选取前十分之一的数据）直接投入下一代种群，其余的种群则处于待定状态。
（5）进行数据交叉，引入单点交叉模式，将概率定于0.9。
（6）进行序列的变异，变异概率P=0.02。
（7）终止条件是否满足，如果已经满足，则操作停止，不满足则返回步骤（4）。
（8）结束过程。得到神经网络最优解，即权值和阈值。
同样以表1的负荷数据作为研究内容，从基本BP网络的误差曲线可知，传统神经网络训练次数超过1000次时，目标误差值10-4刚刚达到，收敛较慢，性能不佳；而粒子群优化后的BP网络则在第19次时满足了目标误差值，可见性能有较为明显的提升， 经过更少的迭代次数就使网络的性能达到了要求。
本研究的仿真过程数据偏少，而在样本空间非常大的情况下，神经网络结构将变得复杂，此时的基于传统神经网络的预测收敛速度将会显著减慢，而优化之后的算法会体现出更加明显的优越性。此时可以通过对数据的处理来适当缩小规模，并进一步提升交叉概率，以保证更快的效率和更高的电力负荷预测准确率。
5. 结束语
本研究将遗传算法优化的BP算法应用于电力负荷预测，本文的成果对电力需求侧管理和提升服务品质、夯实企业核心竞争力具有比较好的实践意义和理论价值。新算法克服神经网络固有的缺陷，经仿真试验证明效果满意，可以满足短期负荷预测的需要。
参考文献：
[1]梁海峰，涂光瑜，唐红卫.遗传神经网络在电力系统短期负荷预测中的应用[J].电网技术，2011，25（1）：49-53.
经典神经网络算法范文3
关键词：智能优化算法；启发式教学；Matlab语言
中图分类号：G642 文献标识码：B
1 引言
从教材和教学大纲出发，“智能优化算法及其应用”这门课程主要针对模拟退火算法、遗传算法、禁忌搜索、神经网络优化算法、混合算法等几个方面进行了讲解。由于该课程涉及的知识面很广，内容比较抽象，所以学生往往难以理解，特别对各种优化算法的实际应用不能灵活掌握。这直接导致了学生学习兴趣的减弱和对课程学习的厌倦情绪。为了克服上述问题，更好地实现教学目标，本文作者从教学方法、教学内容等方面出发对智能优化算法及其应用课程的教学进行了探索，改善了课堂教学和课外实践的效果。
2 启发式教学
所谓启发式教学法，就是以学生的经验为基础，由教师提出问题，使他们思考去解决、分析、批评、判断和归纳，因而可以触类旁通、举一反三，使经验逐渐扩张，思路更为灵活。通过启发式教学法，可以培养学生学习的内在动机，引导学生思考和逐步掌握各个知识点，使他们真正对所学的课程感兴趣。为了更好地运用启发式教学，教师应该首先向同学们阐述该课程的发展历史和未来的发展前景，介绍该课程的理论和实践背景，让学生对课程的整体情况有所了解，并产生好奇心。
在启发式教学过程中，教师可根据教学重点和难点，首先采取提问的方式引发学生进行思考，使他们的思维高度集中。在学生思考过程中，可根据他们的思考结果给与适当的提示与鼓励，使他们的思考更加深入。接着可采用问答讨论的方式，对学生的答案加以分析，使得学生的思维达到升华。最后，将学生讨论的结果与课本的结果进行对比，找出异同点。通过上述启发式的教学过程，学生可以更加深刻理解课程中的难点和重点。
如模拟退火算法是一种随机优化方法，学生在学习课程之前已对经典的基于梯度的优化方法有一定了解。在介绍模拟退火算法之前，可先向学生提问：经典的优化方法的核心思想是什么。接着可再提出问题：如果在经典的优化方法中加入随机因素会出现什么结果。教师可根据学生的回答给予适当的提示，最后再给出模拟退火算法的主要步骤和主体思想。
此外，在介绍混合算法的时候，也可以采用启发式的教学法，如可提问学生如果把模拟退火算法和神经网络混合起来进行问题求解应该怎么做。3示例教学
在教学过程中，如果只是纯粹地讲解理论知识，学生可能觉得索然无味，从而直接导致学习兴趣的减弱。而通过选择一些经典的示例进行分析、讲解与讨论，学生可以在学习过程中做到理论与实际相结合，并增加对所学知识实用性的了解，从而提高学习的积极性和主动性。
如在讲解遗传算法的主要步骤，即编码、解码、交叉、变异、选择时，通过选择最短路径问题的示例来解释其运行机理。最短路径问题是一类离散优化问题，其主要任务是找到一条从起始点到终点的最短路径。在运用示例讲解时，首先给学生介绍如何对每一条路径进行编码，然后介绍如何对不同的路径进行交叉、变异和选择等操作，而且说明在上述过程中如果出现不合法路径应该如何进行处理，最后讲解如何选择较好的路径来进行下一次进化等等。通过上述讲解，学生对遗传算法的主要步骤具有了十分深刻的认识。
此外，在讲解神经网络时，可首先通过理论讲解使学生对神经网络的原理有了一定的了解，接着通过选择一种经典的神经网络示例，即BP神经网络，对其原理及具体实现过程进行演示。在教学过程中，作者通过选用Matlab语言中的神经网络工具箱，对BP神经网络进行了讲解，包括如何构造输入层、隐含层和输出层，如何执行反向传播等等。最后再通过选用一个BP神经网络应用于实际工程中的示例进行讲解。这样，学生对神经网络的原理和应用便有了具体而生动的认识，从而也调动了学生的学习兴趣。
4 多媒体课件教学
运用多媒体课件上课有许多“黑板+粉笔”不可企及的效果。运用多媒体课件上课，可以生动且有效地对教学重点与难点进行讲解，同时通过多媒体课件中的动画演示、录像演示等可以使学生对学习要点有更直观和深刻的了解，激发学生的好奇心。
如在解释遗传算法对某一优化问题的进化过程时，可将初始群体中个体的分布，运行到中间代数时群体中个体分布，和进化结束时群体中个体的分布情况通过多媒体演示出来。这样，学生便对遗传算法的进化迭代寻优思想有了很直观的认识，而且学生可以很深刻的理解遗传算法搜索到全局最优解的工作原理和过程。此外，还可通过录像演示，将整个进化过程中每一代群体中个体的分布情况全部演示出来，这样遗传算法的整体执行过程便在学生眼前活灵活现地展示出来。
在介绍各种智能优化算法之间的优缺点、异同点时，也可通过多媒体课件中的各种图形工具将优缺点和异同点进行归纳和总结，更清晰地展现在学生面前，同时也使得教师在讲解时便于归纳叙述。
5 课程设计
课程设计是学生综合运用课程所学知识的一个重要环节。特别对于智能优化算法及其应用这门课程，如何引导学生将优化算法应用到实际问题显得尤为重要，这不仅锻炼了他们的实际动手能力，也锻炼了他们分析问题和解决问题的能力，可全面开发学生的创造性思维和创新能力，使课程设计真正成为学生综合运用学科知识和进行能力培养的有效途径。
在课程设计中，我们为学生设计了遗传算法求解TSP问题、差异进化算法求解约束优化问题、粒子群优化算法求解多目标优化问题、BP网络解决XOR分类问题等几个题目，将学生分为若干组，要求学生采用Matlab、c语言等软件实现上述问题的编程求解，并规定课程设计的时间为两周。通过课程设计，学生对智能优化算法及其应用这门课程的理论和实践得到了升华，并且团队合作能力也得到了提高。
经典神经网络算法范文4
关键词：给水管网；优化技术；优化算法
中图分类号：FV212.2 文献标识码：A 文章编号：1672-3198（2007）09-0272-01
1 优化算法及其分类
所谓优化算法，其实就是一种搜索过程或规则，它是基于某种思想和机制，通过某种途径或规则来得到满足用户要求的解。
就优化机制与行为而分，目前工程中常用的优化算法主要可分为:经典算法、构造型算法、改进型算法、基于系统动态演化的算法和混合型算法等。
(1)经典算法。包括线性规划、动态规划、整数规划和分枝定界等运筹学中的传统算法，其算法计算复杂性一般很大，只适于求解小规模问题，在工程中往往不实用。
(2)构造型算法。用构造的方法快速建立问题的解，通常算法的优化质量差，难以满足工程需要。
(3)改进型算法，或称邻域搜索算法。从任一解出发，对其邻域的不断搜索和当前解的替换来实现优化。根据搜索行为，它又可分为局部搜索法和指导性搜索法。
(4)基于系统动态演化的方法。将优化过程转化为系统动态的演化过程，基于系统动态的演化来实现优化，如神经网络和混沌搜索等。
(5)混合型算法。指上述各算法从结构或操作上相混合而产生的各类算法。
2 主要的智能优化算法
（1）模拟退火算法。
模拟退火算法是模拟加热熔化金属的退火过程，来寻找全局最优解的有效方法之一。模拟退火算法的得来是基于对物理退火过程的分析。在金属退火处理过程中，常将它加热熔化，使其中的离子可以自由运动，然后逐渐降低温度，使离子形成低能态的晶体。不同的冷却过程，可以使得离子达到不同等级的能量状态，这一过程与金属的初始状态无关，如果冷却速度足够慢，则金属将达到最低能量的基态。在算法的每一步，都产生一个组合的变化，然后对其费用进行评价。
由于模拟退火算法应用范围几乎不受限制，因此它可以用于求解各种优化问题，尤其是在大系统的优化方面，更是引起极大的关注。对于给水管网的优化设计问题，模拟退火算法理论上可以找到整体的最优解。但在实际运用中，由于控制参数值(冷却因子)t的选定至今仍然没有一个较成熟可靠的标准。控制参数t选取较小，求解时间较短，但是有可能导致搜索过程陷入局部最优解区域内即告终止，达不到理想的优化结果。反之，优化求解时间消耗过大，不能体现退火算法的优越性。所以t的选值将直接影响到优化结果。
(2)遗传算法。
遗传算法也是一种善于解决大系统的优化问题的一种优化算法，它在枚举法的基础上发展起来的，但是将无序的爆炸式组合通过一定的规律以减小计算量，从而提高优化速度。遗传算法通过模拟自然界生物种群的遗传和自然选择的机制，搜索最优解。基因工程加速了生物沿着人类希望的方向进化的进程所以其本身就是一种优化的工程和方法。①随机选出若干生物个体，组成群体。②一代一代的对各个个体按照适应性(表现为用修正后的目标函数来表示)逐个评价。通过评价，按照适合度的大小，优胜劣汰，组成优良亲本群体，用于繁殖新一代，经过若干代的繁殖，实现染色体的交换(表现为管径组合中某些管径值的改变)，加之基因的变异，可以将新的种群的优良特性得以遗传和保留到下一代，适合度不断提高，使种群进化，最终达到种群中最优个体的出现，由此对应于的优化问题找到最优解。
在管网优化的问题中，解答的形式是按照管段编号顺序列出的各管段的管径，这些管径为决策变量解的结果对应于GA问题的生物个体，决策变量对应于生物个体中的染色体GA法的概念简单，仅仅需要适合度这一个信息就可以完成寻优的过程，对于问题的依赖型较小，能够让用户根据实际情况进行管段流量、流速、管径、节点水头等多种约束，而且能够进行全局搜索。因此在理论上可以找到问题的整体最优解，也可用离散变量直接计算，用户端结果是标准的管径值。GA算法在搜索时采用启发式的搜索，而不是盲目的枚举，因而具有更高的搜索效率。但是，由于遗传算法本身的理论基础还处于研究阶段，许多概念还有待于进一步明晰化。例如适合度函数如何表述才能使得计算出来的适合度反映了管网的实际情况，这些都仍然处于探索阶段，故目前GA算法所得出的解一般不直接用于实际，而是用在方案比较时仅作为参考。
(3)遗传退火算法。
将遗传算法与退火算法相结合，也是九十年代的新趋势，遗传退火算法兼顾了遗传算法的启发式搜索和退火算法的接受逆优化解的寻优特点，使得寻优过程更加智能化，代表了未来优化方法的发展方向。
(4)禁忌搜索算法。
禁忌搜索的思想最早由Glover (1986)提出，它是对局部邻域搜索的一种扩展，是一种全局逐步寻优算法，是对人类智力过程的一种模拟。TS算法通过引入一个灵活的存储结构和相应的禁忌准则来避免迁回搜索，并通过藐视准则来赦免一些被禁忌的优良状态，进而保证多样化的有效探索以最终实现全局优化。相对于模拟退火和遗传算法，TS是又一种搜索特点不同的meta-heuristic算法。迄今为止，TS算法在组合优化、生产调度、机器学习、电路设计和神经网络等领域取得了很大的成功，近年来又在函数全局优化方面得到较多的研究，并大有发展的趋势。
(5)神经网络优化算法。
人工神经网络是近年来得到迅速发展的一个前沿课题。神经网络由于其大规模并行处理、容错性、自组织和自适应能力和联想功能强特点，已成为解决很多问题的有力工具，对突破现有科学技术的瓶颈，更深入探索非线性等复杂现象起到了重大作用，已广泛应用在许多工程领域。人工神经元是生物神经元特性及功能的数学抽象，神经网络通常指由大量简单神经元互连而构成的一种计算结构，它在某种程度上可以模拟生物神经系统的工作过程，从而具备解决实际问题的能力。神经网络优化算法就是利用神经网络中神经元的协同并行计算能力来构造的优化算法，它将实际问题的优化解与神经网络的稳定状态相对应，把对实际问题的优化过程映射为神经网络系统的演化过程。
另外，还有一些经典算法与其他相关数学理论相结合形成的优化算法，如模糊规划、随机规划、灰色规划等方法。
参考文献
［1］宋仁元.对贯彻城市供水2000年发展规划的几点体会［J］.中国给水排水，1999,15，(1):18-20.
经典神经网络算法范文5
1.1混合神经网络的结构本文提出的混合神经网络是在CC神经网络的基础上，在隐含层的生成中增加了乘算子的部分以提高神经网络非线性辨识能力。乘算子和加算子结构上的自增长基本相互独立，既保留了原CC神经网络的优点，同时也使得乘算子的特点得到发挥。混合神经网络的结构如图3所示，网络的隐含层由两种不同类型的算子(乘算子和加算子)共同构成。这种混合隐含层根据构成的算子类型分为加法部分和乘法部分。通过相关性s来确定其中一个隐含层部分增加节点，加法部分采用级联结构与原CC神经网络相同，乘法部分采用单层结构避免其阶数过高，最后两个隐含层的输出同时作为输出节点的输入进行输出。
1.2引导型粒子群算法针对混合隐含层的结构、权值和阈值的求取,本文提出了一种新的引导型粒子群算法（GQPSOI）。GQPSOI通过控制粒子i和j之间的距离来保证粒子不会收敛得太快从而陷入局部极小值，同时根据各粒子p(i,:)和p(j,:)之间的距离D(i,j)以及粒子间平均距离D来计算淘汰度Ew决定淘汰粒子并对其进行量子化更新。
1.3混合神经网络算法流程混合神经网络的自增长过程如图4所示。网络增长的具体步骤如下。（1）网络结构初始化。网络中只有输入层和输出层，无隐含层，如图4(a)所示。（2）使用GQPSOI算法训练输出权值。（3）对网络性能进行判断，如满足要求，则算法结束，网络停止增长，如图4(d)所示，否则转到下一步。（4）建立隐含层节点候选池(内含一个乘算子和一个加算子)，分别将候选隐含层节点代入网络结构并使用GQPSOI算法以最大相关性原理训练两个候选节点，分别计算两个候选节点与现有残差Ep,o的相关性s。（5）选择相关性s最大的候选节点，作为新的隐节点加入网络结构，如图4(b)、(c)所示，并固定新隐节点的输入权值。转移到步骤（2），对整个网络的输出权值进行调整。
2混合神经网络网络性能测试
2.1GQPSOI算法性能测试首先应用几个经典函数[9]对GQPSOI算法的性能进行了评价，并将实验结果与几种常见的算法进行了对比。这些函数包括：F1（Sphere函数）、F2(Rosenbrock函数)、F3(Rastrigin函数)、F4(Griewank函数)、F5(Ackley函数)，评价函数的维数为10。经过30次独立运行实验，每次的函数评价次数（FEs）[12]为100000。表1给出了GQPSOI算法与离子群算法（PSO），遗传算法（GA）以及差分进化法（DE）在30次独立运行评价试验中得到最优值的平均值和标准差。从表1中可以看出，在F2的实验中GQPSOI算法在30次独立运行中的平均值为7.746×10−12，这一结果明显优于PSO算法的29.55和GA算法的97.19，略优于DE的2.541×10−11。从F1、F3、F4、F5的实验结果也都可以看出GQPSOI算法明显优于其他算法。实验证明了GQPSOI算法的有效性和适用性，能够应用于神经网络的参数和结构调整。
2.2燃料电池的建模实验
2.2.1基于燃料电池输出电压的模型质子交换膜燃料电池[13-15]作为一种高效的清洁能源，在过去的几十年里取得了巨大的进展。在正常操作条件下，一片单电池可以输出大约0.5～0.9V电压。为了应用于实际能源供应，有可能需要将多片单电池串联在一起。具有级联结构的质子交换膜燃料电池实验装置如图5所示。从图5可以看出，电池引出电流I，电池温度T，H2和O2压力PH2和PO2会影响电池电压。将混合神经网络用于质子交换膜燃料电池的软测量建模，选用电池引出电流I，电池温度T，H2和O2压力PH2和PO2会影响电池电压的变量作为输入变量。将56片单电池的串联输出电压作为其输出，模型的目标函数取实际输出值与模型输出值得均方根误差(使其最小)。混合神经网络中加法部分以及输出层的神经元传递函数采用S型函数，GQPSOI算法中设置种群数30，最大迭代步长为1000，引导粒子起作用的概率设置为2%。图6为5kW质子交换膜燃料电池堆的实验装置。该实验系统采用增湿器与电池堆分体设置，参数检测采用传感器-直读式仪表方式，气体和水的流量测量采用转子流量计，电堆采用电阻负载，可直接测量电堆的输出电流、电压或功率。电池堆参数见表2。
2.2.2结果与分析实验条件如表3所示。取燃料电池装置输出的前100个值作为训练样本，后100个值作为测试样本。分别用CC神经网络，CC-GQPSOI和混合神经网络进行训练，当训练目标函数小于0.1或最大隐含层节点数达到30时网络停止增长，训练结束。表4给出了其最大相对误差和均方根误差的对比。图7显示了最终训练预测数据与输出数据之间的对比。从表4可以看出CC-GQPSOI和混合神经网络分别在隐含层节点数为4和6时达到训练要求，相较于CC神经网络的30个隐含层节点具有较小的网络结构。同时CC-GQPSOI和混合神经网络的均方根误差(3.0723×10−2和3.8606×10−2)也相较于CC神经网络的均方根误差(1.0354)具有更高的精度。从图8和图9的泛化结果来看，混合神经网络的预测误差保持在0.7以内，相对误差(绝对误差与被测量真值之比)保持在1.25%以内。CC-GQPSOI的误差在1以内。相对误差保持在3%以内。从实验结果可以看出，混合神经网络可以精确地预测出燃料电池装置的输出，反映了实际工况，具有良好的应用前景。
3结论
经典神经网络算法范文6
关键词：卡尔曼滤波，BP神经网络，状态估计，导航系统
1 引言
捷联惯导系统(SINS)和GPS组合而成的导航系统是当今导航领域最主要的组合方式，它有效的减少了系统误差，提高精度，降低了导航系统的成本，这种组合方式已在航天航空、航海、陆地平台导航、测绘等领域得到了广泛应用。在传统的SINS/GPS组合状态估计中，经典卡尔曼滤波器[3]发挥重要作用，但其要求条件苛刻，主要体现在要求模型的状态方程和量测方程精确、系统噪声和量测噪声的统计模型为零均值的高斯白噪声；但在复杂环境下，噪声的统计信息不可能预见，更不可能是理想的高斯白噪声，因此，许多在仿真条件下表现非常好的系统运用到实际环境中就容易出现精度下降甚至发散现象。而回归BP神经网络具有较强的并行计算能力，容错性好，在神经元数量足够时，逼近非线性函数的程度比较好。本文在经典滤波的基础上引入回归BP神经网络[4]对组合导航系统进行状态估计，尽可能减少非线性噪声对系统的影响；首先利用经典卡尔曼滤波对不同特性的噪声输入下的系统进行估计，得到各条件下的状态后，将各条件下的状态估计均值作为样本输出，以各种噪声集对网络进行训练；在训练结束后，将训练后的回归BP神经网络作为状态估计器输出组合导航系统估计值。
2 回归BP神经网络算法
误差反向传播BP算法是前向网络学习算法中应用最为广泛的算法，回归BP网络是在BP算法中采用的梯度下降法推广到回归网络中，其具有反馈和前馈机制，即在网络的一个训练周期中，网络的输出同时反馈给网络的输入神经单元作为网络的外部输入。如图1所示为一个典型的三层回归BP网络。
图1回归BP网示意图
在图1中有一个关联层，每一个隐含的结点都有一个相应的关联层结点与之连接，并且连线的权值可调，而关联层的信号来自于输出，关联层节点起到了存储网络内部状态的作用，当关联层与中间层连接后，起到了状态反馈的作用，这为组合导航系统这种典型的时间序列信号分析提高了有力的工具，具有“记忆”功能的回归BP网络能够对一阶马尔科夫序列很好的滤波和预报。反馈网络的反馈激励的加入使得局部的记忆特性被放大易造成传统的梯度下降学习方法过早的收敛，本文采用可修正速率的梯度下降学习法，其本质是综合考虑当前和前一时刻的梯度向量，调整其具有适应性，不因为某一时刻的梯度变化而改变网络的收敛状态。算法的基本要求与传统梯度法基本相同，学习的准则是让网络实际输出与样本比较，直至误差平方和达到最小。在算法中加入速率因子，使神经网络权值的更新不仅考虑了当前梯度方向，还考虑了前一时刻的梯度方向，减少网络反馈对阐述调整的敏感性，有效抑制了局部最优；速率因子的取值应当根据网络可能陷入局部最优的程度而定。
3 导航系统的状态表达与组合滤波
根据SINS/GPS组合导航系统得理论，可以得到如下组合误差的状态方程：
F(t)为系统的动态矩阵；G(T)为系统噪声系数矩阵；W(t)为系统噪声。
本文中对系统噪声仍确定为高斯白噪声，这是由于系统噪声的统计特性一般不会剧烈变化，而系统量测噪声的统计特性变换是引起卡尔曼滤波器性能下降的主要因素。系统量测噪声容易受到外界环境的干扰，如温度、电磁场、湿度等等，因此本文主要针对卡尔曼滤波中的量测噪声统计特性变化进行研究。
4 回归BP神经网络对组合导航系统的状态估计
4.1 回归BP神经网络对组合导航系统状态估计模型设计
神经网络的训练是神经网络能够应用的前提。在样本训练中对同一状态量输入X，选取不同的噪声集合，通过卡尔曼滤波器，取得一系列的不同条件下的最优估计,将这些最优估计的状态均值作为神经网络期望样本输出的真实值，构成了不同噪声集合下得输入样本和卡尔曼滤波器得到的输出样本；通过不同噪声集合样本的训练，使得神经网络具有处理各种统计特性噪声的自适应能力。训练结束后，就可以利用普通的无偏卡尔曼滤波器和训练好的神经网络进行状态估计。图2为卡尔曼滤波和神经网络组合的示意图。
图2 卡尔曼滤波与回归BP神经网络组合示意图
在实际的参数选取和设计中，本文采用卡尔曼滤波器的初始估计和SINS/GPS的参数误差作为回归BP神经网络的状态变量。选取参数误差X作为回归BP网络的状态变量。
以上参数依次为：纬度误差、经度误差、高程误差、东向速度误差、北向速度误差、垂直速度误差，三个姿态角误差。将普通卡尔曼滤波器的输出作为初始值。
4.2 仿真实验与分析
1）不进行任何滤波的SINS位置误差曲线
图4 不加滤波器的SINS位置误差曲线 图5 组合滤波后北向位置估计误差曲线
图4是断开卡尔曼滤波器和神经网络的结果。没有GPS和滤波器的辅助，在很短的时间内，单纯的SINS输出就会偏移很多。。。
2）进行组合滤波后的误差曲线
在加入GPS和滤波器后，从图5可以看出，滤波器状态估值与真实值之间的误差变化保持在较高的水准，说明滤波器明显减少了SINS的漂移和积累误差，并且在噪声复杂多变的情况下仍然表现出了平滑过渡的状态。需要说明的是由于GPS的位置精度从长期看是高于SINS的，本文在进行位置估计的时候，出于以SINS为主的思想，给予GPS的权值较小。
图6 组合滤波后滚动角估计误差曲线 图7卡尔曼滤波滚动角估计误差曲线图
从姿态角的误差分析可以看出，滤波器能够很快的收敛。。SINS的姿态误差受到外界条件影响是比较大的，即量测噪声的影响超过系统噪声，从图6中可以看出，在噪声统计特性变化的条件下，误差值仍然很小，说明神经网络系统能够有效地对量测噪声进行滤波。
3）组合误差与普通卡尔曼滤波误差的比较
对单纯卡尔曼滤波系统和组合系统分别输出的姿态角的比较。对实测数据中SINS和GPS原始数据加载入滤波器。误差图进行了部分的放大，如图7所示，从图7中可以明显看出，单纯的卡尔曼滤波系统对复杂噪声的滤波能力远远差于组合系统，表现在数据曲线上就是跳动很明显，也验证了组合系统具有较好的对不同统计特性的复杂噪声的适应能力。
5 结论
本文探讨了采用神经网络系统对导航系统滤波的问题。采用卡尔曼滤波器与回归BP神经网络系统的组合能够有效地提高导航系统在复杂环境下的导航精度，并且能够做到较快的收敛。但是这种方法的缺点在于需要大量的样本输入和需要完善的噪声组合选择，同时也受到计算能力的限制。此外，隐含层层数的选择和结点个数的选择应当如何优化，也是一个需要探索的问题。
参考文献：
[1] 以光衢，惯性导航原理[M]，航空工业出版社，1987
[2] 张守信，GPS卫星测量定位理论与应用[M]，国防科技大学出版社，1996
[3] 张玲，张钹，人工神经网络及其应用[M]，浙江科学技术出版社，1997
[4] 秦永元，卡尔曼滤波与组合导航原理[M]，西北工业大学出版社，1998
[5] Kanckar A J , Fellachi A. State estimation using artificial neural networks[A]. Proceedings of the 1994 IEEE Int.Conf. on Robotics and Automation[C],1994
[6] 周鑫，船用惯导卫星全组合技术[D], 长沙，国防科技大学硕士学位论文，2005
[7] 刘志俭，GPS载波相位差分技术、捷联惯性导航系统初始对准技术及其组合技术研究[D]，长沙，国防科学技术大学博士学位论文，2003.3
