神经网络本质范例6篇

前言:中文期刊网精心挑选了神经网络本质范文供你参考和学习,希望我们的参考范文能激发你的文章创作灵感,欢迎阅读。

神经网络本质

神经网络本质范文1

Abstract: Estimating the manufacturing cost of large-sized and complex-shaped non-standard product is hard. Now the manual estimation methods suffered from a high estimation error. When cost estimates are to be used for bidding purposes, a poor accuracy may have detrimental financial consequences. A cost overestimation bears the risk of making the firm uncompetitive and losing a customer, while underestimating the cost leads to winning a contract but incurring a financial loss. Therefore, a precise cost estimation is critical for project management. In this paper, building the parametric model of artificial neural networks, compare with the artificial neural networks and the manual estimation methods in estimating the manufacturing cost of large-sized and complex-shaped non-standard product. the accuracy is improved.

关键词: 神经网络(ANN);成本估算;非标产品

Key words: artificial neural networks (ANN);cost estimation;non-standard product

中图分类号:TP183 文献标识码:A 文章编号:1006-4311(2014)14-0203-03

0 引言

生产成本评估是工业管理活动中的一个重要问题。通常情况下,成本的计算可被分类为预先计算,中间计算,后计算。前计算涉及估计未来成本,中间计算在产品开发周期内进行了成本控制的目的,而计算后,包括成本核算方法,用来确定实际成本作为未来预算数据。由于产品生命周期成本的很大一部分被定义在设计阶段,因此在新产品开发过程中广泛采用。然而,在这种情况下,通常用来提供合适的成本计算方法必需的数据,只有不完整的或不确定的产品描述的数据[1]。

由于神经网络能以期望的精度逼近任何非线性函数,并且它具有自学习、自组织、自适应、并行处理和容错等功能,因而可以较好的应用于产品生产成本估算。

1 成本估算方法分类

从方法论的角度来看,成本估算,可以分为定性或定量的方法。如图1。

定性的方法依赖于专家判断和经验启发式规则,定量的方法,可进一步分类纳入统计的模型,相似模型或生成分析模型。参数成本模型属于传统的统计方法,统计标准是用来确定因果联系和关联成本和产品特性,以便取得与一个或多个变量的。统计方法可以依靠公式或替代办法连结产品特性,以成本为例,如回归分析或优化方法已被广泛地应用,人工神经网络也被用来统计方法,这要归功于它们有能力进行分类,总结和推断的数据集合。人工神经网络模型接受输入形状描述和语义的产品特性,并作为输出产品的成本。搜索引擎优化也利用人工神经网络和统计相关性在生命周期成本概念设计阶段使用[2]。人工神经网络会表现出更好的线性回归模型。类似的方法,而不是找出一个类似的产品,用成本信息来估计未来成本,调整产品成本之间的差异。类似的模型,从而推断出相似的成本结构,功能或产品功能之间的几何相似。例如,作为一个多维特征空间中的点之间的距离测量。生成的分析方法是最准确的,描绘出实际的产品制造过程中。生产过程的详细分析和分解成单一的制造业务进行,分析特定模型估计每个处理阶段的成本归因于资源消耗的货币价值的技术参数的基础上的特征的操作。自下而上的方法,然后利用适当总在制造过程中所产生的成本,通过各成本项目的总和。一个详细的模型使用的劳动时间和价格的估计,材料、数量和价格的产品或活动,估计直接成本、间接成本。

在每个成本中心的制造时间的估计仍然是一个艰巨的任务,留给成本部门的经验和历史数据的依赖。估计误差是相当重要的,一些历史数据不可用。由于经常发生在工程师对按订单生产的任何产品和过去不同,因为它是由客户的规格和设计的。这种传统的方法是对制造时间的估计[4]。

因此,利用标准时间的方法是相当困难的,在投标阶段,许多需要精确估计到工作中心的数据是没有的,必须从过去的经验中得到,但是,由于是非标产品,极有可能缺乏具体的经验,进一步增加了时间和成本的不确定性。这种不确定性导致以下问题:报价风险,与失去投标报价的可能性。

针对这个问题,下面介绍一种基于人工神经网络的估算方法。

3 ANN成本建模

人工神经网络的信息处理模型的基本计算的数量单元(神经元)相连的的加权连接。人工神经网络对一组训练数据是能够自学习,并进行分类,聚类,函数逼近和控制任务。特别是,神经网络被认为是“普??遍回归工具”能够逼近任意连续函数,利用在成本估算应用。在特定的神经网络非参数估计,这意味着要作出任何假设的形状近似函数训练前。这是一个很大的实用优势,因为它节省了时间和费用成本,专家需要提供适当类型的函数参数成本。

多层感知器网络已被用作此配置提供了最好的结果作为函数逼近,而尝试和错误的过程中已经定义了的详细的神经网络结构。事实上,网络结构可以有显著影响的估算精度。但神经网络理论尚未提供控制变量的最优设置,适用规则和拓扑结构[5]。

人工神经网络的输入包括所有的产品特征变量的值

4 结论

在面对成本估算的问题上,模拟的选择要根据不同的产品或过程,具体的资料和案例。另外,选择还取决于各自的优点,不同方法的局限性和能力。

统计或类似的模型也被称为“'lump-sum”的方法[7],因为他们不考虑生产过程的特点,或不显示详细的成本结构。事实上,这种方法试图建立一个整体的相关性(称为CER,成本估算关系)的总制造成本和成本影响产品特性(即变量之间的相关产品的配置或物理特性,如重量,尺寸等,可作为成本动因)的关系。

统计方法的神经网络的优势是,它们可以有效地推断和概括。数据模型之间的功能关系是隐藏的或不能以多项式的形式表示,不了解变量之间的函数关系。神经网络具有的优点是不需要详细定义了单一的制造过程的阶段和神经网络动态自适应,神经网络的训练集可扩展新的数据成为可用的变化来反映或在制造业务性能的提高和相关资源,得到一个连续的知识获取。

参考文献:

[1]Verna Allee. Reconfiguring the value network[J]. Theory in Action, Jul./Aug., 2000:36-39.

[2]Dorian Selz. Value Webs-Emerging forms of fluid and flexible organizations[D].Dissertation St. Gallen, #2310, Difo-Druck, Bamberg, 1999.

[3]David Bovet and Jaseph Martha. Valuenets-breaking the Supply Chain to Unlock Hidden Profit[M]. New York : John Wiley & Sons, Inc,2000.

[4]黄文权.机械制造产品成本估算方法研究及应用[D].杭州:浙江大学机械工程学系,2003.

[5]焦李成.神经网络系统理论[M].西安:西安电子科技大学出版社,1990.

神经网络本质范文2

【关键词】建筑经济管理;神经网络

中图分类号:TU198文献标识码: A

一、前言

建筑经济管理在我国是一个非常重要的行业,为社会的进步提供了夯实的基础,但是在神经网络的应用这方面还是存在一定的问题,所以,科学技术人员在这个方面还是很努力的研究,并且促使这个技术发展更为全面。

二、神经网络的特征及其信息处理特点

人工神经网络(Application of Neural Network,即:ANN)是一种对人脑中枢神经系统的生物神经结构进行的功能性抽象,在模式识别和分类领域显示了强大的能力,它们以“黑箱”模式工作,不需要先验模型,具有自适应能力,可以从数据中捕捉和学习规律,其计算能力在预测和评估、模式识别和优化等领域得到了广泛验证。神经网络尤其适合解决那些采用传统的数学方法和手段建模困难的复杂问题,并已被证明是解决复杂非线性问题的一种有效工具。

1、神经网络的基本特征

(1)内在并行性。神经网络是一个高度并行的非线性系统,其并行性不仅体现在结构上,它的处理运行过程也是并行的。神经网络从单个处理单元到整个系统,在理论和实践上都反映了并行性,计算是分布在多个处理单元上同时进行的。

(2)分布式存储。与传统计算机不同,神经网络中信息并非存储在一个特定的存储区域,而是分布存储在整个系统中。神经网络的每一个神经元都只是整体概念的一个部分,每一个单元都包含着对整体的贡献,而每一个单元都无法决定整体的状态。

(3)容错性。因为信息是分布存储在整个系统中,而不是驻留在某一个特定的存储区域内,因此,网络中部分神经元的误差不会在很大程度上影响改变整个系统的行为。

(4)学习与自适应性。神经网络的一个重要特点是具有很强的学习能力,它可以通过对数据的监督或非监督学习,实现任意复杂的函数关系,而且整个网络具有自适应性,即进行自我调节的能力。

2、神经网络的信息处理特点

神经网络的基本特征使其在信息处理上具有与传统信息处理技术不同的特点。

(1)数据驱动、“黑箱”建模方式。神经网络通过训练能够直接从数据中发现规则和特征,实现任意复杂的函数映射。这种学习能力使得神经网络分析和建模过程相当于一个“黑箱”,既无需模型结构设计和参数估计过程,而且在没有输入模式先验信息的情况下,通过数据驱动取得优良的结果。

(2)非编程、自适应的工作方式。神经网络的学习是便利而且可塑的,在网络整体结构不变的情况下,只需调整权值即可完成任意关系的学习,通过递进补充训练样本即可跟踪和适应外界环境的不断变化。因此,神经网络的工作方式可以是实时的和自适应的。

(3)信息处理与存储合二为一。神经网络在运行时信息处理与存储同时完成,信息的隐含特征和规则分布于神经元状态和权值之上,通常具有冗余性。这样,当不完全信息或含噪信号输入时,神经网络就可以根据这些分布记忆进行联想以恢复全部信息。同时,这种合二为一的方式从本质上消除了软件和算法的“瓶颈效应,”提供了实现高速信息处理的手段。

(4)实时信息处理。神经网络是一个大规模非线性动力学系统,具有高维、高密度的并行计算结构。大量神经元的微观活动构成了神经网络的整体宏观效应。这种集体运算能力使得神经网络可以完成高维数据的在线实时处理。

三、建筑经济管理研究面临的问题

1、对系统的非线性认识不足

(1)忽视了系统内各变量之间复杂的非线性关系,过分强调先验假设。建筑活动在理论和实践中有明显的非线性和复杂性。建筑经济管理问题的本质上是因为现实的复杂性导致的非线性。建筑活动随时代和环境的变迁表现出其非线性特征。一方面,建筑经济管理问题的线性假没体现了系统特殊性。但另一方面,系统建模时所使用的理论总是落后于现实,这是因为其相关理论发展的滞后性,而这又是由于其非线性和复杂性引起的。

(2)忽视数据本身效用,过分依赖理论指导。模型的函数形式很难仅仅通过理论考虑获得。在实践中选择理论框架既是十分重要又是十分困难的。

2、对系统变量自身特征的认识不足

(1)变量(数据)的高噪声。采集、编制建筑经济管理数据时会有很多误差,再加上诸多外在因素的冲击造成了波动强烈变形,所以数据是包含有许多“奇异点”而且是高噪声。

(2)变量的高度不确定性。目前经济学界对不确定性没有一个统一的定义,一般情况下有2种不确定性的定义。一种定义是变量的不确定性通过随机变量的方差来定义,通常称为概率型不确定性,也可称为“风险”。另一种定义是一种没有稳定概率的随机事件,称为非概率型不确定性。

(3)变量不同程度的模糊性。一定的模糊性是大多数建筑管理问题变量的特点。现实中的不分明现象就是模糊性。而从一种状态过度到另一种有差异的状态的过程中,中间发生了量变到质变的连续过程。总之,常常需要解决建筑管理中的决策、优化等非线性问题,由于它们的一次性、高度动态性和复杂性的特点,建筑管理的信息是随机的,具有非线性和时变性,相应的变量也有不确定性、高噪声和模糊性的特点,因此搜集数据、分析因素等方面有相当大的难度。

四、ANN在建筑工程项目管理中的应用研究

1、ANN在造价预测方面的应用

汪应洛,杨耀红(2004年)总结了ANN在费用估计方面的应用。采用BP网络,用40个公路工程样例训练网络,并用工程实例进行验证,发现效果比传统方法好。Tarek Hegazy(1998年)等用MS-Excel表格进行ANN模拟,并在输入层和隐含层加入了偏置神经元来促进网络学习。其缺点是由于网络学习时的训练样本数据中有噪声,会造成过度学习现象,运用规范化网络可以解决这个问题。周丽萍,胡振锋(2005年)在研究BP神经网络在建筑工程估价中的应用时指出,可以利用神经网络“特征提取器”的作用,从大量过去的工程资料中自动提取工程特征与预算资料的规律关系;由于神经网络具有高度的容错性,因而对于过去的工程资料中由于人为的或其他因素造成的偏差有自动纠偏功能;此外由于神经网络是并行处理数据的,因而其处理速度相当快,这点满足了快速估算要求,实践证明是有效的。

2、ANN在工程项目管理绩效评价中的应用

闫文周(2005年)等运用ANN中的BP网络对工程项目管理绩效评价问题进行研究,建立了一个综合考虑项目工期、质量、费用、安全四大控制指标的工程项目管理绩效评价模型。实例分析表明,其评价结果更加全面、更加符合实际情况,从而有助于促进工程项目管理水平的提高。基于BP神经网络的工程项目管理绩效评估模型,将影响工程项目管理绩效的主要因素进行整合,通过神经网络反映了工程项目工期、质量、成本、安全与项目绩效之间复杂的非线性关系,从而使项目管理绩效的评价更客观。

3、Hop field网络模型在建设工程评标中的应用

建设工程评标是一个多目标决策过程,评标过程中存在着大量的定性和模糊的因素,评标人很难快速做出准确客观的评判。朱玉涛(2006年)等用ANN作为新型信息处理工具,在建设工程评标中可应用于优选中标企业。介绍了Hop field网络模型构造及算法设计,包括进行方案优劣排序、换位矩阵以及能量函数构造、神经元之间连接和输出,并用实例说明了该方法的优越性和实用性。应用Hop field网络对非定量因素进行科学的分析,可以消除一些人为因素的影响,使评选结果更加合理。

4、BP网络模型在建设工程招投标管理中的应用

BP网络以其自学习、自联想功能的优点在建设工程招投标中得到广泛应用。杨中宣(2006年)结合人工神经网络基本理论,介绍了它在工程招投标的招标价格、风险因素分析以及竞标单位资格审查等方面的应用,指出利用人工神经网络具有的高度并行处理和可完成复杂输入输出的非线性映射能力,不仅可以保证高的中标率,且可避免招标过程中不确定性因素的影响。

五、人工神经网络的发展趋势

人工神经网络在建筑管理中的应用与研究,解决了不少该领域中的难题,显现出广阔的应用前景。但是,神经网络作为新兴学科,在理论和实践中,还有很多不完善和不成熟的地方,又在一定程度上制约了它的实际应用。因此在利用人工神经网络解决问题时,需要选定合适的网络模型及网络算法,同时还要加深人工神经网络基础理论方面的研究。

六、结束语

总而言之,就建筑经济管理中神经网络的应用这方面而言,这项技术的发展不仅使建筑经济管理体系更加的完善,更加使人们的生活带来了许多的便利条件,通过科学技术人员的不断努力,会使为社会发展做出巨大的贡献。

参考文献

[1]王其文,刘广灵.人工神经网络与线性回归的比较 决策与决策支持系统,2008(4):22-26.

神经网络本质范文3

关键词:BP神经网络;计算机实验室管理;评价指标分析

中图分类号:TP183 文献标识码:A 文章编号:1674-7712 (2013) 04-0088-01

一、BP神经网络

从本质上讲,BP神经网络算法是以网络误差平方和为目标函数,运用梯度法求目标函数达到最小值的算法。纠错原则是BP算法最为基本的一个原理,将网络输出的误差进行反向传播,运用梯度下降法,对网络的连接权值进行调整和修改,使其误差最小。在学习过程中,BP算法可以划分为两个阶段,一是前向计算,一是误差反向传播。在这里我们主要通过具体的来分析,假设一个两层的 BP神经网络,其输入为p,输入神经元有r个,隐含层内神经元有s1个,激活函数为F1,输出层内有神经元s2个,对应的激活函数为F2,输出为A,目标矢量为T,那么信息在进行正向传递时,具体的情况如下:

二、模型设计

其次是模型设计。BP神经网络的建立,在确定了相关指标体系以后,就需要将确定相关的结点数,如输入结点数、隐含结点数、输出结点数、每一层的结点数等,在起初建立时,需要根据初始网络参数,适当地调整网络结构,通过网络训练,使得整个学习过程更加稳定,与此同时,对于指定的误差进行调整,并且规定最大值,并且利用相关的测试数据来进行BP神经网络的优化处理,确定其达到设计的准确性与规范性,那么一个BP神经网络模型就建立起来了。第三是模型确立。对于模型的确立主要体现在三个方面,这里作简单分析,一是输入输出神经元个数确立,通常情况下,实验室管理指标主要有13个二级指标和4个一级指标,其中,这13个指标就是输入神经元的个数,同时将输出的神经元作业评价的结果,由于评价的结果只有一个,那么输出神经元的个数也只有1个。二是隐含神经元个数确立。

三、仿真分析

根据以上分析我们知道,BP神经网络算法是以网络误差平方和为目标函数,运用梯度法求目标函数达到最小值的算法。为此,对于仿真分析,需要根据纠错原则,确定网络输出的误差的反向传播,并且结合梯度下降法,优化网络的连接权值,调整和修改误差值,通过Matlab软件编程,构造BP神经网络,确定指标体系后,确定相关的结点数,设置权值,nntool中input的value设置,根据初始网络参数,调整网络结构,并指定的误差进行调整,利用相关的测试数据来进行BP神经网络的优化处理,确定其达到设计的准确性与规范性。

四、总结

总而言之,BP神经网络评价模型的建立,不仅可以促进实验室管理的规范化,而且有利于提高实验室日常管理水平,因此,要对其模型建立进行具体分析,优化其结构和和功能,最大限度发挥其价值和作用。

参考文献:

[1]李俊青,陈鹤年,严丽丽,季文天.基于BP神经网络的计算机实验室管理评价指标[J].实验室研究与探索,2011(04):71-73.

神经网络本质范文4

人工神经网络是由大量的简单基本元件-神经元相互联接而成的自适应非线性动态系统。每个神经元的结构和功能比较简单,但大量神经元组合产生的系统行为却非常复杂。人工神经网络的基本结构模仿人脑,反映了人脑功能的若干基本特性,能够自身适应环境、总结规律、完成某种运算、识别或过程控制。人工神经网络具有并行处理特征,可以大大提高工作速度。

人工神经网络的特点和优越性,主要表现在三个方面:

第一,具有自学习功能。

第二,具有联想存储功能。

第三,具有高速寻找优化解的能力。

1 神经网络的学习方法

神经网络的学习也称为训练,指的是神经网络在外界环境的刺激作用下调整网络自由参数,并以新的方式来响应外部环境的过程。能够从环境中学习并在学习中提高自身性能是神经网络最有意义的性质。理想情况下,神经网络在每一次重复学习后,对它的环境有了更多的了解。

(1) 监督学习(有教师学习)

在学习时需要由教师提供期望输出,通常神经网络对于周围的环境未知而教师具有周围环境的知识,输入学习样本,教师可以根据自身的知识为训练样本提供最佳逼近结果,神经网络的自由参数在误差信号的影响下进行调整,其最终目的是让神经网络模拟教师。

(2) 非监督学习(无教师学习)

它也称为自组织学习,系统在学习过程中,没有外部教师信号,而是提供给一个关于网络学习性质的度量,它独立于学习任务,以此尺度来逐步优化网络,一旦网络与输入数据的统计规律达成一致,那么它将发展形成用于输入数据编码特征的内部表示能力,从而自动创造新的类别。

(3)强化学习(激励学习)

在强化学习系统中,对输入输出映射的学习是通过与外部环境的不断交互作用来完成学习,目的是网络标量函数值最小,即外部环境对系统输出结果只给出评价信息(奖或罚)而不是给出正确答案,学习通过强化那些受奖的动作来改善自身性能。

神经网络针对学习问题修改网络自由参数的过程称为学习规则(学习算法),设计学习规则的目的是训练网络来完成某些任务,没有一个独特的学习规则可以完成所有的学习任务。神经网络有5个基本的学习规则:误差--修正学习,基于记忆的学习,Hebb学习,竞争学习,随机学习。

2 神经网络的研究趋势

(1) 利用神经生理与认知科学研究大脑思维模式及智能机理过程

深入研究神经网络理论神经网络在一定程度上揭示人类智能和了解人脑的工作方式,由于人类对神经系统的了解非常有限,而且对其自身脑结构及其活动机理的认识不完善,故而神经网络只能是模仿人脑的局部功能,而对人脑作为一个整体的功能解释,神经网络起不到任何作用。神经科学,心理学和认识科学等方面提出的一些重大问题,是向神经网络理论研究提出的新挑战,这些问题的解决有助于完善和发展神经网络理论,因此利用神经生理和认知科学研究大脑思维及智能机理,如有新的突破将会改变智能和机器关系的认识。

(2) 神经网络领域的数学研究趋于重要

随着神经科学基础理论研究的深入,用数理方程探索智能水平更高网络模型将是研究的趋势所在,神经元以电为主的生物过程在认识上一般采用非线性动力学模型,其动力演变过程往往是非常复杂的,神经网络这种强的生物学特征和数学性质,要求有更好的数学手段,而对于神经网络这样非线性模型,需要用数学方法研究网络新的算法和网络性能,如稳定性、收敛、容错性、鲁棒性等,开发新的网络数理理论,如神经动力学、非线性神经场等。研究人员断言一种更简洁、更完善和更有效的非线性系统表达与分析的数学方法是这一领域主要目标之一。

(3) 神经网络软件模拟、硬件实现的研究以及神经网络在各个科学技术领域应用的研究

目前,数字计算机在计算方面的能力已远远超出入的大脑,但在自然语言理解、图像辨识、信息处理等方面都显得笨拙,原因是基于冯・偌依曼思想的计算机结构及其运算方式与人的大脑有本质的区别,而神经计算机(第六代计算机)以神经网络为理论基础,用于模拟神经网络,具有自学习、自组织和自适应能力,能更有效地处理复杂问题,其实现过程用光学、生物芯片的方式,现在光学神经计算机和分子计算机的研究是神经网络的前沿课题。

(4) 神经网络和其它算法结合的研究

神经网络和其它算法的结合和交叉,研究新型神经网络模型也是发展方向之一。如神经网络和模糊逻辑结合,建立模糊神经网络;将混沌理论和神经网络结合建立混沌神经网络;将遗传算法和神经网络结合;利用遗传算法优化神经网络的结构或权值;将小波分析和神经网络结合建立小波神经网络;专家系统,贝叶斯学习以及粗糙集理论和神经网络结合等,这些都是神经网络研究的热点。

3 结束语

神经网络虽已在许多领域应用中取得了广泛的成功,但其发展还不十分成熟,还有一些问题需进一步研究。比如:神经计算的基础理论框架以及生理层面的研究仍需深入;新的模型和结构的研究;神经网络的可理解性问题;神经网络技术与其他技术更好的结合等。

神经网络本质范文5

关键词:宏观经济;预测模型;BP神经网络;非线性

中图分类号:TP183;F015 文献标识码:A

文章编号:1006-4311(2009)11-0088-03

0引言

利用经济指标的准确预测是国家对宏观经济正确调控的必要前提。但经济系统,特别宏观经济系统是非常复杂的系统,广泛存在着非线性、时变性和不确定作用关系;而在计量经济学理论基础上建立的各种宏观经济模型,大都是线性模型,很难把握宏观经济系统中的非线性现象,必然导致经济预测的误差加大。学者们因此对各种线性模型做了不少改进,如建立分段线性模型、参数时变线性模型等,但结果并不理想。于是人们寻求一些非线性工具进行宏观经济建模。而神经网络具有并行计算、分布式信息存储容错能力强、自适应学习功能等优点,在处理复杂的人工智能和非线性问题上显示了优越性。

1基于BP神经网络的预测模型

BP(Back-Propagation)神经网络结构是前向的多层网络,含有输入层节点、输出层节点和一层或多层的隐层节点,同层的各神经元之间互不连接,相邻层的神经元则通过权值连接。当有信息输入BP神经网络时,信息首先由输入层节点传递到第一层的隐层节点,经过特征函数(人工神经元)作用之后,再传至下一隐层,这样一层一层传递下去,直到最终传至输出层进行输出。其间各层的激发函数要求是可微的,一般是选用S型函数。最基本的BP神经网络包括输入层,隐层,输出层这三层节点的前馈网络,其结构如图1所示。

BP神经网络使用一组样例对网络连接权值进行学习训练,每个样例都包括输入及期望的输出。在正向传播过程中,首先将训练样例的信息输入到网络中,输入信息从输入层经隐层节点逐层计算处理后,传至输出层。在计算处理过程中,每一层神经元的状态只影响下一层神经元的状态,如果在输出层得到的结果不是所期望的输出,那么就转为反向传播。反向传播把误差信号沿原连接路径返回,并按照一定原则对各层神经元连接权值进行适当修改,直至第一个隐层;这时再开始进行正向传播,利用刚才的输入信息进行正向网络计算。如果网络输出达到了误差要求,则学习过程结束;如果达不到误差要求,则再进行反向传播的连接权值调整。这一过程不断往复,直到网络正向计算输出结果达到误差要求为止,学习就告结束。网络训练结束后,在用于求解实际问题时就只须使用正向传播。

2具体应用

2.1 样本获取

神经网络建模关键之一是网络训练样本的选取。在模式识别征抽取是一个重要环节,抽取稳定且有效的特征是识别系统成功的关键。神经网络建模也就是对系统进行模式识别,神经网络中的特征抽取也就是样本的选取,包含原始数据收集、数据分析、变量选择及数据预处理;只有经过这些步骤后,才能对神经网络进行有效的学习训练。训练样本质量直接影响网络应用效果,应根据实际情况选取合适的能表达对象全面特征的样本,好的训练样本能提高网络学习速度和效果,并提高网络泛化能力。建立本预测模型时选取样本,首先是建模必须建立在一个基本固定的环境下; 其次是样本选取应涵盖系统特征的信息,要能够包含在控制中的输入输出特征,能给神经网络提供较为全面的边界信息。本模型旨在对西安市14个指标2008年的数值进行预测:GDP、全社会固定资产投资、居民消费价格指数、零售总额、工业增加值、财政收入、财政预算、可支配收入、农民人均纯收入、城镇新增就业人数、进出口总额、出口、外商直接投资、工业出厂价格指数。在排除各年可能发生异常情况下,用各指标前几年数据预测紧接着下一年的各指标数据。

2.2 神经网络模型结构

神经网络本质范文6

关键词:汽车尾气;自组织特征映射(SOM);竞争学习;聚类分析

中图分类号:U467.5+21文献标文献标识码:A文献标DOI:10.3969/j.issn.2095-1469.2013.05.06

持续增长的汽车保有量给城市发展带来各种形式的环境压力,特别是其尾气排放所引起的空气污染问题[1]。大量文献指出汽车尾气会给人类健康造成许多负面影响,并且随着暴露在这些污染物中的人群数量的增加,这些负面影响在城市中日益加剧[2-3],

于是针对汽车尾气更严格的排放标准[4]得以实施。为满足这一新标准,学术界和工程界的专家学者提出许多方法和技术以降低汽车尾气中有害气体的排放量[5-6]。然而,极少有研究从“大数据”的角度[7]关注汽车尾气的污染评估模型。事实上,职能监管部门更关心的是在真实行驶条件下对汽车尾气排放的大数据进行分析,借此评估汽车尾气对城市环境的影响程度,进而为新标准的有效执行提供决策依据。

由于燃料在发动机中的物理化学反应极其复杂,加之车辆驾驶方式因人而异,以及车辆行驶环境的多样性,导致汽车排放的尾气具有复杂的非线性、时变性和随机性等特征,从而使基于发动机中物化反应原理的汽车尾气排放模型无法满足对排放水平高可靠分析的需要。作为一种非线性数据分析工具,神经网络广泛应用于数据分析的各个领域[8]。事实上,通过分析汽车尾气数据以实现对排放水平的评估,本质上可看成是一个数据聚类问题。众所周知,自组织映射神经网络(Self-Organizing Map Network,SOM NN)在数据的聚类、分类问题中得到广泛关注,并取得良好的应用效果[9-10]。然而,SOM网络所采用的固定邻域半径的学习方式容易造成训练“死区”,使某些神经元无法得到合适的训练,进而影响数据聚类、分类的准确性[11-12]。

针对上述问题,本文提出一种在自组织特征映射下的汽车尾气排放水平评估方法。该方法将汽车尾气按不同的城区行驶速度划分为不同的排放种类,每种行驶速度对应着一种排放水平,通过SOM神经网络的拓扑有序映射将高维的排放数据映射到一个二维的特征空间,以描述汽车在真实条件下不同速度的排放水平。为提高数据聚类的准确性,在SOM神经网络采用的固定邻域半径的基础上,通过引入权值与输入向量之间的夹角来定义一种新的弹性邻域半径。该弹性邻域半径可自适应地缩放竞争层神经元的学习区域,避免这些神经元因权值在初始化过程中离输入向量太远而进入训练死区。

1 具有弹性邻域半径的SOM神经网络

由于SOM神经网络中邻域半径的更新过程采用固定的缩放方式,使网络训练容易形成训练死区,为了提高对汽车排放数据聚类的准确性,本文提出一种具有弹性邻域半径的SOM神经网络。该网络的拓扑结构与Kohonen提出的SOM网络相同,只是在竞争学习过程中采用弹性邻域半径来缩放学习区域。

1.1 SOM神经网络的拓扑结构

荷兰学者Kohonen提出的自组织特征映射,本质上属于一种无监督竞争学习的动态映射方式[13-15]。由此产生的SOM神经网络中,一次仅有一个神经元被“激活”。图1给出了这种网络常用的拓扑结构(从一维的输入到二维的映射输出),其基本思想是:来源于原始事件空间中的输入信号被由自适应单元所构成的简单网络接受,输入信号以某种表示方式被自动映射为一系列输出响应,这种输出响应保持了与原始事件相同的拓扑排序的方式。因此,SOM神经网络能自动形成对事件属性的正确拓扑映射。换言之,SOM神经网络能以拓扑有序的方式,将任意维数的输入模式变换成一维或二维的特征映射[16-17]。

值得指出的是,在图1所示的结构中,即使输出神经元之间没有侧向连接,但与输入具有最佳匹配的神经元(即获胜神经元)邻域内的其它神经元被更新,使这个邻域内的神经元与其以前所处的状态相比,更像获胜神经元那样响应。网络中的神经元并不是以相互独立的方式,而是以拓扑相关的方式进行学习。这种学习方式对于形成有序映射来说是至关重要的。

1.2 改进的竞争学习算法

SOM神经网络的竞争学习算法可通过下述推导加以描述。图1中的SOM神经网络的输入可写成向量形式。

二维阵列中的神经元i的突触权值向量由下式给出。

式中,m是二维阵列中的输出神经元总数。在Kohonen的竞争学习算法中,输入向量x与突触权值向量wi的最佳匹配由下式确定。

这里的q(x)表示输出神经元阵列的索引,特别指定为获胜神经元,是欧几里德范数,也是获胜神经元所在的邻域半径。然而,这种固定邻域半径容易形成训练死区,使某些神经元因初始权值向量离输入向量太远以至于它从未在竞争中获胜,即从未参与竞争学习而形成毫无用处的死神经元。为此,本文提出一种弹性邻域半径ri(k),并将其定义为

式中,表示Kohonen的竞争学习中的固定半径,而是输

入向量与竞争层神经元权值之间的相似系数。当输入向量与权值相似较大时,会放大邻域半径,扩大竞争学习区域;当相似较小时,会缩小邻域半径,使竞争层神经元尽快进入学习区域。

那么,输入向量x与突触权值向量wi的最佳匹配可以定义为

式中,。竞争学习算法的下一步是更新与获胜神经元相联系的突触权值向量和获胜神经元的确定邻域内的神经元的突触权值向量。相应的学习规则可表示为

式中,学习率参数0

2 数值试验

为验证本文所提方法的有效性,本节选取一种轻型车在真实行驶条件下的不同批次排放测试数据为对象开展数值试验。通过SOM神经网络的拓扑有序映射,将排放数据按照不同速度的行驶模式聚类,每种行驶模式所得到的数据种类便代表了一种排放水平。

2.1 数据介绍

数值试验所使用的排放数据来源于一种轻型车按国家标准GB 18352.3―2005进行的测试。根据该标准,从同种类型的轻型车抽样出若干样本,驾驶这些抽样的轻型车分别在城市和郊区环境中按照指定速度行驶,最终获取该类汽车在相同行驶条件下不同车次的排放数据。图2给出了汽车尾气排放数据采集过程。其中,城区环境分为4个循环单元,每个单元的速度设置相同,并都采集195个数据样本;而郊区环境仅采集400个数据样本,整个数据长度为1 180个样本点。在同一辆车的1 180个数据样本中,所测试的排放气体包括以下几种类型:COL(g/100 km)、NOx(g/100 km)、THC(g/100 km)和CO2(g/100 km)。

需要指出的是,上述指标的排放数据并未全部在本文中使用。事实上,通过分析数据的组合分布,最终选择的排放指标为THC(g/100 km)和CO2(g/100 km)。此外,由于城区的污染较为严重,因此本文关注车辆在城区环境的排放情况,而车辆在郊区的排放数据不予考虑。图3给出了数值试验中所采用的THC和CO2数据样本。

图3中的所有数据均为同种轻型车的5辆车在相同的真实条件下进行1次测试得到的排放数据。这些数据在归一化之后,将被提交给SOM神经网络以完成网络的训练。

2.2 网络训练

根据图3所示的数据采样过程,这类轻型车的排放情况按照市区运转循环单元中的速度条件可分为12类。因此,SOM神经网络的神经元个数设置为12,每个神经元的输出代表一种排放水平。训练过程可按如下步骤完成。

(1)将输入的排放数据样本归一化到[-1,1]之间,并随机初始化网络的权值,设置学习率参数为1,邻域初值为1。

(2)指定500次的学习次数为停止条件,检查停止条件,如果失败,则继续,如果成功,则退出。

(3)对于每个训练样本,执行(4)~(7)步。

(4)按照式(5)计算与输入向量匹配最好的权值向量。

(5)按照式(6)更新计算权值向量。

(6)调整学习率参数。

(7)适当缩减拓扑邻域Nq(k)。

(8)设置kk+1,然后转到步骤(2)。

需要说明的是,为使本文的方法更具说服力,采用固定邻域半径的SOM神经网络在相同数据集的基础上,除输入向量最佳匹配按式(4)计算外,同样按照上述步骤完成数值试验。基于固定邻域半径和弹性邻域半径的SOM神经网络的训练结果由图4给出。

图4中的数据类别与汽车尾气排放水平一一对应,只要确定排放数据的种类便能确定其相应的排放水平。从图4所示的训练结果来看,采用固定邻域半径的SOM神经网络在排放数据的聚类中明显出现数据类别(排放水平)的混叠现象。例如,图4(b)中具有排放水平4~6的尾气数据聚类中出现不同程度的混叠。其中,数据种类5与数据种类6的混叠较为严重,导致部分具有排放水平5和排放水平6的数据区分出现错误。因此,相比于图4(a)所示的采用弹性邻域半径学习的聚类效果而言,图4(b)中所示的采用固定邻域半径学习的SOM神经网络较差。

为进一步分析两种学习方式的训练结果,带有距离分布的竞争层神经元拓扑结构由图5给出。

图5中的蓝色六角形代表神经元,红线为各神经元之间的连接线,而包含红线的菱形表示各神经元之间距离的远近,从黄色到黑色,随着颜色加深距离越近。图中神经元编号从左下角开始(0,0)为1号神经元,右下角(0,3)为4号神经元,第2行第4列(1,3.5)为5号神经元,依次类推,左上角(0,1.75)为12号神经元。从图5(a)所示的拓扑结构可看出,在采用弹性邻域半径的SOM神经网络中,竞争层的各个神经元彼此隔离,距离较远,各个数据类别能较好地分开。而图5(b)所示的采用固定邻域半径的SOM神经网络中,4~5与5~6号神经元的距离较近,导致排放数据所对应的类别相互纠缠。这也正是图4中混叠现象出现的原因。

2.3 网络测试

完成SOM神经网络的训练后,选取第1辆车和第2辆车在相同条件下的另一次排放测试数据分别提交给采用弹性邻域半径和固定邻域半径的SOM神经网络。图6给出了两种学习方式下的聚类结果。

从图6(a)与图6(b)的对比结果来看,采用固定邻域半径的SOM神经网络聚类效果低于采用弹性邻域半径的SOM神经网络。图6(b)清晰地显示出排放水平5和排放水平6存在着混叠,也就是说原本属于排放水平5的数据被错误地划分到排放水平6中。类似的,具有排放水平4的数据也被错误地划分到排放水平5中。这与网络的训练结果相吻合。值得注意的是,在测试中,排放水平2与排放水平3也出现了混叠,这是由于网络的泛化性能不足造成的。解决该问题的一个有效途径是增加训练回合数,但这会增加时间的消耗。从这一点来说,采用弹性邻域半径的SOM神经网络在与采用固定邻域半径的SOM神经网络保持相同聚类准确度的条件下,前者需要的训练回合数更少。表1给出了在数值试验中,两种学习方式进行排放数据聚类的总体比较情形。

从表1看出,在网络设置相同的前提下,采用弹性邻域半径学习的SOM神经网络在网络训练与测试的过程中,对排放数据的聚类效果都要优于采用固定邻域半径学习的SOM神经网络网络。在网络测试过程中的数据样本总数为3 900个,在网络测试过程中的数据样本为1 560个。其中,采用弹性邻域半径的学习方式下,网络训练过程中聚类正确的样本个数为3 587,测试过程中聚类正确的样本个数为1 410;采用固定邻域半径学习方式下,网络训练过程中聚类的样本个数为3 452,测试过程中聚类正确的样本个数为1 348。因此,在训练过程中,采用弹性邻域半径和固定邻域半径的网络训练过程中的聚类正确率分别为91.97%和88.51%,而测试过程中的聚类正确率分别为90.38%和86.41%。

3 结论

本文提出了一种基于SOM神经网络的汽车尾气排放水平的评估方法,其主要贡献在于通过引入相关系数来设计弹性邻域半径,进而自适应地更新竞争层神经元的学习邻域,避免这些神经元陷入训练死区,以提高对汽车排放数据聚类的准确性。在数值试验中,根据汽车在城区行驶的不同速度将排放数据分为不同的类,每个数据类代表一种排放水平。通过与采用固定邻域半径的SOM神经网络的对比,以某轻型车排放数据为对象的数值试验结果表明,采用弹性邻域半径的SOM神经网络对于汽车尾气排放水平的评估具有较高的准确性。

参考文献(References)

PANDIAN S,GOKHALE S,GHOSHAL A K. Evaluating Effects of Traffic and Vehicle Characteristics on Vehicular Emissions Near Traffic Intersections[J]. Transportation Research Part D,2009(14):180-196.

POPE C A,DOCKERY D W. Health Effects of Fine Par-ticulate Air Pollution:Lines That Connect[J]. Journal of Air and Waste Management Association,2006(56):709-742.

MEISTER K,JOHANSSON C,FORSBERG B. Estimated Short-Term Effects of Coarse Particles on Daily Mortality in Stockholm,Sweden[J]. Environmental Health Perspectives,2011(120):431-436.

GB 18352.3―2005. 轻型汽车污染物排放限值及测量方法[S]. 北京:中国标准出版社,2005.

GB 18352.3―2005. Limits and Measurement Methods for Emissions from Light-Duty Vehicles(Ⅲ,Ⅳ)[S]. Beijing:

China Standard Press,2005. (in Chinese)

ZAMBONI G,CARRARO C,CAPOBIANCO M. On-road Instantaneous Speed Measurements on Powered Two-Wheelers for Exhaust Emissions and Fuel Consumption Evaluation[J]. Energy,2011(36):1039-1047.

WEILENMANN M F,SOLTIC P,HAUSBERGER S. The Cold Start Emissions of light-Duty-Vehicle Fleets: a Simplified Physics-Based Model for the Estimation of CO2 and Pollutants[J]. Science of the Total Environment, 2013(444):161-176.

VIKTOR M, KENNETH C.大数据时代:生活、工作与思维的大变革[M]. 盛杨燕,周涛,译.杭州:浙江人民出版社,2012.

VIKTOR M,KENNETH C. A Revolution That Will Transform How We Live,Work,and Think[M]. Sheng Yangyan,Zhou Tao,Translate. Hnagzhou:Zhejiang People's Publishing House,2012.(in Chinese)

HYV?RINEN A,OJA E. Independent Component Analy-sis:Algorithms and Applications[J]. Neural Networks,2000,13 (4-5):411- 430.

GHASEMINEZHAD M H, KARAMI A. A Novel Self-Organizing Map(SOM) Neural Network for Discrete Groups of Data Clustering[J]. Applied Soft Computing, 2011,11(4):3771-3778.

HSU K C,LI S T. Clustering Spatial Temporal Precipi-tation Data Using Wavelet Transform and Self-Organizing Map Neural Network[J]. Advances in Water Resources,2010,33(2):190-200.

MAY R J,MAIER H R,DANDY G C. Data Splitting for Artificial Neural Networks Using SOM-Based Stratified Sampling[J]. Neural Networks,2010,23(2):283-294.

JIANG X,LIU K,YAN J,et al. Application of Improved SOM Neural Network in Anomaly Detection[J]. Physics Procedia,2012(33):1093-1099.

KOHONEN T. Self-Organized Formation of Topologically Correct Feature Maps[J]. Biological Cybernetics,1982, 43(1):59-69.

KOHONEN T. The Self-organized Map[J]. IEEE Procee-dings,1990(78):1464-1480.

KOHONEN T. Self-organization and Associative Memory

(3rd ed.)[M]. Berlin:Springer Verlag,1989.

华.量子计算在动态递归与自组织神经网络中的机理及应用研究[D].重庆:重庆大学,2012.

Li Penghua.Study on the Mechanism for Dynamic Recur-sive & Self-Organizing Neural Networks Using Quantum Computing and Its Application[D]. Chongqing:Chongqing University,2012. (in Chinese)