神经网络算法的优点范例6篇

前言:中文期刊网精心挑选了神经网络算法的优点范文供你参考和学习,希望我们的参考范文能激发你的文章创作灵感,欢迎阅读。

神经网络算法的优点

神经网络算法的优点范文1

 

目前国内外常用的信息安全风险评价模型主要由层次分析法(AHP)、基于概率统计的ALE算法,模糊综合评价法等,也取得了一定的研究成果。但上述算法的基本思想是基于线性映射和概率密度分布的,即各风险指标与最终评价结果之间存在着线性关系[2]。然而,这种关系的存在是否科学至今也没有得到准确的答复,同时这些方法在实施时虽然给出了定量计算的算法,但操作较为繁琐,难以达到快速识别的要求。目前应用较广泛的BP神经网络评价算法存在着网络参数难确定、收敛速度较慢且易陷入极小值等问题。为了解决上述问题,本文应用鱼群算法对BP神经网络进行了改进,结合信息安全评价实例进行了测试,并将测试数据与标准BP神经网络进行了比较与分析,取得了理想的结果。

 

一、信息安全的概念

 

所谓的信息安全评估指的是通过分析信息系统所包含的资产总值、识别系统本身的防御机制以及所受到的危险性系数,利用数学模型综合判断出系统当前的风险值。信息安全风险评估主要包括三方面的内容,分别是资产总值识别、外部威胁识别以及脆弱性识别。资产总值识别是为了识别出系统所涉及的资产总值,外部威胁识别指的是识别当前状态下系统受攻击或威胁的程度,而脆弱性识别指的是系统自身的脆弱性程度。其中综合考虑外部威胁以及内部脆弱性可以得出发生风险事件的危害性,而自然总值识别再加上脆弱性识别就可以得到系统的易损性,基于上述过程可以得到信息安全系统的风险值。

 

二、基本BP神经网络算法

 

BP神经网络算法是一种采用误差反向传播的多层前馈感知器。其特点是具有分布式的信息存储方式,能进行大规模并行处理,并具有较强的自学习及自适应能力。BP网络由输入层(感知单元)、计算层(隐藏层)、输出层三部分组成。输入层神经元首先将输入信息向前传递至隐含层节点,经过激活函数预处理后,隐层节点再将输出信息传送至输出层得到结果输出。输入层与输出层节点的个数取决于输入、输出向量的维数,隐含层节点个数目前并没有统一的标准进行参考,需通过反复试错来确定。根据Kolmogorov定理,具有一个隐层的三层BP神经网络能在闭集上以任意精度逼近任意非线性连续函数,所以本文选择单隐层的BP神经网络。

 

三、人工鱼群算法

 

3.1基本原理

 

通过对鱼类觅食的观察可知,鱼类一般能自行或者尾随其他同伴找到食物数量相对充足的地方。因此,一般鱼类数量较多的地区即为食物相对充足的区域。人工鱼群算法是指通过长期对鱼类觅食行为的观察,构造人工鱼来模拟鱼类的觅食、群聚、尾随以及随机行为,从而完成全局最优值的寻找。算法所包含的基本过程如下:

 

觅食行为:鱼类会利用视觉或嗅觉来感知水中食物浓度的高低,以此来选择觅食的路线。

 

聚群行为:鱼类一般会以群体形式进行觅食,以此来躲避天敌的伤害并以最大概率获得准确的觅食路线。

 

尾随行为:当群体中的某条鱼或几条鱼寻找到食物后,其附近的其他同伴会立刻尾随而来,其他更远处的鱼也会相继游过来。

 

随机行为:鱼在水中的活动是不受外界支配的,基本上处于随机状态,这种随机性有利于鱼类更大范围的寻找食物及同伴。

 

3.2 鱼群算法优化BP神经网络的原理

 

BP神经网络在求解最优化问题时容易陷入局部极值,并且网络的收敛速度较慢。鱼群算法通过设定人工鱼个体,模拟鱼群在水中的觅食、尾随和群聚行为,通过个体的局部寻优,最终实

 

现全局寻优。人工鱼在不断感知周围环境状况及

 

同伴状态后,集结在几个局部最优点处,而值较大的最优点附近一般会汇集较多的人工鱼,这有

 

助于判断并实现全局最优值的获取。因此用人工鱼群算法来优化BP神经网络是一种合理的尝试。

 

3.3 具体工作步骤

 

人工鱼群算法用于优化神经网络时的具体步骤如下:

 

①设定BP神经网络结构,确定隐层节点数目;

 

②设定人工鱼参数,主要包括个体间距离、有效视线范围以及移动步长等;

 

③人工鱼进行觅食、群聚及尾随行为来优化BP神经网络;

 

④通过设定的状态参量,判断是否达到目标精度;

 

⑤若达到精度要求则输出网络优化权值,并执行网络循环,否则继续改化参数进行优化;

 

⑥输出最终优化参数并进行计算机网络安全评价。

 

四、仿真实验

 

将信息安全风险评估常用的3项评价指标的分值作为BP神经网络的输入,网络的期望输出只有一项,即安全综合评价分值。目前用于信息安全风险评价的数据还很少,本文采用文献[3]所列的15组典型信息安全单项指标评价数据,其中1-10项作为训练,11-15项用于仿真。通过实际实验分析,本文将权值调整参数α=0.1,阈值调整参数β=0.1,隐层神经元数目为6,学习精度ε=0.0001。网络经过2000次训练,收敛于所要求的误差,人工鱼群算法的相关参数: 种群大小为39;可视域为0.8;最大移动步长为0.6;拥挤度因子为3.782。然后对检验样本及专家评价样本进行仿真,结果如表1所示。可以看出,鱼群神经网络得到的仿真结果与期望值之间的平均误差为0.001,而标准BP神经网络为0.0052,所以鱼群神经网络的得到的仿真精度较高,取得了理想的实验结果。

 

五、结论

 

本文将鱼群算法和神经网络结合起来对信息安全评价进行了研究,得到了如下几个结论:

 

(1) 基于鱼群算法优化后的BP神经网络具有收敛速度快、拟合精度高等优点,克服了标准BP神经网络收敛速度慢、容易陷入局部极小值的缺点。同时,优化算法编码过程简单,并具有较强的鲁棒性。

 

(2) 本文采用的实验数据仅有15个,基于鱼群算法优化后的BP神经网络精度有明显提高,避免了由于样本数量少造成的拟合精度低等缺点。

 

(3) 通过将标准BP神经网络算法与鱼群神经网络算法进行对比发现,后者的收敛速度明显加快并且自组织能力也有一定提高,在实际的工程建设中可以将其代替传统的BP神经网络算法来进行信息安全的风险评估。

神经网络算法的优点范文2

关键词:模糊控制;人工神经网络;人脸识别

中图分类号:TP18 文献标识码:A文章编号:1009-3044(2011)16-3904-03

随着人工智能技术的飞速发展,机器视觉已经成为当前人工智能研究领域的一大热点,很多国家的研究人员都开展了对机器视觉的研究,其中以机器视觉识别人脸最为困难,这主要是因为人的面部带有表情,不同的人具有不同的脸,而不同的脸具有不同的表情,不同的表情则具有不同的面部特征,如何让计算机通过机器视觉高效率的识别人脸,成为当前机器视觉和智能机器人关键技术领域的技术难题。

随着模糊逻辑控制算法和人工神经网络算法的发展,对于机器视觉识别人脸特征的算法也有了新的发展,目前多数研究算法所采用的人脸识别从实现技术上来说,主要可以分为以下几个类别:

1) 基于人脸几何特征进行的识别算法,该算法运算量较小,原理简单直观,但是识别率较低,适合应用于人群面部的分类,而不适宜于每一个人脸的识别。

2) 基于人脸特征的匹配识别算法,这种算法是预先构建常见的人脸特征以及人脸模板,构成人脸特征库,将被识别的人脸与特征库中的人脸进行逐一比对,从而实现人脸识别,该算法识别效率较高,但是应用有一定局限性,只能够识别预先设立的人脸特征库中的人脸模型,因此人脸特征库就成为该算法实现的技术关键。

3) 基于统计的人脸识别算法,该算法将人脸面部进行特征参数的划分,如两眼距离大小,五官之间距离等,通过构建统计特征参数模型实现对人脸模型的识别,该算法识别率较高,但是算法实现起来运算量比较大,且识别效率较低。

4) 基于模糊逻辑的人脸识别算法,这一类算法主要结合了模糊逻辑和神经网络能够自我训练学习的机制实现对人脸的识别,识别率较高,且算法运算量适中,但是算法的原理较难理解,且模糊逻辑控制规则的建立存在一定技术难度。

本论文主要结合模糊人工神经网络方法,将其应用于计算机人脸识别,以期从中能够找到有效可靠的人脸识别方法及其算法应用,并以此和广大同行分享。

1 模糊逻辑及人工神经网络在图像辨识中的应用可行性分析

1) 人脸识别的技术难点

由于计算机只能够认识0和1,任何数据,包括图像,都必须要转化为0和1才能够被计算机识别,这样就带来一个很复杂很棘手的问题:如何将成千上万的带有不同表情的人脸转变为数字信号并被计算机识别。由于人的面部带有表情,不同的人具有不同的脸,而不同的脸具有不同的表情,不同的表情则具有不同的面部特征,因此这些都成为了计算机识别人脸特征的技术难点,具体来说,人脸实现计算机识别的主要技术难度包括:

① 人脸表情:人有喜怒哀乐等不同表情,不同的表情具有不同的面部特征,因此如何分辨出不同表情下的人脸特征,这是首要的技术难点;

② 光线阴影的变换:由于人脸在不同光线照射下会产生阴影,而阴影敏感程度的不一也会增加计算机识别人脸特征的难度;

③ 其他因素:如人随着年龄的增长面部特征会发生些微变化,人脸部分因为装饰或者帽饰遮挡而增加识别难度,以及人脸侧面不同姿态也会对计算机识别带来技术难度。

2) 模糊人工神经网络在人脸辨识中的应用可行性

如上分析所示,计算机识别人脸,需要考虑的因素太多,并且每一种因素都不是线性化处理那么简单,为此,必须要引入新的处理技术及方法,实现计算机对人脸的高效识别。根据前人的研究表明,模糊人工神经网络算法是非常有效的识别算法。

模糊理论和神经网络技术是近年来人工智能研究较为活跃的两个领域。人工神经网络是模拟人脑结构的思维功能,具有较强的自学习和联想功能,人工干预少,精度较高,对专家知识的利用也较少。但缺点是它不能处理和描述模糊信息,不能很好利用已有的经验知识,特别是学习及问题的求解具有黑箱特性,其工作不具有可解释性,同时它对样本的要求较高;模糊系统相对于神经网络而言,具有推理过程容易理解、专家知识利用较好、对样本的要求较低等优点,但它同时又存在人工干预多、推理速度慢、精度较低等缺点,很难实现自适应学习的功能,而且如何自动生成和调整隶属度函数和模糊规则,也是一个棘手的问题。如果将二者有机地结合起来,可以起到互补的效果。

模糊逻辑控制的基本原理并非传统的是与不是的二维判断逻辑,而是对被控对象进行阈值的设计与划分,根据实际值在阈值领域内的变化相应的产生动态的判断逻辑,并将逻辑判断规则进行神经网络的自我学习,逐渐实现智能判断,最终实现准确的逻辑判断。相较于传统的线性判断规则,基于模糊规则的神经网络是高度复杂的非线性网络,同时由于其广阔的神经元分布并行运算,大大提高了复杂对象(如人脸)识别计算的效率,因此,将模糊神经网络算法应用于人脸的智能识别是完全可行的。

2 基于模糊人工神经网络的人脸识别方法研究

2.1 基于模糊神经网络的人脸识别分类器设计

1) 输入、输出层的设计:针对模糊神经网络层的输入层和输出层的特点,需要对识别分类器的输入、输出层进行设计。由于使用BP神经网络作为识别分类器时,数据源的维数决定输入层节点数量,结合到人脸的计算机识别,人脸识别分类器的输入输出层,应当由人脸特征数据库的类别数决定,如果人脸数据库的类别数为m,那么输入、输出层节点数也为m,由m个神经元进行分布式并行运算,能够极大提高人脸识别的输入和输出速度。

2) 隐藏层结点数的选择:由于一般的BP神经网络都是由3层BP网络构成:输入层,隐藏层和输出层,隐层的数量越多,BP神经网络越复杂,那么最终能够实现的运算精度就越高,识别率也就越高;但是随着隐层数量的增加,随之而来的一个突出的问题就是神经网络变的复杂了,神经网络自我训练和学习的时间变长,使得识别效率相对下降,因此提高精度和提高效率是应用模糊神经网络的一个不可避免的矛盾。在这里面向人脸识别的分类器的设计中,仍然采用传统的3层BP神经网络构建人脸识别分类器,只设计一层隐层,能够在保障识别精度的前提下有效的保障神经网络学习和训练的效率,增加人脸识别的正确率。

3) 初始值的选取:在设计了3层BP神经网络的基础上,需要确定神经网络的输入初始值。由于模糊神经网络是非线性的,不但具有线性网络的全部优点,同时还具有收敛速度快等特点,而初始值的选取在很大程度上影响神经网络的学习训练时间的长短,以及是否最终能够实现收敛输出得到最优值。如果初始值太大,那么对于初始值加权运算后的输出变化率趋向于零,从而使得神经网络自我学习训练趋向于停止,最终无法得到收敛的最优值;相反,我们总是希望初始值在经过每一次加权运算后的输出都接近于零,从而能够保证每一个参与运算的神经元都能够进行调节,最终实现快速的收敛。为此,这里将人脸识别的初始值设定在[0,0.2]之间,初始运算的权值设定在[0,0.1]之间,这样都不太大的输入初始值和权值初始值能够有效的保证神经网络快速的收敛并得到最优值。

如果收敛速度太慢,则需要重新设置权值和阈值。权值和阈值由单独文件保存,再一次进行训练时,直接从文件导出权值和阈值进行训练,不需要进行初始化,训练后的权值和阈值直接导入文件。

2.2 人脸识别的神经网络训练算法步骤

1) 神经网络的逐层设计步骤:神经网络需要按层进行设计,构建信号输入层、模糊层以及输出层,同时还要构建模糊化规则库,以构建神经网络模糊算法的完整输入输出条件。具体构建人脸识别的神经网络层可以按照下述步骤执行:

Step 1,构建信号输入层,以视觉摄像头为坐标原点构建人脸识别坐标系统,这里推荐采用极坐标系统构建识别坐标系,以人脸平面所处的角度与距离作为信号的输入层,按照坐标系的变换得到神经网络信号输入的距离差值和角度差值Δρ,Δθ,作为完整的输入信号。

Step 2,构建模糊化层,将上一层信号输入层传输过来的系统人脸识别信号Δρ与Δθ进行向量传输,将模糊化层中的每一个节点直接与输入信号向量的分量相连接,并进行信号矢量化传输;同时在传输的过程中,根据模糊化规则库的条件制约,对每一个信号向量的传输都使用模糊规则,具体可以采用如下的隶属度函数来进行模糊化处理:

(1)

其中c ij 和σij分别表示隶属函数的中心和宽度。

Step 3,构建信号输出层,将模糊化层经过模糊处理之后的信号进行清晰化运算,并作为最终结果输出。

关于模糊规则库的建立,目前所用的方法都是普遍所采用的匹配模糊规则,即计算每一个传输节点在模糊规则上的适用度,适用就进行模糊化规则匹配并进行模糊化处理,不适用则忽略该模糊规则并依次向下行寻找合适的模糊规则。当所有的,模糊规则构建好之后,需要对每条规则的适用度进行归一化运算,运算方法为:

(2)

2) 人脸的识别算法按如下步骤执行:

Step 1:一个样本向量被提交给网络中的每一个神经元;

Step 2:计算它们与输入样本的相似度di;

Step 3:由竞争函数计算出竞争获胜的神经元,若获胜神经元的相似度小于等于相似度门限值ν,则计算每个神经元的奖惩系数γi,否则添加新的神经元;

Step 4:根据学习算法更新神经元或将新添加的神经元的突触权值置为x;

Step 5:学习结束后,判断是否有错误聚类存在,有则删除。

其中,

(3)

di是第i个神经元的相似度值,β为惩罚度系数,ν为相似度的门限值。γ的计算方法是对一个输入样本x,若竞争获胜神经元k的相似度dk≤ν,则获胜神经元的γk为1,其它神经元的γi=-βdi/ν,i≠k;若dk >ν,则添加新的神经元并将其突触权值置为x。

实际上,网络训练的目的是为了提高本算法的权值实用域,即更加精确的实现对人脸特征的识别,从而提高算法的人脸识别率,当训练结束后,即可输出结果。

2.3 算法仿真测试

为了验证本论文所提出的人脸识别模糊神经网络算法的有效性和可靠性,对该算法进行仿真测试,同时为了凸显该算法的有效性,将该算法与传统的BP神经网络算法进行对比仿真测试。

该测试采集样本500张人脸图片,分辨率均为128×128,测试计算机配置为双核处理器,主频2.1GHz,测试软件平台为Matlab,分别构建BP神经网络分类器与本算法的神经网络分类器,对500幅人脸图片进行算法识别测试。

如表1所示,为传统BP神经网络算法和本论文算法的仿真测试结果对比表格。

从表1所示的算法检测对比结果可以发现:传统的算法也具有人脸特征的识别,但是相较于本论文所提出的改进后的算法,本论文提出的算法具有更高的人脸特征识别率,这表明了本算法具有更好的鲁棒性,神经网络模糊算法的执行上效率更高,因而本算法是具有实用价值的,是值得推广和借鉴的。

3 结束语

传统的图像识别技术,很多是基于大规模计算的基础之上的,在运算量和运算精度之间存在着不可调和的矛盾。因人工神经网络技术其分布式信息存储和大规模自适应并行处理满足了对大数据量目标图像的实时处理要求,其高容错性又允许大量目标图像出现背景模糊和局部残缺。相对于其他方法而言,利用神经网络来解决人脸图像识别问题,神经网络对问题的先验知识要求较少,可以实现对特征空间较为复杂的划分,适用于高速并行处理系统来实现。正是这些优点决定了模糊神经网络被广泛应用于包括人脸在内的图像识别。本论文对模糊神经网络在人脸图像识别中的应用进行了算法优化设计,对于进一步提高模糊神经网络的研究与应用具有一定借鉴意义。

参考文献:

[1] 石幸利.人工神经网络的发展及其应用[J].重庆科技学院学报:自然科学版,2006(2):99-101.

[2] 胡小锋,赵辉.Visral C++/MATLAB图像处理与识别实用案例精选[M].北京:人民邮电出版社,2004.

[3] 战国科.基于人工神经网络的图像识别方法研究[D].北京:中国计量科学研究院,2007.

[4] 王丽华.基于神经网络的图像识别系统的研究[D].北京:中国石油大学,2008.

[5] 范立南,韩晓微,张广渊.图像处理与模式识别[M].北京:科学出版社,2007.

[6] 金忠.人脸图像特征抽取与维数研究[D].南京:南京理工大学,1999.

神经网络算法的优点范文3

一、模糊化遗传BPN演算方法的提出

尽管通过已有的研究以及一些简单的模型可以初步判定企业财务业绩是否出现衰退迹象,但由于财务报告舞弊的甄别有着很多挑战性的因素,如舞弊样本量极小、舞弊手法繁多、识别的特征指标不易设定、甄别技术的选择及智能设计较难掌握等,因此甄别虚假财务报告一直是困扰会计界的重大难题。

(一)模糊化遗传BPN演算方法的必要性 随着信息技术的发展以及人工智能技术的兴起和广泛应用,许多领域的难题迎刃而解。数据挖掘技术(即利用数据库技术来存储管理数据,利用机器学习的方法来分析数据,从而挖掘出大量的隐藏在数据背后的知识)已深受人们关注。会计本身就可以定义为一个信息系统,将数据挖掘技术应用于财务报告舞弊的甄别必将是一个趋势,并且已有学者对该种方法的可行性进行初步探讨。随着数据挖掘技术的改进及发展,发掘实用高效的数据挖掘算法,构建舞弊识别系统,并真正实现舞弊识别才是亟待解决的问题。因此,本文通过比较各种数据挖掘算法的优缺点,综合考虑提出用于会计舞弊识别的模糊化遗传BPN系统,并对该系统所涵盖的具体算法、该系统的技术优势以及甄别系统的构建进行逐步研究,力求设计出更加行之有效的财务报告舞弊甄别技术。

(二)模糊化遗传BPN演算方法的提出 数据挖掘技术分为两大类:探索型数据挖掘和预测型数据挖掘。探索型数据挖掘包括一系列在预先未知任何现有模式的情况下,在数据内查找模型的技术。探索型数据挖掘包括分群、关联分析、频度分析技术。预测型挖掘包括一系列在数据中查找特定变量(称为“目标变量”)与其他变量之间关系的技术。预测型挖掘常用的有分类和聚类、数值预测技术。数据挖掘使用的算法很多,主要包括统计分析、机器学习、决策树、粗糙集、人工神经网络和遗传算法等。

舞弊性财务报告的识别过程本身可以认为是一个分类的过程,即分为舞弊及非舞弊的过程。对数据挖掘技术的各种分类算法的优劣具体比较(见表1)。

基于此,综合各种分类算法的优势,本文提出模糊化遗传BPN财务报告舞弊识别系统。

二、模糊化遗传BPN的演算方法

模糊化遗传BPN的演算方法包括模糊逻辑算法、遗传算法以及BP神经网络算法等。

(一)模糊逻辑算法模糊逻辑算法简单地说是人们对许多决策思维的自然语言描述,并且转换成利用数学模型算法替代的一种应用科学技术。该模型包括三个主要处理程序:模糊化(fuzzifi―cation)、推论(inference)及反模糊化(defuzzification)。

(1)模糊化(fuzzification):将原始的数据,利用隶属度函数转换成模糊输入,如在观察技术指标时也可以自然语言表示“偏高”、“适中”或“偏低”等。

(2)模糊推论(rule evaluation,fuzzy inference):根据模糊输入,依照口语化的规则(1inguistic rules),产生模糊结果,如透过IF..THEN..的形式将推论加以定式化。

规则:if x is A then y is B

事实:x is A’

结论:y is b’

(3)反模糊化(defuzzification):将模糊输出转换成可表达的数据。

(二)遗传算法 遗传算法是模拟生物进化过程的算法,由三个算子组成,即选择、较差、突变。遗传算法具有十分顽强的鲁棒形,在解决大空间、多峰值、非线性、全局优化等复杂度高的问题时具有独特的优势。其可以单独用于数据库中关联规则的挖掘,还可以和其他数据挖掘技术相结合。如用于优化神经网络结构以得到结构简单、性能优良的神经网络结构;用于特征子集选择;用于决策分类器和模糊规则的获取等。遗传算法在数据挖掘技术中占有重要的地位,这是由其本身的特点和优点所决定的。(1)遗传算法的处理对象不是参数本身,而是对参数集进行了编码的个体,可以直接对集合、队列、矩阵、图表等结构进行操作;(2)具有较好的全局搜索性能,减少了陷于局部最优解的风险,同时,遗传算法本身也易于并行化;(3)在标准的遗传算法中,基本上不用搜索空间的知识或其他辅助信息,而仅用适应度函数值来评估个体,并在此基础上进行遗传操作;(4)遗传算法不是采用确定性规则,而是采用概率的变迁规则来指导其搜寻方向。

(三)BP神经网络 反传递神经网络(BPN)模式是监督式学习网络(Supervised Learning Network)的一种,在取得训练样本后,透过训练样本输入网络时,告知网络预期的输出结果,而输入训练样本的目的主要是让网络学习,当学习完成后再利用测试样本来进行模式的测试。由于BP神经网络具有高学习准确度、回想速度快以及能含杂讯资料处理等优点,因此运用最为普遍。其基本原理是利用梯度下降法(the gradient steepest descent method)的观念,通过学习过程中输出值与期望输出值偏差,不断反向传递至隐藏层和输入层来调整加权值修正量及阀值修正量,使输出值与期望之间的误差予以最小化,进而通过不断学习求得最佳网络模式已达到预测的目的。BP网络的构架主要分为三层:输入层(inputlayer)、隐藏层(hiddenlayer)及输出层(outputlayer),各层中基本单元即为处理单元(Processing Element,PE),数个处理单元将组成一层,而若干层则结合成为网络。其中输入层的处理单元代表网络的输入变量,目前许多研究结合模糊逻辑(fuzzylogic)以及遗传算法(GA)等方式选择BP神经网络的输入层。输出层用来表示网络的输出变量,其处理单元数目依问题而定。隐藏层主要用以表示输入处理单元间的交互影响,网络可以不只一层隐藏层,也可以没有隐藏层,至于其处理单元数目并无标准方法可决定。

三、模糊化遗传BPN优势

现存的关于国内外财务报告舞弊识别模型研究,大多设计为Logistic回归模型及神经网络(ANN)模型。尽管神经网络对于财务报告舞弊的识别效果和准确性都比logistic回归模型更好,但还是存在一些局限性。而模糊化遗传BPN正是一种可以弥补单纯神

经网络各种局限性的优势技术。

(一)模糊逻辑与神经网络的结合优势 由于神经网路工作方式是自组织式,即无教师学习网络,模拟人类根据过去经验自动适应无法预测的环境变化。由于没有教师信号,这类网络通常利用竞争的原则进行网络的学习,对知识的获取完全取决于感知。因此单纯的神经网络对于处理数量庞大、种类繁多、而且信息复杂的财务报告而言,显得有些吃力并且不一定十分精确。而模糊逻辑算法对知识的获取则是由专家来控制,其对所提供信息的数量和质量均有一定的保证。另外神经网络内部结构使得追踪产生输出的过程变得困难,缺乏解释能力。而模糊逻辑算法最主要的优点就是可以把专家的策略通过IF-THEN、and、or的关系式轻而易举的定义出来,形成模糊逻辑规则,将其与神经网络相结合可以增强模型的解释力。

(二)遗传算法与神经网络的结合优势 遗传算法和人工神经网络都是将生物学原理应用于科学研究的仿生学理论成果。神经网络相当于一个专家系统知识库,能自动在海量数据中识别、捕捉和提取隐藏规律,并将其包含在神经元之间的连接权值中。遗传算法具有全局搜索、收敛速度快的特点,将其与神经网络结合起来,不仅能发挥神经网络的泛化映射能力,而且使神经网络克服收敛速度慢、容易陷入局部误差极小点、网络结构和学习参数难以确定等缺点;同时还可以优化神经网络的结构和连接权系数,这就满足了求得最优BPN的必要条件。另外,遗传算法本身计算量较大,每次迭代过程需要大量运算,尤其是当遗传算法收敛到一定程度后,整个解群的素质和最优解素质的改善变得比较困难,导致搜索时间呈指数增长,此时用BP网络寻求最优参数组合比单纯用GA搜索要节约大量时间。

四、模糊化遗传BPN财务报告舞弊甄别系统的构建

模糊化遗传BPN财务报告舞弊甄别系统由模糊演化(Fuzzy)、遗传算法(GA)和BP神经网络三个模块构成。具体系统构建流程如图1所示:

(一)模糊演化模块 在模糊演化模块中,首先需要进行的工作是选择输入变量,即构建财务报告舞弊识别特征指标体系,通过显著性检验筛选进入系统的变量。然后将其模糊化,通过IF-THEN语句建立模糊规则库,再经过反模糊化方法输出模糊后的舞弊特征指标变量。

(二)遗传算法模块 在遗传算法模块中,首先根据模糊逻辑模块选定的舞弊指标变量定义遗传算法适应值函数;同时,设定遗传算法所需变量的范围与精度、族群数量及演化世代数、突变与交换率。然后,通过选择、交叉、突变算子演算产生下一代,输入网络框架计算适应值函数值,如果适合度满足终止条件,将网络结构输入给BP神经网络模块,否则回到三个算子循环计算。

神经网络算法的优点范文4

关键词:地下水脆弱性;评价;人工鱼群算法;BP神经网络

中图分类号:TP27 文献标识码:A

众所周知,水是人类社会赖以生存和发展必不可少的宝贵资源,地下水是水资源的重要组成部分,并已被广泛开发和利用,在干旱半干旱地区则是主要的生活及工业用水来源。近年来,由于工业化、城市化进程的加快,全球范围内的地下水资源正遭受不同程度的污染和破坏,造成水资源短缺,并相继出现了一系列复杂的环境地质问题。目前应用较广泛的BP神经网络评价算法存在着网络参数难确定、收敛速度较慢且易陷入极小值等问题。为了解决上述问题,本文应用鱼群算法对BP神经网络进行了改进,结合地下水安全评价实例进行了测试,并将测试数据与标准BP神经网络进行了比较与分析,取得了理想的结果。

1.基本BP神经网络算法

BP神经网络算法是一种采用误差反向传播的多层前馈感知器。其特点是具有分布式的信息存储方式,能进行大规模并行处理,并具有较强的自学习及自适应能力。BP网络由输入层(感知单元)、计算层(隐藏层)、输出层3部分组成。输入层神经元首先将输入信息向前传递至隐含层节点,经过激活函数预处理后,隐层节点再将输出信息传送至输出层得到结果输出。输入层与输出层节点的个数取决于输入、输出向量的维数,隐含层节点个数目前并没有统一的标准进行参考,需通过反复试错来确定。根据Kolmogorov定理,具有一个隐层的3层BP神经网络能在闭集上以任意精度逼近任意非线性连续函数,所以本文选择单隐层的BP神经网络。

2.人工鱼群算法

2.1 基本原理

通过对鱼类觅食的观察可知,鱼类一般能自行或者尾随其他同伴找到食物数量相对充足的地方。因此,一般鱼类数量较多的地区即为食物相对充足的区域。人工鱼群算法是指通过长期对鱼类觅食行为的观察,构造人工鱼来模拟鱼类的觅食、群聚、尾随以及随机行为,从而完成全局最优值的寻找。算法所包含的基本过程如下:

觅食行为:鱼类会利用视觉或嗅觉来感知水中食物浓度的高低,以此来选择觅食的路线。

聚群行为:鱼类一般会以群体形式进行觅食,以此来躲避天敌的伤害,并以最大概率获得准确的觅食路线。

尾随行为:当群体中的某条鱼或几条鱼寻找到食物后,其附近的其他同伴会立刻尾随而来,其他更远处的鱼也会相继游过来。

随机行为:鱼在水中的活动是不受外界支配的,基本上处于随机状态,这种随机性有利于鱼类更大范围的寻找食物及同伴。

2.2 行为描述

首先假设1条人工鱼,其当前状态定义为Xr,随机选择另一个状态为Xs=[xsd](s=1,2,…,N;d=1,2,…,D,这是一个D维向量,其中状态为Xr的食物浓度为Yr=f(Xr),f(x)为目标函数,人工鱼群体中个体间的距离表示为drs=Xr-Xs,其有效视线范围(感知距离)为Visual,游行步长设置为Step,群体中的拥挤度因子为σ。

2.2.1 觅食行为

鱼类觅食是以定义的游行步长为前进单元,通过在其有效视线范围内感知食物浓度的变化来确定最佳觅食路线。设人工鱼当前状态为Xr,在有效视线范围内随机选择另一个状态为Xs,通过目标函数确定两种状态下的食物浓度分别为Yr、Ys,若Yr

其中Rand为一个(0,1)的随机数。

2.2.2 聚群行为

人工鱼在其有效视线范围内能够感知同伴的数目及其中心位置,假设在当前视野范围内人工鱼感知到的同伴数目及其中心位置状态为Xc,若Yc,nf>σYr,则表明该区域食物浓度较高,并且其周围并不拥挤,此时人工鱼将向此方向前进一步,否则继续执行觅食行为。其数学表达式为:

2.2.3 尾随行为

若人工鱼在当前视线范围内感知到的食物浓度最大值为Xmax,如果Ymax,nf>σYr,则状态Xmax具有较高的食物浓度并且鱼群密度较低,适合人工鱼进行觅食,则朝着此方向前进一步,反之,若Ymax,nf

2.3 鱼群算法优化BP神经网络的原理

BP神经网络在求解最优化问题时容易陷入局部极值,并且网络的收敛速度较慢。鱼群算法通过设定人工鱼个体,模拟鱼群在水中的觅食、尾随和群聚行为,通过个体的局部寻优,最终实现全局寻优。人工鱼在不断感知周围环境状况及

同伴状态后,集结在几个局部最优点处,而值较大的最优点附近一般会汇集较多的人工鱼,这有助于判断并实现全局最优值的获取。因此用人工鱼群算法来优化BP神经网络是一种合理的尝试。

2.4 具体工作步骤

人工鱼群算法用于优化神经网络时的具体步骤如下:

①设定BP神经网络结构,确定隐层节点数目;

②设定人工鱼参数,主要包括个体间距离、有效视线范围以及移动步长等;

③人工鱼进行觅食、群聚及尾随行为来优化BP神经网络;

④通过设定的状态参量,判断是否达到目标精度;

⑤若达到精度要求则输出网络优化权值,并执行网络循环,否则继续改化参数进行优化;

⑥输出最终优化参数并进行计算机网络安全评价。

3.算例分析

本文以文献[2]设定的评价标准作为网络的训练数据。主要包括土壤层厚度、土壤层形状、包气带厚度、包气带岩性等14项影响因素指标,因此输入层神经元数取为14。隐含层定为1层。一般而言,隐层节点数目是输入层节点数目的2倍,因此,本文将隐层节点数目定为28。

算法用Matlab语言实现。通过实验分析,本文将网络隐含层节点数设为5,权值调整参数α=0.1,阈值调整参数β=0.1,学习精度ε=0.0001。网络经过2000次训练,收敛于所要求的误差,然后对检验样本及专家评价样本进行仿真,结果见表1。可以看出网络评价结果与标准BP神经网络及模糊综合评价算法保持一致,但其网络运行时间却大幅下降,甚至比应用蚁群算法优化的效果更好。

结论

本文将鱼群算法和神经网络结合起来对地下水脆弱性进行了研究,得到了如下几个结论:

(1)基于鱼群算法优化后的BP神经网络具有收敛速度快、拟合精度高等优点,克服了标准BP神经网络收敛速度慢、容易陷入局部极小值的缺点。同时,优化算法编码过程简单,并具有较强的鲁棒性。

(2)本文采用的实验数据仅有12个,基于鱼群算法优化后的BP神经网络精度有明显提高,避免了由于样本数量少造成的拟合精度低等缺点。

(3)通过将标准BP神经网络算法与鱼群神经网络算法进行对比发现,后者的收敛速度明显加快,并且自组织能力也有一定提高,在实际的工程建设中可以将其代替传统的BP神经网络算法来进行地下水脆弱性的评价与分析。

参考文献

[1]贺新春,邵东国.几种评价地下水环境脆弱性方法之比较[J].长江科学院院报,2005,26(3):17-21.

神经网络算法的优点范文5

但当BP神经网络应用于预测模型尤其对于未来增长趋势比较明显的预测模型时,虽然其收敛精度较高,但其值域范围受限导致训练样本拟合函数与预测数据有较大差异,导致其局部搜索能力较强但全局搜索能力较差,易陷入局部最优值。本文通过引入遗传算法,发挥该算法全局搜索能力较强的特点,对BP神经网络权值和阈值进行预优化,赋予各层较佳输出解空间,发挥BP神经网络局部搜索能力强的特点,实现强强联合,提高时间序列预测的精准度。

1.1BP神经网络

BP(BackPropagationnetwork)神经网络是当今预测领域应用最广泛的一种神经网络算法。BP神经网络由3层组成:输入层、隐含层和输出层。每一层中都包含若干节点(神经元),不同层之间节点通过权值进行全连接,同层节点之间无连接。其中,隐含层可为多层,实际应用过程中有一个隐含层的三层神经网络结构即可实现非线性函数拟合。

1.2遗传算法

本文中的优化对象为BP神经网络各层间权值和阈值。因此,在种群初始化时,遗传算法采用常用的二进制编码,并由农业机械数量的历史样本数目确定遗传算法将优化的参数(权值和阈值)个数,从而确定种群的编码长度。因BP神经网络隐含层神经元采用S型传递函数,为减小计算误差,减少或避免计算结果落入局部最小值,权值和阈值应避免选择区间内较小和较大数值,选择在[-0.5,0.5]区间内的随机数。遗传算法计算流程。

2预测结果与分析

本文采用基于遗传算法的BP神经网络,以我国从1997-2013年的农业机械数量为基础数据进行训练和测试和预测。其中,遗传算法群体规模M=50,交叉概率pc=0.6,变异概率pm=0.01,BP神经网络权值阈值取值空间为[-0.5,0.5],训练次数为1000,训练目标为0.01,学习速率为0.1。我国在1997-2013年期间的农机总动力、农用大中型拖拉机数量和小型拖拉机数量的预测值与历史样本数据之间的绝对值平绝误差分别为1.080%、1.352%和1.765%。由此看出,使用基于遗传算法的BP神经网络对于以农业机械数量为预测对象的时间序列预测模型的预测精度较好,预测精度稳定性较佳。从预测误差可以看出,本文所使用的BP神经网络在预测本时间序列模型时,基本避免运算结果落入局部最小值,收敛性能较好,与前文中遗传算法和BP神经网络优势互补、强强联合的理论设想较为一致。2014年我国农机总动力、农用大中型拖拉机数量和小型拖拉机数量的预测结果来看,该预测结果与2013年度数值比较有较大增长,但增长幅度有所下降。预计到2014年,我国农机总动力、大中型拖拉机数量和小型拖拉机数量分别为11.251×108kW、587.012万台和2043.201万台,与1997年相比分别增加了167.86%、751.96%和94.87%,与2013年相比分别增加了4.17%、10.75%和2.16%。其中,2014年农机总动力和小型拖拉机数量增长率分别小于2013年的增长率5.88%和3.3%,农用大中型拖拉机数量增长率大于2013年的增长率9.19%。由于我国在2004年出台了一系列鼓励提高农业机械化的法律、政策、法规,中央财政农机购置补贴资金投入连年大幅增加,极大地调动了农民购机的积极性和企业生产的积极性,促进我国农机装备总量持续增长和农机结构优化。随着跨区作业和农业生产合作社的逐步发展,有效提高了农用大中型拖拉机在农业生产中的的利用率,降低了农民劳动强度,提高生产效率,因而其近几年的保有量有较大增幅。小型拖拉机受农业产业结构调整和农业机械大型化的影响,其近几年的保有量增幅逐年降低。

3结论

神经网络算法的优点范文6

关键词:BP神经网络; 遗传算法; 神经网络集成; 人耳识别

中图分类号:TP183文献标识码:B

文章编号:1004-373X(2010)08-0148-03

Application of Neural Network Ensemble Based on Genetic Algorithm in Ear Recognition

CHEN Chun-lan1, ZENG Huang-lin2, XU Li-zhi2

(1. Luzhou Vocational and Technical College, Luzhou 646005, China; 2. Sichuan University of Science & Engineering, Zigong 643000, China)

Abstract:Since the constringency of the BP neural network algorithm is too slow and generalization capability of neural network is not ideal, the disadvantageseffect the classification identification. A method of theneural network ensemble based on the genetic algorithm is introduced for improving the classification accuracy and generalization of neural network, the way which trains several individual BP neural networks, selects those who have great variance each other to perform the neural network ensemble by means of the genetic algorithm, and then carries out the classification identification with the neural network ensemble. The experimental result shows that themethod can improve the identification rate.

Keywords:BP neural network; genetic algorithm; neural network ensemble; ear recognition

传统的BP神经网络虽然具有在线学习,非线性映射能力,不需要精确的数学模型,擅长从输入/输出数据中学习有用的知识,容易实现并行计算,由于神经网络由大量的简单计算单元组成,因而具有易于用软、硬件实现等优点。但是该学习算法是一个非线性优化问题,存在局部极小;BP算法使用的是最速下降法,学习算法的收敛速度很慢;最重要的是网络的泛化能力差。当图像数据较大时,影响分类识别能力。1990年,Hansen和Salamon开创性地提出了神经网络集成(Neural Network Ensemble)方法,通过训练多个神经网络,并将其结果进行合并,显著地提高了神经网络系统的泛化能力[1]。在此,采用Bagging方法训练个体神经网络,用遗传算法选择最优的个体网络用于神经网络集成。实验表明,这种方法可以提高人耳的识别率。

1 基于遗传算法的神经网络集成

1.1 神经网络集成

当神经网络集成用于分类器时,通过Bagging算法训练多个个体神经网络,通常集成的输出由个体网络的输出投票产生,采用绝对多数投票法(某分类成为最终结果,当且仅当有超过半数的神经网络输出结果为该分类),提高网络的泛化能力和分类能力[1]。Bagging算法思想实现过程如图1所示。

图1 Bagging算法思想实现过程

Bagging基本思想如下:

(1) 给定一个弱学习算法和一个训练集;

(2) 单个弱学习算法准确率不高;

(3) 将该学习算法使用多次,得出预测函数序列,进行投票;

(4) 最后结果准确率将得到提高。

Bagging算法:

For t = 1, 2, …, T;

从数据集S中取样(放回选样);

训练得到模型Ht;

对未知样本X分类时,每个模型Ht都得出一个分类,得票最高的即为未知样本X的分类[1]。

1.2 遗传算法用于神经网络集成

当神经网络集成中的个体网络差异较大时,集成的效果较好,但是如何获得差异较大的个体网络以及如何评价多个网络之间的差异度,目前仍然没有较好的方法。Bagging算法通过训练数据的随机性及独立性来提供集成的差异性,尽管这种方法非常流行,但是他的鲁棒性较差,而且当数据量不足时,该方法的执行效果也差[1]。

遗传算法作为一种可以全局收敛的方法,理论上可以在一定的遗传步骤后达到全局或者接近全局最优。这里考虑用遗传算法作为Bagging算法中最终集成权值的优化方法。

假设已经独立训练出N个神经网络f1,f2,…,fN,使用简均方法组成神经网络集成,考虑去除神经网络fN后,由f1,f2,…,fN-1使用简均方法组成神经网络集成′,满足:

ИА(x)=∑N-1i=1\(1)

定义神经网络fi与fjУ南喙囟任:

Cij=∫p(x)\\dx(2)

有Cii=Ei,Cij=Cj。в捎:

И(x)-d(x)=∑Ni=1\/NИ

因此有:

ИE=∑Ni=1∑Nj=1Cij/N2(3)

考虑У姆夯误差E与′的泛化误差E′的大小关系,根据式(3),′У姆夯误差为:

ИE′=∑N-1i=1∑N-1j=1Cij/(N-1)2(4)

(N-1)2N2(E′-E)=(2N-1)∑N-1i=1∑N-1j=1Cij-

2(N-1)2∑N-1i=1CiN-(N-1)2CNN(5)

(2N-1)∑N-1i=1∑N-1j=1Cij

(N-1)2CNN(6)

根据式(5),当式(6)满足时,E′

使用遗传算法来解决神经网络选取的问题。若某遗传个体与{f1,f2,…,fN}的子集S相对应,假设验证集为V,用验证集V 计算的神经网络fi与fjУ南喙囟裙兰浦滴:

ИCVij=∑X∈V\\/|V|(7)

从而根据式(7),与S对应的神经网络集成在验证集V上的平均误差为:

И(∑fi,fj∈SCVij)/|S|2(8)И

将该误差的倒数作为遗传算法的适应度值[2]。

2 基于遗传算法的神经网络集成用于人耳识别

采用Carreira-Perpinan建立的人耳图像库(如图2所示部分人耳图像),该图像包括了17人,每人6幅,共102幅人耳图像[3]。由于该人耳图像库中的所有图像已经经过剪裁和旋转,长宽比例为1∶6(这是由人耳的结构特点决定的,人耳长宽比例的均值大致在1∶6附近),且进行了亮化处理,因此图像较理想,本文不在进行图像的预处理。本实验在Matlab 7.1环境下进行。

图2 Carreira-Perpinan部分人耳图像

2.1 融合特征提取

将图像库中每人前三幅图像组成训练样本集,其余图像组成测试样本集。

采用Zernike矩方法提取的图像具有旋转不变性的人耳几何特征,其稳定性强,有利于分类识别,但是当人耳图像受到其他因素如光照影响时,这种识别率就会降低。改进的非负矩阵分解是将线性判别融入到传统的非负矩阵分解方法中,通过最大化样本类间差异,最小化样本类内差异,提取具有判别能力的低维人耳特征,对光照等不敏感。将这两种具有互补性的特征串性融合,得到一个分类能力更强的特征[4-5]。将15维Zernike矩特征和16维子空间投影系数特征串行组合,得到一个31维的人耳特征向量。

2.2 Bagging算法生成个体网络

本文采用Bagging算法生成个体网络(如图3所示),每次从训练样本集中随机抽取2/3个样本进行训练,得到一个神经网络分类器,神经网络的输入是以上提取的31维人耳特征向量。输出为7维的样本类别向量(1个隐层,6个神经元)。神经网络集成的规模(训练神经网络集成中神经网络的个数)为10。

图3 Bagging算法生成个体神经网络集成

2.3 基于遗传算法的神经网络集成用于人耳识别

个体网络的选择:典型的神经网络集成方法可能生成彼此很相似的个体神经网络,这种网络不一定能够促使集成泛化误差的降低,还可能起到相反的作用。基于遗传算法的神经网络集成方法从训练好的10个BP网络中选择部分网络进行集成。实验中的参数设置:每个遗传个体的染色体长度为10(网络个数为10),遗传算法的群体规模为40,选择概率为0.5,交叉概率为0.8,变异概率为0.05,遗传算法的最大代数为50代,适应度函数选择式(8),精英变异位数量为6,变异范围是全体个体。神经网络的集成,将上步选择的神经网络组成集成,采用投票方法进行结果集成。输入测试样本,训练好的神经网络集成模型进行人耳识别,结果如表1所示。

表1 神经网络集成人耳识别实验结果比较

特征单个BP神经网络分类识别/%基于遗传算法的神经网络集成分类识别/%

融合特征88.394.2

从表1可以知道,使用单一BP神经网络作为分类器的识别率低于采用神经网络集成分类的识别率。

3 结 语

由于单一BP网络的泛化能力差和网络的不稳定,当图像数据较大时,影响分类识别能力。这里介绍了一种基于遗传算法的神经网络集成用于人耳识别,实验结果表明,使用采用神经网络集成可以提高人耳识别率。

参考文献

[1]周志华,陈世福. 神经网络集成[J]. 计算机学报, 2002, 25(1): 1-8.

[2]吴建鑫,周志华,沈学华,等. 一种选择性神经网络集成构造方法[J]. 计算机研究与发展, 2000, 37(9): 1039-1045.

[3]LAMMI H K. Ear biometrics[EB/OL]. \. http: // it. lut. fi/kurssit/03-04/010970000/seminars/Lammi. pdf.

[4]张志伟,夏克文,杨帆,等. 一种改进NMF算法及其在人脸识别中的应用[J]. 光电工程, 2007, 34(8): 121-126.

[5]张伟伟, 夏利民. 基于多特征融合和Bagging神经网络的人耳识别[J]. 计算机应用, 2006, 26(8): 1870-1872.

[6]张兆礼,赵春晖,梅晓丹. 现代图像处理技术及Matlab实现[M]. 北京:人民邮电出版社, 2001.

[7]於时才, 陈涓, 马宁. 一种提高神经网络集成系统泛化能力的方法[J]. 微电子学与计算机, 2009, 26(4): 105-107.

[8]李敏强,寇纪凇,林丹, 等. 遗传算法的基本理论与应用[M]. 北京:科学出版社, 2002.

[9]朱人杰,田雨波,贾则. 混沌搜索神经网络集成求解广义异或分类问题[J]. 微电子学与计算机, 2009, 26(5): 99-102.

[10]刘茂福,胡慧君,何炎祥. 主成分分析在图像Zernike矩特征降维中的应用[J]. 计算机应用, 2007, 27(3): 696-700.