前言：中文期刊网精心挑选了神经网络的难点范文供你参考和学习，希望我们的参考范文能激发你的文章创作灵感，欢迎阅读。
神经网络的难点范文1
1.1集先进性、实用性和前沿性为一体的教学内容改革对国内外优秀的人工智能教材[2-6]的内容进行整合，建立人工智能的知识体系，并提取人工智能课程的知识要点，确定集先进性、实用性和前沿性为一体的教学内容。人工智能的核心思想是研究人类智能活动规律和模拟人类智能行为的理论、方法和技术，因此人工智能应围绕“智能”这个中心。由于智能本身的复杂性，难以用单一的理论与方法来描述，因此可以通过建立人工智能的不同层次来刻画智能这个主题。人工智能的主要内容可按图1所示划分为最底层、抽象层、逻辑层和应用层这4个不同层次。在最底层，神经网络与演化计算辅助感知以及与物理世界的交互。抽象层反映知识在智能中的角色和创建，围绕问题求解对知识进行抽象、表示与理解。逻辑层提出学习、规划、推理、挖掘的模型与方式。应用层构造智能化智能体以及具有一定智能的人工系统。将人工智能划分为这4个层次可确定人工智能课程的教学内容，并保证教学内容的循序渐进。
1.2基于人工智能知识体系的教学案例库建设根据所确定的教学内容、知识重点和知识难点，从国内外经典教材、科研项目、研发设计、生产建设以及国内外人工智能网站等多种途径，收集案例素材，加以整理，撰写各知识要点的教学案例及其内容。表1给出基于人工智能知识体系的教学案例示例。
2人工智能课程教学案例的详细设计
在教学案例具体设计时应包括章节、知识重点、知识难点、案例名称、案例内容、案例分析过程、案例教学手段、思考/讨论内容等案例规范，分别从以下单一案例、一题多解案例和综合应用案例3种情况进行讨论。
2.1单一案例设计以人工智能课程中神经网络课堂教学内容为例，介绍基于知识点的单一案例的设计。神经网络在模式识别、图像处理、组合优化、自动控制、信息处理和机器人学等领域具有广泛的应用，是人工智能课程的主要内容之一。教学内容主要包括介绍人工神经网络的由来、特性、结构、模型和算法，以及神经网络的表示和推理。这些内容是神经网络的基础知识。其重点在于人工神经网络的结构、模型和算法。难点是人工神经网络的结构和算法。从教学要求上，通过对该章节内容的学习，使学生掌握人工神经网络的结构、模型和算法，了解人工神经网络的由来和特性，一般性地了解神经网络的表示和推理方法。采用课件PPT和演示手段，由简单到复杂，在学生掌握人工神经网络的基本原理和方法之后，再讲解反向传播BP算法，然后运用“手写体如何识别”案例，引导学生学习理解人工神经网络的核心思想及其应用方法。从国外教材中整理和设计该案例，同时应包括以下规范内容。章节：神经网络。知识重点：神经网络。知识难点：人工神经网络的结构、表示、学习算法和推理。案例名称：手写体如何识别。案例内容：用训练样本集训练一个神经网络使其推广到先前训练所得结果，正确分类先前未见过的数据。案例分析过程：①训练数字识别神经网络的样本位图；②反向传播BP算法；③神经网络的表示；④使用误差反向传播算法训练的神经网络的泛化能力；⑤一个神经网络训练完毕后，将网络中的权值保存起来供实际应用。案例教学手段：手写体识别的神经网络演示。思考/讨论内容：①训练改进与权值调整改进；②过学习/过拟合现象，即在一个数据集上训练时间过长，导致网络过拟合于训练数据，对未出现过的新数据没有推广性。
2.2一题多解案例设计一题多解案例有助于学生把相关知识点联系起来，形成相互关联的知识网络。以人工智能课程中知识及其表示教学内容为例，介绍一题多解案例的设计。知识及其表示是人工智能课程三大内容（知识表示、知识推理、知识应用）之一。教学内容主要包括知识表示的各种方法。其重点在于状态空间、问题归约、谓词逻辑、语义网络等知识表示方法。难点是知识表示方法的区别及其应用。从教学要求上，通过对该章节内容的学习，使学生掌握利用状态空间法、问题归约法、谓词演算法、语义网络法来描述和解决应用问题，重点掌握几种主要知识表示方法之间的差别，并对如何选择知识表示方法有一般性的了解。通过讲解和讨论“猴子和香蕉问题”案例，来表示抽象概念。该案例从国内外教材中进行整理和设计，同时包括以下规范内容。章节：知识及其表示。知识重点：状态空间法、问题归约法、谓词逻辑法、语义网络法等。知识难点：知识表示方法的区别及其应用。案例名称：分别用状态空间表示法与谓词逻辑法表示猴子和香蕉问题。案例内容：房间内有一只机器猴、一个箱子和一束香蕉。香蕉挂在天花板下方，但猴子的高度不足以碰到它。猴子如何摘到香蕉？如何采用多种知识表示方法表示和求解该问题？案例分析过程：①状态空间法的解题过程。用n元表列表示该问题的状态；定义问题的操作算符；定义初始状态变换为目标状态的操作序列；画出该问题的状态空间图。②谓词逻辑法的解题过程。定义问题的常量；定义问题的谓词；根据问题描述用谓词公式表示问题的初始状态、中间状态和目标状态。案例教学手段：猴子和香蕉问题的演示。思考/讨论内容：①选择知识表示方法时，应考虑哪些主要因素？②如何综合运用多种知识表示方法获得最有效的问题解决方案?
2.3综合应用案例设计与单一案例、一题多解案例相比，综合应用案例能更加有效地启发学生全方位地思考和探索问题的解决方法。以机器人行动规划模拟为例，介绍人工智能综合应用案例的设计，该案例包括以下规范内容。章节：人工智能综合应用。知识重点：人工智能的研究方向和应用领域。知识难点：人工智能的技术集成。案例名称：机器人行动规划模拟。案例内容：综合应用行为规划、知识表示方法、机器人学、神经网络、人工智能语言等多种人工智能技术与方法，对机器人行动规划问题进行描述和可视化。案例分析过程：①机器人行为规划问题求解。采用状态归约法与分层规划技术，将机器人须完成的总任务分解为若干依序排列的子任务；依据任务进程，确定若干关键性的中间状态，将状态对应为进程子规划的目标；确定规划的执行与操作控制，以及机器人过程控制与环境约束。②基于谓词逻辑表示的机器人行为规划设计。定义表达状态的谓词逻辑；用谓词逻辑描述问题的初始状态、问题的目标状态以及机器人行动规划过程的中间状态；定义操作的约束条件和行为动作。③机器人控制系统。定义机器人平台的控制体系结构，包括反应式控制、包容结构以及其他控制系统等。④基于神经网络的模式识别。采用神经网络方法以及BP算法对桌面茶壶、杯子等物体进行识别，提取物体图形特征。⑤机器人程序设计语言。运用人工智能语言实现机器人行动规划行为的可视化。案例教学手段：机器人行动规划的模拟演示。思考/讨论内容：人工智能将会怎样发展？应该在哪些方面进一步开展研究？
3案例教学环节和过程的具体实施细节
人工智能案例教学的实施面向笔者所在学院软件工程专业三年级本科生展开。具体实施细节如下。（1）教学内容的先进性、实用性和前沿性。引进和整合国外著名人工智能教材内容，保证课程内容具有先进性。同时将前沿人工智能的研究成果与技术有机地融入课程案例教学之中。（2）案例教学的创新教学模式。在教师的引导下，将案例中涉及的人工智能内容推广到对人工智能的一般性认识。案例的教学过程，成为认识人工智能、初步运用人工智能的理论与方法分析和解决实际应用问题的过程，使学生具备运用人工智能知识解决实际问题的意识和初步能力。在课程教学中，打破国内常规教学方式，建立和实施开放式案例教学模式。采用动画课件、录像教学、实物演示、网络教学等多种多媒体教学手段，以及集中讲授与专题讨论相结合的教学方式将理论、方法、技术、算法以及实现有机结合，感性认识与理性认识相结合，理论与实际相结合，极大地激发学生自主和创新性学习的热情。（3）“课堂教学—实践活动—现实应用”的有机融合。在案例教学过程中，从传统教学观以学会为中心转化为创新应用型教学观以创新为中心，以及从传统教学的以课堂教学为中心转化为以课堂教学与实践活动并重为中心，构造具体问题场景以及设计教学案例在情境中的现实应用，加深学生对教学内容的理解，同时提高学生的思考能力和实际综合应用能力。
4结语
神经网络的难点范文2
人工神经网络（Aartificial Neural Network，下简称ANN）是模拟生物神经元的结构而提出的一种信息处理方法。早在1943年，已由心理学家Warren S.Mcculloch和数学家Walth H.Pitts提出神经元数学模型，后被冷落了一段时间，80年代又迅猛兴起［1］。ANN之所以受到人们的普遍关注，是由于它具有本质的非线形特征、并行处理能力、强鲁棒性以及自组织自学习的能力。其中研究得最为成熟的是误差的反传模型算法（BP算法，Back Propagation），它的网络结构及算法直观、简单，在工业领域中应用较多。
经训练的ANN适用于利用分析振动数据对机器进行监控和故障检测，预测某些部件的疲劳寿命［2］。非线形神经网络补偿和鲁棒控制综合方法的应用（其鲁棒控制利用了变结构控制或滑动模控制），在实时工业控制执行程序中较为有效［3］。人工神经网络（ANN）和模糊逻辑（Fuzzy Logic）的综合，实现了电动机故障检测的启发式推理。对非线形问题，可通过ANN的BP算法学习正常运行例子调整内部权值来准确求解［4］。
因此，对于电力系统这个存在着大量非线性的复杂大系统来讲，ANN理论在电力系统中的应用具有很大的潜力，目前已涉及到如暂态，动稳分析，负荷预报，机组最优组合，警报处理与故障诊断，配电网线损计算，发电规划，经济运行及电力系统控制等方面［5］。
本文介绍了一种基于人工神经网络（ANN）理论的保护原理。
1、人工神经网络理论概述
BP算法是一种监控学习技巧，它通过比较输出单元的真实输出和希望值之间的差别，调整网络路径的权值，以使下一次在相同的输入下，网络的输出接近于希望值。
在神经网络投运前，就应用大量的数据，包括正常运行的、不正常运行的，作为其训练内容，以一定的输入和期望的输出通过BP算法去不断修改网络的权值。在投运后，还可根据现场的特定情况进行现场学习，以扩充ANN内存知识量。从算法原理看，并行处理能力和非线性功能是BP算法的一大优点。
2、神经网络型继电保护
神经网络理论的保护装置，可判别更复杂的模式，其因果关系是更复杂的、非线性的、模糊的、动态的和非平稳随机的。它是神经网络（ANN）与专家系统（ES）融为一体的神经网络专家系统，其中，ANN是数值的、联想的、自组织的、仿生的方式，ES是认知的和启发式的。
文献［1］认为全波数据窗建立的神经网络在准确性方面优于利用半波数据窗建立的神经网络，因此保护应选用全波数据窗。
ANN保护装置出厂后，还可以在投运单位如网调、省调实验室内进行学习，学习内容针对该省的保护的特别要求进行（如反措）。到现场，还可根据该站的干扰情况进行反误动、反拒动学习，特别是一些常出现波形间断的变电站内的高频保护。
3、结论
本文基于现代控制技术提出了人工神经网络理论的保护构想。神经网络软件的反应速度比纯数字计算软件快几十倍以上，这样，在相同的动作时间下，可以大大提高保护运算次数，以实现在时间上即次数上提高冗余度。
一套完整的ANN保护是需要有很多输入量的，如果对某套保护来说，区内、区外故障时其输入信号几乎相同，则很难以此作为训练样本训练保护，而每套保护都增多输入量，必然会使保护、二次接线复杂化。变电站综合自动化也许是解决该问题的一个较好方法，各套保护通过总线联网，交换信息，充分利用ANN的并行处理功能，每套保护均对其它线路信息进行加工，以此综合得出动作判据。每套保护可把每次录得的数据文件，加上对其动作正确性与否的判断，作为本身的训练内容，因为即使有时人工分析也不能区分哪些数据特征能使保护不正确动作，特别是高频模拟量。
神经网络的硬件芯片现在仍很昂贵，但技术成熟时，应利用硬件实现现在的软件功能。另外，神经网络的并行处理和信息分布存储机制还不十分清楚，如何选择的网络结构还没有充分的理论依据。所有这些都有待于对神经网络基本理论进行深入的研究，以形成完善的理论体系，创造出更适合于实际应用的新型网络及学习算法［5］。
参考文献
1、陈炳华。采用模式识别（智能型）的保护装置的设想。中国电机工程学会第五届全国继电保护学术会议，［会址不详］，1993
2、Robert E.Uhrig.Application of Artificial Neural Networks in Industrial Technology.IEEE Trans，1994，10（3）。（1）：371～377
3、Lee T H，Wang Q C，Tan W K.A Framework for Robust Neural Network-Based Control of Nonlinear Servomechannisms.IEEE Trans，1993，3（2）。（3）：190～197
神经网络的难点范文3
关键词：电力市场；电价；预测；方法
中图分类号：TM744 文献标识码：A 文章编号：1006-8937（2013）18-0118-02
随着世界各国电力市场化的改革，电价在整个电力行业中的地位逐渐凸显，越来越受到了电力行业专家学者和电力企业的重视，国内外对电力市场中的电价预测进行了广泛的研究。所谓电力市场中的电价预测，就是指根据数学方法在电力市场的模式下，在满足相关数据精度要求的前提下，基于历史数据对电价进行合理的预测。这种预测对指导电力市场电价核定具有重要的作用，能够对电力市场中的电价提出合理的建议，本文对电力市场中电价预测方法进行了综述。
1 电价预测的特点和分类
电价预测具有和负荷预测相似的特点，其预测结果也是具有一定周期性的。同时，电价预测具有自己的特点，即其具有波动趋势长的特点，其在一个周期内是持续着波动和变化的状态。在通常情况下，用电市场中的电价与整个电力市场的制度是有很大关系的，同时还受到整个社会经济的影响。因此，这就增加了对电价预测的难度，导致在电价预测中难以应用传统的负荷预测方法，如一元线性回归方法或倍比法等，这些都难以对电价进行准确的预测。
根据上述的进行电价预测的特点，我们在进行电价预测时可以进行分类预测，即将电价分为市场统一的电价预测和基于边际的电价预测。通常我们所提到的都是指市场统一的电价预测，即在通常情况下认为区域的统一电价与边际电价都是统一的。
根据对电价所预测内容的不同，电价预测可以分为空间电价预测和确定性的电价预测，其中空间电价预测是基于数理统计和概率有关知识，确定空间电价的合理波动范围，并在一个确定的时间内给出电价的平均值，因此，空间电价预测主要是基于长期的电价预测；而确定性的电价预测主要在一个非常短内的时间进行电价预测，其电价预测结果表示为一个较为确定的值。
根据电价预测的原理不同，电价预测可划分为长期的电价预测方式和短期的电价预测方式。具体的根据电价所表现的波动性质，可将电价合理的划分为若干小时的电价预测，一日内的电价预测和一个季度的电价预测。
电价预测是电力行业发展和研究的新方向，对其研究有助于电力市场化的实施和发展，但当前对电价的预测还不够充分，尚未有一种方法能够对电力市场进行有效的预测，因此有必要对电力市场中的电价预测方法进行深入的研究，有效提高电价预测的精度和速度。下面分别对短期电价预测和中长期电价预测方法进行总结。
2 短期电价预测方法分析
作为整个电价预测理论体系中最为重要的一部分，短期电价预测主要是对未来若干个小时内到几天内的电价进行预测。提高短期电价预测的准确度有利于发电企业选择最合理的报价策略，进而使其利润最大化，而且还有助于有效控制购电用户的成本，同时更有利于相关的监管部门对电力市场进行有效的监管，确保电力行业中市场的稳定安全运行。当前，进行短期电价预测的方法主要有以下四种，即以时间推移为基础的时间序列法、以神经网络理论为核心的神经网络法、以傅里叶变换和小波变换为核心的预测法及组合预测的方法等，本文分别进行介绍。
2.1 时间序列方法
时间序列方法是基于AR、MA和ARMA模型，利用回归分析对短期电价预测进行分析的方法。由于短期电价预测中各个时间段系统的边际电价为一个等距离的随机序列，因此可用AMRA模型进行短期电价的预测。这种方法的局限性无法充分考虑市场对电价的综合影响，且难以选择合理模型，如果模型选择的不合理，则即使参数估计的再精确也难以达到理想的预测效果。
2.2 神经网络法
神经网络方法能够有效处理多变量的问题，因此能够适应非结构性和非精确性的预测，这正是电价预测所需要的。应用神经网络进行预测时，需要仔细分析预测成本和输入层数等，且网络结构选择大都是根据相关经验进行的，或者采用试凑法来进行，可能存在难以收敛或者精度不够的问题，这是神经网络法在短期电价预测中的弊端。神经网络法又可分为SP神经网络法和RBF神经网络法。
2.2.1 SP神经网络法
作为当前作为应用作为广泛同时也是最为成熟的一种神经网络方法。SP神经网络法能够依据最小均方差的有效方式，采用适应性的网络模式，在对函数评价最小化时能够对输入信号进行有效的映射，这种映射方式由于是非线性映射，其可进行复杂模式的识别。电价的短期预测正是需要对影响电价的各种因素进行评估，而这些因素和电价的关系大都是非线性的，因此，利用SP神经网络法能够有效解决短期电价预测的问题。相关学者通过对原始数据进行分析，得到了UMCP的明显变化趋势，并对其进行综合处理后，对数据的可用性进行了有效的增加。通过对其相关性进行分析，使其输入变量能够有效适应实际电价的变化。在SP神经法中并加入了权重值，通过拟合的方法能够有效进行预测。SP神经网络法所得到了预测结果大都能让人满意，但其缺点是无法考虑各个时间段的相关性，且在负荷变化较为缓慢时预测精度不够，且难以预测较为剧烈变化的电价，同时有时输出结果不够稳定，计算的速度较慢。
2.2.2 RBF神经网络方法。
国内外学者通过利用径向函数可以实现RBF神经网络法。RBF神经网络法是基于隐层的神经网络节点数、连接权和中心向量的，其要求隐层的节点数具有不可微和不连续的性质，因此必须利用阶梯遗传算法对RBF的网络参数进行训练，这样就能够有效实现网络节点数和参数的优化。这种方法能够有效解决SP神经网络法所存在的局部最大值和最小值这个缺陷，但其弊端是在负荷变动较大，且在电价的峰值时难以进行预测。
RBF神经网络法虽然结构较为简单，但其逼近和分类能力等方面都是比BP神经网络法优秀的，其所存在的应该解决的问题主要有：如何合理确定相关网络函数的数据中心，并通过聚类的方法进行有效的量度和定义；如何找到合理的径向函数；如何较为合理的反应影响电价的各种非线性因素及如何合理的选择基函数。
2.3 基于傅里叶变换的小波预测方法
小波分析法比神经网络法能够更加准确地对短期电价进行预测，其难点在于合理选择小波的尺度和分界度，同时合理处理小波变换中的边界问题，这样才会取得良好的短期电价预测效果。
2.4 组合方法
所谓组合方法，就是指通过对上述电价预测方法的组合来实现电力市场中电价预测。由于对电力市场中的电价影响因素较多，且各个影响因素较为复杂，有些时候无论采用何种方法，如时间序列法、回归方程法及神经网络法都难以得到满意的结果。因此许多专家学者基于电力市场的实际特点，提出了组合预测的方法。当前电力市场中电价组合预测方法都是基于某种预测机理将某一单一的电价预测进行有效的组合，即首先对单一的预测方法进行有效的分析，然后通过对两种或者多种方法进行对比，采取有效的方法组合，进而得到最有效的电价预测方法。
当前国内外研究生所提出的组合预测方法主要有两种：一种是将权重固定的电价组合预测方法；二是对权重进行改变的电价组合预测方法。其根本思想都是将对电价预测的各种方法进行有效的组合，进而得到一个合理的最佳电价预测结果。组合电价预测方法的核心内容是合理选择权重，其权重选择需要受电价各种因素的影响。由于当前各种电价预测方法的精度都不够高，如何合理将这些方法进行组合也是组合电价法的重点和难点。当前电价组合预测中所采用的主要的组合预测方式有：合理选择电价影响因素，根据各个影响因素的历史特征来进行数据筛选，然后在利用传统的方法依据影响因素的不同进行有效的分离，进而进行各种预测，将各个预测的结果进行对比分析即可得到最后的预测结果。组合电价预测方法的核心是要实现多种电价预测方法的有效互补和利用，这样才能提高电价预测精度，取得良好的电价预测效果。
3 中长期电价预测
在电力市场中对中长期电价进行准确的预测有助于发电企业合理安全年度生产计划，并为相关的电力投资商提高良好的参考依据，同时也有助于电力监管部门制定长期的监管政策，对电网企业而言，有利于其对电网的运行进行合理的安排。因此，研究电力市场中的中长期电价预测具有非常重要的意义。
由于存在多种因素对电价进行影响，同时这些因素具有非常大的不确定性，而且电价的中长期预测的周期较长，所以对电价进行中长期预测的难度是非常大的。当前国内外研究人员对中长期电价预测的研究较少，现有的研究成果大都是将电价等效为随机变量，对其分布函数进行研究，在其分布区间内建立有效的预测模型。
在电价长期预测方法中，采用模糊方法与采用神经网络方法对相关不确定性因素的处理思想是不一致的，采用模糊方法不是盲目地追求相关的预测精度，而是要构建预测数据的分布情况，而采用神经网络法则是要合理的对现有数据进行分析，确定自变量和因变量的关系，进而达到合理预测电价的目的。中长期电价预测最重要的影响因素就是电力负荷的长期需求情况及社会经济的发展情况，同时还应考虑发电厂企业的电源建设情况，要合理确定中长期电价与整个系统剩余百分比的关系，重点研究电价的整体变化趋势，有效确定中长期电价的置信区间。当前对中长期电价预测的研究还是不够充分，还需国内外电价预测研究者进行深入的研究。
4 结 语
本文对当前的电价预测方法进行了总结和综述。针对不同形式的电力市场，所采取的电价预测方法也有所不同，应综合电价预测方法的优点，对具体情况进行具体分析，有效提高电价预测的精度，使其在电力市场和电力系统中发挥越来越重要的作用。
参考文献：
神经网络的难点范文4
关键词：神经网络；感兴趣区域；自动分割；自组织特征映射；多模态上下文关联
中图分类号：TP391文献标识码：A文章编号：1009-3044(2011)25-6209-03
An Automatic Segmentation Approach for CT Image Based on Neural Network
CHU Jian, YU Wen-xue
(The Image Technology Laboratory, Southeast University, Nanjing 210096, China)
Abstract: Neural network is hot in pattern recognition theory, and useful for image segment. The way to extracting the region of interest (ROI) from medical images and automatically identifying is difficult. With the in-depth analysis of neural network algorithm, it’s proposed that self-organizing map (SOM) and multi-module contextual (MMC) combined neural network method to achieve automatic segmentation in CT images. Using the prior knowledge of anatomy combined with the image, it sets the feature descriptors and evaluation of criteria, to automatically identify the image region of interest, tissues and organs.
Key words: neural network; region of interest; automatic segmentation; self-organizing map; multi-module contextual
图像分割是指根据区域内的相似性及区域间的不同，将图像分成各具特性的区域，并提取出感兴趣区域的技术和过程。而医学图像分割在医学和解剖上更具有明确的意义，是当前医学图像领域的热点和前沿课题，也是医学图像处理和分析过程中的关键技术，更是进行图像识别、图谱匹配、可视化、定量分析和计算机辅助诊断等处理的必要前提[1]。目前，医学图像分割主要以各种细胞、组织与器官的图像作为处理的对象。例如磁共振颅脑图像的分割，其目的就在于清晰地描绘出颅脑各个解剖结构的边界，如灰质、白质、脑脊液以及MR图像中的其它组织。如何从医学图像中将感兴趣区域（病灶、组织器官等）提取出来，是图像分析和识别首要解决的问题，也是制约医学图像处理中其它技术发展和应用的瓶颈。传统的医学图像分割停留在人机交互水平，处理时间较长且受人为因素影响，而自动分割正是解决此问题的方法，也是近年来的研究热点，代表着医学图像分割未来的发展方向[2]。
结合目前热点研究神经网络理论，利用其可学习训练和反馈特性，对医学图像像素进行分类，并提取感兴趣区域（Region of Interest，ROI）轮廓。而神经网络方法分割图像的思想是用训练样本集对神经网络进行训练以确定节点间的连接和权值，再用训练好的神经网络分割新的图像数据。本文给出一种结合多模态上下文关联神经网络(Mutimodule Contextual Neural Network，MMC)算法和Kohonen自组织映射神经网络（Self-organizing Map，SOM）算法的方法，对目标医学图像进行分割，得到可能的组织轮廓。再依据图像解剖结构的先验知识，设定判定准则和特征描述子计算，提取出感兴趣区域轮廓。本文提出的神经网络自动分割方法，实现对腹部CT的自动分割，并自动提取感兴趣区域组织轮廓。
1 神经网络自动分割
根据文献[3-5]中所提出的多模态上下文关联神经网络(MMC)算法所描述，可以结合Kohonen自组织映射神经网络（SOM）方法[6-7]，再利用图像灰度信息和邻域相关信息，将图像像素分类，从而实现感兴趣区域分割的方法。下面就这个方法过程进行阐述，并加以改进和实现。
1.1 MMC神经网络分割
首先，将图像像素大小设为n，并将其划分为m个分类。假设n个像素概率向量集合P={P1,P2,…,Pi,…Pn}，其中1≤i≤n，Pi=[pi1,pi2,…,pik,…pim]T。则集合P中向量元素Pi表示为像素i隶属于m个分类的概率向量，而向量Pi中的元素pik表示像素i隶属于第k类的概率。根据概率向量归一性，Pi满足下式：
（1）
对应于神经网络，每个神经元即代表某个唯一像素。对于第i个神经元的分类模型k概率值pik(t+1) ，由其当前概率值pik(t)和相邻神经元的影响值vik(t)所决定，则pik(t+1)的迭代公式可表示如下式：
（2）
其中模型输出函数f(x)定义成：
（3）
公式（2）中分母满足归一化条件，使得结果pik(t+1)在式（1）成立。
同时公式（2）中的vik(t)可由下式获取：
（4）
其中，表示当前神经元（像素）i的邻域，l则表示i邻域神经元的个数。同时，权重矩阵W=[W1,W2,…,Wi,…Wm]T=[wi,j]，1≤i, j≤m ，wi,j即为两个神经元之间的权重系数。
由公式（4）分析可知，若Wk(1≤k≤m)具有较大的兼容性，则结果会是正值，同时概率向量Pi+δ中的元素 Pi+δ，k的值比较大，那么vik的值将是较大的正数；若Wk只有较小的兼容性，则结果为负，同时概率向量Pi+δ中元素 Pi+δ，k比较大，那么vik的值将是较小的负数。但如果Pi+δ，k偏小，则可以它忽略其对vik的影响。此外，可以简单的定义权重矩阵为：
（5）
由迭代式2可知，第 k 类的神经元 i 重复迭代，不停接收邻域神经元的响应，并产生新的输出pik(t+1)。运用此方法之前，每个像素分类隶属度应该明确，即初始概率向量Pi(0)在迭代开始之前，就应该计算出来。而下一小节阐述的自组织映射（SOM）神经网络算法，则可以分析图像像素灰度的分布情况，并且计算出每个像素隶属分类的初始概率向量Pi(0)，即作了预分割处理。
1.2 SOM神经网络分割
经典的SOM算法包含训练和回调两个部分，下面给予算法公式和分析。
1）训练过程。首先，设图像的灰度值集合A={I1, I2,…,Ii,…In}，其中Ii就是像素i的灰度值，n仍然表示图像像素大小，即训练的样本容量。再将灰度Ii与SOM神经网络第k个神经元的权重系数表示为Lk (1≤k≤m)，其中m仍为分类数。权重系数Lk也是图像的模糊聚类中心。则在对图像进行聚类分析时，SOM神经网络依据下式进行训练：
（6）
其中下表索引c即为获胜神经元（最优匹配）。而获胜神经元相邻的权系数由下式进行迭代：
（7）
其中α(t)为训练学习效率，Nc(t)为获胜神经元c在当前t时刻的邻域函数。训练过程中，α(t) 和Nc(t) 一直在衰减，且0
2）回调过程。由式（6）可知，像素i 对应的获胜神经元c通过训练学习可以确定下来。其隶属于每个分类的初始概率向量Pi(0)，也可以通过高斯分布N(c,σ)进行初始化。Pi(0)的初始化式为：
（8）
其中标准方差σ即是控制初始概率的扩散因子。式中分母则起到归一化作用，使得pik满足式（1）。
由式（8）的结果可知，在Pi(0)初始概率向量中，获胜神经元所代表元素pic的值很大，而其它元素较小，这是由变量σ和|k-c| 的大小所决定。
通过初始概率向量Pi(0)和神经网络权重矩阵W设置，代入式（2）迭代运算，直到Pi=[pi1, pi2, …, pik,…pim]T满足如下收敛条件：
（9）
其中ε取值很小，以保证迭代能够中止。
1.3 图像解剖结构的先验知识判定
医学图像通过上述神经网络算法进行轮廓分割后，得到可能的组织轮廓结果。此时利用组织区域的判定特性和相关特征条件，可以从所有轮廓中对比识别感兴趣器官或组织。而这些组织器官区域的特征，是由图像解剖结构的先验知识所确定的。本文处理图像是腹部CT，其中重要组织器官特征如下所示[8]：
1) 脊椎：一般位于图像中底部，且离图像中心点较近。最突出的是，脊椎属于骨骼高密度组织，其灰度值最大。故很容易定位和作参考，一般可以用作固定标记点，即切片中描述感兴趣区域相对位置的参考点。
2) 脊髓：通常在脊椎内，属于密度偏小的软组织，在CT图像中其灰度值相对脊椎小很多，黑白对比明显，很容易区分。但部分切片中，脊椎被分成上下两块，上一块较圆，下一块倒三角形，而脊髓处于条缝里。此时脊髓的分割轮廓分散，通过特殊条件处理才能识别。
3) 肾脏：两个肾脏恰好分布在脊椎两侧，对应于左肾和右肾。肾脏形状相对规则，组织区域的紧密度也较大，轮廓边界清晰。
4) 肝脏：位于右肾的右上方。若切片没有右肾，则定位于脊椎右上方，且距离脊椎较远。肝脏的面积和紧密度都比较大，部分切片中肝脏还可能分成数个区域，故位置和组织范围变化较大，必要时给予区域合并。
上述解剖结构位置和大小，及图像中的灰度分布情况，可以转换成组织器官识别的判定准则。针对腹部CT图像，组织器官识别顺序是脊椎，脊髓，肾脏（左肾和右肾），肝脏。
有了组织解剖结构条件做先验知识判定，再定义一组相关特征描述子来对ROI进行量化分析，常用描述子有相对距离、周长、面积、相对位置、组织密度、紧密度等，这里不再细述。
2 实验结果及分析
依据上节的理论算法分析，可以给出相应的神经网络算法实现过程，如图1。
由上述算法公式和图1流程图，通过程序实现单张CT切片神经网络自动分割。首先，关注实验过程中的重要参数设置：
a）窗口调节参数：窗宽 W=380，窗位 L=10；
b）图像像素隶属分类数：m=7；
c）SOM神经网络参数（公式6）：Nc(t)神经元作用半径r=1，学习效率α(t)=0.2，SOM学习迭代次数（最长时间）Epoch=500；
d）MMC神经网络参数（公式2，6）：高斯分布扩散因子σ=1.5，MMC学习迭代次数nIter=3。
通过上述参数设置，针对单张腹部CT切片进行自动分割识别。先将16位原图调整窗宽窗位，并压缩至8位灰度图，提高学习效率。输入到神经网络，先SOM算法进行初始分割，通过训练回调确定分类中心初始值，再通过MMC算法训练迭代确定分类概率向量，并由此提取组织轮廓。最后由先验知识判定规则，实现ROI的自动识别，并对识别组织器官轮廓进行平滑处理。图2给出完整的单张切片分割识别处理图（a-d），由图2（c）可见神经网络分割所得可能的分类组织轮廓清晰，且边界光滑，所有分割轮廓数是64；再由图2（d）所示，显示轮廓数是5，且成功识别腹部重要器官，并提取组织轮廓。实验条件在CPU2.40GHZ，内存2G的PC机上执行，算法所耗用时间为10S，适用于临床使用和辅助治疗。
（a）原始16位图 （b）压缩8位图(W=380,L=10)（c）分类组织轮廓 （d）组织器官识别
图2CT图像神经网络自动分割
（W=380,L=10,m=7，r=1，α(t)=0.2，Epoch=500，σ=1.5，nIter=3）
3 结论
本文通过多模态上下文关联和自组织映射神经网络相结合的方法，实现对CT图像的自动分割，并利用解剖先验知识对分割结果进行组织识别，最终提取感兴趣区域组织轮廓。该方法实验成功，下一步研究将针对神经网络样本可学习性，实现序列切片的有效率自动分割。
参考文献：
[1] 章毓晋. 图象分割[M].北京:科学出版,2001:1-4.
[2] 姜晓彤,罗立民,汪家旺,等.一种肺部肿瘤CT图象序列的自动分割方法[J]. 中国图象图形学报, 2003,8(9):1028-1033.
[3] Lin W C, Tsao E C K, Chen C T. Constraint satisfaction neural networks for image segmentation[J].Pattern Recognit., 1992,25(7):679-693.
[4] Haring S, Viergever M A, Kok J N. Kohonen networks for multiscale image segmentation[J].Image Vision Comput.,1994,12(6):339-344.
[5] Rosenfeld A, Hummel R A, Zucker S W. Scene labeling by relaxation operations[J].IEEE Trans. Syst., Man, Cybern.,1976,(SMC-6):420-433.
[6] Valli G. Artificial neural networks for t he segmentation of medical images [R].Technical Report No.940702,1994.
神经网络的难点范文5
关键词：油藏；拟合；贝叶斯；正规化算法；神经网络
中图分类号：TE319 文献标识码：A 文章编号：2095-1302(2012)04-0045-03
Application of Bayesian regularization algorithm in reservoir parameter fitting
PAN Yong-cai, SHAN Wen-bing, ZHANG Shang-hui, WANG Fu
(Hubei University of things electrical College, Wuhan 430062, China)
Abstract: The known logging data to predict reservoir reserves is an important research topic in the oil industry. In this paper, the algorithm based on Bayesian regularization BP neural network is introduced and the applications to specific methods in the reservoir parameter fitting process is also described. This method plays a significant role in improving the oil production efficiency and reducing the costs.
Keywords: reservoir; fitting; Bayesian; regularization algorithm; neural network
0 引 言
油藏参数拟合主要就是非线性函数拟合的过程。非线性函数拟合方法有很多种[1]，主要分为等值线图法、解析内插法、曲面拟合法及神经网络方法等。使用神经网络方法要达到好的拟合效果，主要要解决三个问题：一是样本的选择；二是网络结构的设计；三是训练策略的选择。其中网络结构的设计和训练策略的选择是难点。本文给出的就是基于收敛速度快、泛化能力较强的贝叶斯正规化算法[2]的神经网络进行设计的具体方法。
1 油藏参数拟合中需要解决的问题
假定油藏储量与测井资料中的数据存在以下数学模型：
式中， f(xi, yi)为对应输入与输出之间的关系式， 为误差。现假定：
那么，对于每个样本值，都可以列出以上方程，并在条件下，求解出的值，最终求出待求点的油藏储量。
假设区域内有6个公共点。此时有：
这样，我们需要解决的问题就是按某种方法求出模型待定参数的数值。
2 BP网络与贝叶斯正规化算法
人工神经网络是生物神经系统的一种高度简化后的近似。它具有非线性映射能力和无模型估计的特征，是处理非线性映射问题的有效工具。BP网络是应用最为广泛的神经网络。它具有输入层、输出层、隐含层（一层或多层），相邻层之间通过权值全连接。它包括信息的正向传播和误差的反向传播两个过程，输入时由输入层经中间层向输出层顺向传播；实际输出与期望输出之差值（即误差）由输出层经中间层向输入层逐渐修正连接权的方式逆向传播。两个过程反复交替，就可以使网络趋向收敛。该网络的结构、学习样本与训练策略对网络性能影响很大，为了解决其训练速度慢和易于陷入局部最小值的缺点，设计可以采用Levenberg-Marquardt（LM）算法；为了防止过拟合，设计采取在训练样本中随机添加噪声的方法；为了提高泛化能力，则可采用贝叶斯正规化法来解决。下面介绍实现拟合的具体过程。在介绍之前，下面先介绍一下神经网络的基本知识。
3 神经网络介绍
3.1 人工神经元模型[1,3]
图1所示是一个人工神经元的基本模型图。
图1中的作用可分别以下面的数学式表达：
其中，为神经元i的输入信号；为突出强度或连接权； 是由输入信号线性组合后的输出；为人工神经元的阈值或称偏差 （用表示）；为经偏差调整后的值，也称为神经元的局部感应区；为激励函数； 是神经元i的输出。这样，则有：
3.2 BP网络结构[1，3]
典型的BP神经网络是含有一个隐含层的三层网络结构，其中包括一个输入层，一个输出层，一个隐含层。图2所示是一个三层BP网络结构图。
图2 三层BP网络结构图
这个网络输入层有n个神经元，输出层有q个神经元，隐含层有p个神经元。输入信号从输入层节点依次传过各隐层节点，然后传到输出层，每一层节点的输出只影响下一层节点的输出，相邻层每个节点通过适当的连接权值向前连接。
3.3 神经网络模型在软件中的设计与实现
采用贝叶斯正规化BP神经网络的三层网络设计模型，应首先确定各层神经元的个数{Var_num,Nb,1}(Var_num为输入参数的个数，隐藏层神经元个数可通过计算得出)；为了计算方便，这里首先把网络变量设置如下：
输入模式向量：；
期望输出向量：；
中间层各单元输入向量：；
中间层各单元输出向量：；
输出层各单元输入向量：；
输出实际值向量：。
输入层至中间层的连接权为；中间层至输出层的连接权为；中间层各单元的阈值为；输出层各单元的阈值为。其中：
激活函数采用S型函数：
误差函数为：
学习算法采用L-M优化算法。L-M算法又称阻尼最小二乘算法，其权值调整公式为：
其中， J为误差对权值微分的雅克比矩阵，e为误差向量， μ为阻尼因子，I为单位矩阵。
标准神经网络学习的目的是找出使误差函数E为最小的网络参数W，而使上述目标函数达到最小的函数有无限多个，即式子的解并不唯一。因此，由有限数据点恢复其背后隐含的规律问题往往不太合适，而应采用正规化理论，即加入一个约束性项使问题的解稳定，从而得到有用的解。依据正规化的理论设置的目标函数为：
其中， EW代表正规化方法中网络的复杂性和平滑性，P代表平滑性约束算子；α，β控制着其他参数（权与阈值）的分布形式，被称为超参数。正规化法通过采用新的性能函数，可以在保证网络训练误差尽可能小的情况下，使网络的有效权值尽可能少，从而有利于提高神经网络的泛化能力。超参数α, β 的大小决定着网络训练误差和网络结构的复杂性，常规的正规化方法很难确定超参数α, β的大小，所以，应采用贝叶斯方法来确定超参数，可以在网络的训练过程中自适应地调节超参数的大小，使其达到最优。采用贝叶斯方法计算超参数的公式如下：
其中，，A是的Hessian阵，表示有效的网络参数的数目，可用于反映网络的实际规模，N是网络所有参数的数目。
在软件中实现神经网络模型的步骤如下[2]：
第一步：初始化 α、β, 权值wij、vij以及阈值、 ，设，并用Nguyen-Widrow法初始化权值。
第二步：利用L-M算法最小化目标函数。LM算法步骤如下[5，1]：
首先，应将所有样本归一化值输入到网络并用公式计算出网络输出，再用误差函数计算出训练集中所有目标的误差平方和。计算过程如下：
（1） 用输入样本归一化值、连接权及阈值计算中间层各单元的输入，然后用通过传递函数计算中间层各单元的输出：
（2）同理计算输出层各单元的输入，以及输出层单元的响应：
（3）计算训练集中所有目标的误差平方和：
之后，再计算出误差对权值微分的雅可比矩阵 。雅可比矩阵元素计算公式如下：
其中：
式中，代表误差对m层输入的第i个元素的敏感性，n为每层网络的加权和。
然后再用公式 ，求出。最后，用重复计算误差平方和。如果新的和小于第一步中计算的和，则用除以，并转入第(2)步；否则，直接用除以。当误差平方和减小到某一目标时，算法即被认为收敛。
第三步： 计算有效参数的数目，其中海森矩阵A利用Gauss-Newton[6]逼近。
第四步：计算目标函数的新参数值。
第五步：迭代进行第二到第四步，直到收敛为止。
在训练过程中，可以根据有效参数的取值来确定隐藏神经元的个数（记为）及网络是否收敛。对于给定的，当经过若干步迭代后，如果这三个参数处于恒值或变化较小，则说明网络训练收敛，可以停止训练。
4 结 语
实验证明，通过采用拉丁超立方抽样方法选取样本后，再通过以上贝叶斯正规化和L-M算法设计神经网络，即可最终达到对油藏历史数据进行辅助拟合之目的。
参 考 文 献
[1] 宋克坚，朱轶群. 基于LM算法的BP神经网络在GPS高程拟合中的应用［J］.浙江测绘，2009（3）：13-15.
[2] 徐建伟.贝叶斯正规化BP神经网络及其在医学中的应用［D］.太原：山西医科大学，2006.
[3] 韩力群.人工神经网络理论、设计及应用［M］.北京：化学工业出版社，2007.
[4] 高隽.人工神经网络原理及仿真实例［M］.北京：机械工业出版社，2003.
神经网络的难点范文6
关键词：结构损伤检测结构健康诊断/监测 神经网络 Bp网络 概率神经网络
中图分类号：TU318 文献标识码：A
0引言
随着土木工程事故的频繁发生，工程质量的好坏引起了人们的日益重视。工程结构中存在着表面的某种破损或缺陷，这些事肉眼可见的。但建筑材料由于荷载和环境的作用而使结构内部受到不同程度的损伤，这类损伤与缺陷是人们肉眼看不到的。结构的缺陷与损伤严重地降低了结构的安全性、适用性和耐久性，因此迫切需要对它们进行健康诊断进而更好地对它们进行维修、加固、管理和使用。
50年来，我国土木工程结构的健康监测经历了从无到有、从单项到全面、从局部构件到整体结构的发展过程，特别是最近20多年，结构损伤检测技术逐步形成了一门较为完整的新兴边缘综合工程学科，并得到快速的发展，其应用对象已从开始阶段的单层的破旧民居扩展到建设工程中的各类结构。结构健康诊断技术是保证结构安全的基本措施之一，它能对结构损伤的发展做出早期预报，对出现损伤的原因做出判断，提出对策建议，避免或减少事故的发生。如今，土木工程结构的健康诊断与防治在国民经济建设中所占的比重越来越高，相应的技术研究和应用开发也成为一个重要方向，各国土木工程领域的研究开发重点已逐步转向这一领域，我国的科技工作者与工程领域也开始广泛关注这方面的研究。结构健康监测的发展与应用对于提高建设工程的质量起到了积极的作用，在节省国家与企业的资金、保障企业生产安全和人民生命财产的安全方面也起到了一定的作用，因此对结构损伤检测方法的研究是有一定的现实意义的。
1.结构损伤检测[1]
土木工程结构的健康监测和损伤检测技术是一门新兴的科学技术，目前正处于蓬勃的发展之中。虽然这种技术已被广泛应用于航空、航天精密机械等领域之中，但是在土木工程领域的研究还处于起步阶段，绝大多数研究还仅仅局限于实验阶段。虽然国内外已有一些桥梁、建筑已经开始现场监测工作，但是整个研究工作和技术的成熟还有待时日。
对结构进行损伤（或故障）检测、诊断与评估师一个运用数学模型建立并描述物理系统的过程，对于遭受不同程度破坏的结构，其本身的某些特性往往发生变化。为了鉴定这些变化对结构的影响程度，常进行一系列的模拟实验，测定相关的荷载、位移、应变及加速度等，从材料性能如强度、刚度和动力特征（如振动频率和阻尼比）方面对结构做出评估。
理想的结构健康监测与损伤识别技术应能在结构损伤出现的较早时期发现损伤，在传感器精度允许的情况下确定损伤的位置，估计损伤的程度，并预测出结构的剩余有效寿命。理想的损伤识别方法应该具备的另一重要性能是，能够分区分结构建模误差引起的偏差与结构损伤引起的偏差间的区别。尽管近几年出现了一些运用较为成功的整体监测/检测技术，但对于如何从量测得到的信息来解释结构的安全状态及损伤情况，却远未建立起完善的科学理论，对复杂结构的整体检测仍然是土木工程领域面临的一大挑战。
结构健康监测系统应包括下列几部分：传感系统、数据采集和处理系统、通讯系统、监控中心和报警设备。
2. 结构损伤检测方法[2]-【4】
结构损伤检测的分类方法有许多，从结构承受的荷载来分，结构检测方法分为静力检测方法和动力检测方法；从损伤方法对结构是否产生损坏，结构检测方法可以分为有损检测和无损检测；从检测方法的智能化程度来分，分为传统损伤检测方法和基于计算智能损伤检测方法。
（1）动力损伤检测方法分类
由于动力损伤检测方法对结构物无损害，且检测经济、快速而得到了土木工程界的青睐和重视。一般来说，动力损伤检测方法按照识别区域可以分为时域法和频域法；从研究和应用的角度可以分为模型修正法和指纹分析法。
（2）其他无损检测方法
除动力损伤检测法之外，还有许多无损伤检测法，如目测法、光谱法（Optical Radiography）、超声波法、声发射法、雷达法、激光全息检测法、我留法（Eddy Current）、微波法、热力法等。
（3）智能检测方法
九十年代初，随着微型计算机的发展和广泛应用，计算智能（在20世纪90年代中期被提出）在损伤检测领域逐渐得到了广大研究人员的重视。计算智能在损伤检测领域的研究方向主要有专家系统、神经网络、模糊理论、遗传算法等。本文主要介绍神经网络及其在损伤检测中的应用。
3. 神经网络在损伤检测中的应用[3] [4]
神经网络应用于结构损伤检测中去是近些年来十分活跃的应用领域之一。由于神经网络资深所具有的功能和其信息处理的特点，在满足结构损伤识别算法所要求的实时性、及时性和稳健性等方面，比基于模型的各种方法、传统的模式识别方法和专家系统方法等传统方法悠着更明显的优势，而且，同其它方法相比，在先验信息需求方面更宽松，自适应和可学习能力更强。目前，神经网络损伤识别方法已在结构损伤检测方面的研究越来越深入。
人工神经网络（Artificial Neural Network简称ANN）是在现代神经生理学和心理学的研究基础上，模仿人的大脑神经元结构特性而建立的一种非线性动力学网络系统，它由大量的简单的非线性处理单元（类似的神经元）高度并联、互联而成，具有对人脑某些基本特性的简单的数学模仿能力。人工神经网络最大的特点是适应性，它通过自身的学习机制自动形成所要求的决策区域。
根据生物神经元的结果、作用机制，并作进一步的简化，构成了神经元模型，即人工神经元。神经元模型至今已发展有很多种，常见的模型有：
BP网络模型
反向传播网络（Back-Propagation Network，简称BP网络）是将W-H学习规则一般化，对非线性可微分函数进行权值训练的多层网络。在人工神经网络的实际应用中，80%~90%的人工神经网络模型是采用BP网络或它的变化形式，它也是前向网络的核心部分，体现了人工神经网络最精华的部分。
概率神经网络（PNN）
PNN就是将贝叶斯估计放置于一个前馈神经网络中，其实质就是一个分类器，它根据概率密度函数的无参估计来进行贝叶斯决策而得到分类结果。
模糊神经网络（FNN）
模糊逻辑与神经网络是当前备受关注的两项信息处理技术，都是属于不需要用公式数学模型的信息处理方法，都可以从数据中提炼系统的输入输出之间的规律。将神经网络与模糊逻辑技术有机地融合在一起来发挥互补优势，模糊神经网络随之产生。
以上是几种常见的网络模型，其中最为广泛应用的是BP网络，另外还回归BP网络、Boltzmann机网络等网络模型。
4. 结论与展望
结构健康诊断技术由于其广泛的应用潜力近年来引起了极大的关注，它不仅在所有的智能材料与结构的国际研讨会上提出，并且已经成为一个专门的研究课题。在国际上开展的各个关于结构健康监测的专题研讨会上集中讨论和总结了国际结构损伤检测领域的研究成果，提出了需要进一步研究和亟待解决的问题，极大地推动了结构健康监测技术的发展。
需要进一步研究的问题有：（1）新型传感器和激振器的发展；（2）损伤识别和整体特征描述与评价；（3）系统整体性的研究；（4）结构损伤检测技术在民用结构、桥梁、高速公路系统、大型高层建筑、电厂结构中的进一步应用。
李国强,李杰.工程结构动力检测理论与应用[M].北京:科学出版社,2002.
姜绍飞.基于神经网络的结构优化与损伤检测[M].北京:科学出版社,2002.
