前言:中文期刊网精心挑选了神经网络的实现过程范文供你参考和学习,希望我们的参考范文能激发你的文章创作灵感,欢迎阅读。
神经网络的实现过程范文1
关键词:神经计算机;人工神经网络;实用化研究
中图分类号:TP183 文献标识码:A 文章编号:1007—9599 (2012) 14—0000—02
人工神经网络从字面的意思就是采用人工的方法来实现大脑的思维模式,这是因为随着计算机技术的进步,多阵列CPU组成的计算机网络,能够从一定的程度来模拟实现大脑的思维,将CPU替代人类大脑的神经元,从而实现计算机的人工智能,目前基于神经计算机的人工神经网络技术已经被广泛的使用于科技领域的各个方面,比如本文即将要重点介绍的测控技术和中药现代化。
一、人工神经网络的介绍
人工神经网络就是模拟人脑神经突触结构对信息处理的一种数学模型,是基于仿生学的基础,计算机技术的应用,从而实现类似人脑的逻辑性思维,人工神经网络不是通过一个个程序来实现的逻辑性思维,而是通过大量的节点,图1是节点的示意图:
其中:a1~an为输入向量的各个分量;w1~wn为神经元各个突触的权值;b为偏置; f为传递函数,通常为非线性函数。以下默认为hardlim();t为神经元输出;数学表示 t=f(WA''+b);W为权向量;A为输入向量,A''为A向量的转置;f为传递函数。
节点又叫做神经元来进行相互作用实现的逻辑性思维,包括记忆能力,其中每一个神经元代表了一种输出函数,而通过两个神经元之间的连接信号则称为加权值,这实际上就是人工神经网络的记忆。一个节点的计算公式是: ;其中Y是神经元的输出。 是神经元的第i个输入量, 则是第i个所储权值, 则代表了节点的函数平移量,n代表是节点的个数。由此公式衍生的 =0则代表了n维空间中的超平面。这个超平面把n维空间划分了两个平面,一个平面的 是正值,另一个则代表了负数。
人工神经网络的基本特征主要体现在四个方面,分别是非线性、非凸性,非局限性和非常定性,人工神经网络采用了并行的分布系统,因此具备更高级的自适应,自组织和自学习能力。图2则是上述公式衍生出来的神经元结构图:
二、人工神经网络的模拟实现方法
人工神经网络是一种并行分布式系统,是有一个个并行的简单运算单元所组成,因此通过计算机软件来模拟人工神经网络就变得可行,目前大规模的人工神经网络实现模拟则需要专用的硬件,这种硬件设备能够针对某一种特定的人工神经网络,这些硬件设备在制造的过程中有关加权值已经固定,这种固定式人工神经网络芯片主要用于运算非常大的场合;另一种硬件就是通过增加可擦写存储器的半固定电路,对人工神经网络的相关权值进行更新,这种硬件在人工神经网络组成有中等需求。而可以随时更改神经网络结构模型,线性结构和权值的硬件又被称作通用性人工神经网络硬件,这种硬件的需求量较小,但是适应人工神经网络的研究和开发。更高级的硬件就是神经计算机,所谓神经计算机就是一种专门模拟神经网络单指令流,多数据流的并行计算机,在模拟人工神经网络实现时,具有极高的性价比,DSP芯片或者是Transputer芯片是目前人工神经网络构成的主要元件。
三、神经计算机的人工神经网络实用化分析
(一)人工神经网络在测控技术方面的实用化研究
测控技术使用到人工神经网络技术比较广泛,比如在测控过程的优化,自学习自适应过程控制以及多传感器系统的数据实时分析,矫正和控制等,在实时图形和实物识别的测控技术上也离不开人工神经网络。目前人工神经网络在测控技术方面的应用主要体现在四个方面,其一能够实现对生产控制过程的参数优化,比如目前集成电路的规模已经越来越大,传统的测控技术很难保证这些集成电路完工后的品质,经过实验证明,通过在对大型集成电路生产过程中,使用人工神经网络技术来对产品进行管控,往往能够提升良品率10个百分点。其二就是通过人工神经网络在测控技术上的实物识别,这种技术能够利用多个领域,比如身份识别,目前通过神经计算机上最新的SLPODBF算法对10种不同的实物进行识别,将这些实物摆出多达三百多种的姿态,通过对神经计算机的训练,最终有效的识别率能够达到98%,目前SLPODBF算法相对于BP算法属于更高级别的智能算法,能够将神经计算机的训练时间缩短两个数量级;其三就是说话人确认的识别技术,语音识别系统自然也是人工神经网络技术的重点之一,通过基于CASSANDRA—I神经计算机的模拟实现语音识别系统,能够将误判率降低到1%以下,这相对于国外比较先进的Veritron 1000系统要有效的多;其四就是基于人工神经网络的自动控制,这种自动控制应该具备自适应,自学习能力,这是人工神经网络技术的核心,通过半制定的神经网络板以及更为先进的神经计算机,都能够适用于不同场合的自动控制,抗干扰能力强,在使用过程中不会因为程序的错误而导致失控。
(二)基于人工神经网络在中药现代化的方面的实用
从上个世纪90年代人工神经网络就已经在我国中药研究领域广泛的应用了,因为人工神经网络具有自学习,自适应以及自组织的能力,能够实现实物识别,根据自身自学习能力,就能够对电信号和图像进行直接处理,而且基于人工神经网络原理的神经计算机操作比较简单,有专门的人机交互界面,非中药专业的爱好人员也能够通过操作,目前人工神经网络在中药方面的应用十分广泛。
神经网络的实现过程范文2
函数逼近在纯数学领域、工程和物理学领域得到了广泛的应用。利用人工神经网络映射能力,通过样本不断学习实现对未知函数的逼近。利用BP神经网络研究人工神经网络在函数逼近中的应用,研究过程利用MATLAB神经网络工具箱设计网络并进行仿真实验。
【关键词】人工神经网络 函数逼近 BP神经网络
1 引言
运用逼近的思想可解决日常生活中的很多问题,随着科学技术的发展形成了一种新的理论--函数逼近论,这种函数逼近论在数学领域、工程和物理学领域得到了广泛的应用。本文研究人工神经网络在函数逼近中的应用,并就网络结构和参数的设计对逼近性能的影响进行分析。
2 函数逼近与BP神经函数网络
在数值计算中,通常需要对函数值进行计算,例如,计算基本初等函数和其他特殊函数。如果函数只在有限点集上给定函数值时,给出一个简单的函数表达式,该函数在包含有限点集的区间内。这涉及到在一区间上使用一个简单的函数来逼近复杂的函数,这是一个函数逼近问题。
BP神经网络一般是指基于误差反向传播算法(Error Back Propagation,BP算法)的多层前向神经网络,BP神经网络的神经元的传递函数一般都是采用Sigmoid型的可微函数,该传递函数可用以实现任意的非线性的输入与和输出间的映射,在数据处理与数据压缩、模式识别与智能系统、函数逼近等领域BP神经网络都有着广泛应用。
3 利用BP神经网络实现函数逼近
下面研究BP神经网络在函数逼近中的应用。对于非线性函数,设计一个BP神经网络实现对该函数的逼近。假设在频率参数设为时对该非线性函数进行仿真研究,通过改变调节隐层神经元的数目n研究函数逼近能力与信号的隐层节点之间的关系。
通过改变非线性函数中的频率参数k和该函数的隐层神经元的数目n,k和n的改变对函数逼近的影响有一定的影响。一般来说,如果非线性函数的非线性的程度越高,对需要设计的BP神经网络的要求则就越高,而且在用相同的BP神经网络来进行逼近时其效果则更差;而且隐层神经元的数目n对于BP神经网络逼近的效果也有很大影响,一般来说BP神经网络逼近非线性函数的能力越强,隐层神经元数目n就需要越大。
现将非线性函数的频率参数设为k=10,在当隐层神经元数目分别取n=10、n=20时,经仿真得出经过训练后的BP神经网络的输出结果如图1和图2所示。
通过上述仿真结果可知,当n=20时,BP神经网络对函数逼近取得了较好的逼近效果。由此可见,隐层神经元的数目n取不同的数值对函数逼近的效果有较大的影响。实验表明,改变BP神经网络的隐层神经元的数目n,可以改变BP神经网络对于函数的逼近效果。BP神经网络的隐层神经元的数目n越多,用BP神经网络逼近非线性函数的能力则越强。
4 结论
本文讨论BP神经网络在函数逼近中的应用,给出了BP神经网络逼近类神经网络模型,研究并讨论BP神经网络的函数逼近性能。应用MATLAB神经网络工具箱设计网络,并通过仿真实验分析了BP神经网络结构与设计对逼近性能的影响。
参考文献
[1]谢庭藩,周颂平.函数逼近论[M].杭州:杭州大学出版社,1997.
[2]飞思科技产品研发中心.神经网络理论与MATLABR2007实现[M].北京:电子工业出版社,2007.
[3]高隽.人工神经网络原理及仿真实例[M].北京:机械工业出版社,2005.
[4]张立明.人工神经网络的模型及其应用[M].上海:复旦大学出版社,2003.
[5]WANG W B,ZHEN G P,LI J Y.Application of BP NN and RBF NN in modeling activated sludge system[J].Transactions of Tianjin University,2003,9(3):235-240.
作者简介
高坤(1978-),男,山东省高密市人。现为滨州学院航空工程学院讲师。主要从事电路与系统等课程的教学与研究。
神经网络的实现过程范文3
关键词:专家系统 神经网络 故障诊断 旋转机械
引 言
针对旋转机械故障的复杂性、多样性和诊断时对领域专家知识的依赖性,对旋转机械的故障诊断提出了采用人工神经网络(ANN)和传统专家系统(ES)融合的新途径,充分利用人工神经网络和专家系统各自特点,使其功能互为补充。解决了传统的专家系统在旋转机械故障诊断中遇到的知识获取的“瓶颈”等问题。同时也解决了单一神经网络系统在旋转机械故障诊断中遇到的不足。这种人工神经网络和专家系统集成的故障诊断方法,能提高旋转机械故障诊断的能力,更大限度地发挥人工智能技术在诊断领域的威力。
1、基于神经网络与专家系统集成的旋转机械故障诊断模型
基于神经网络与专家系统集成的旋转机械故障诊断模型如图1所示。
图1 神经网络与专家系统集成的诊断系统模型
各部分的主要功能是:
1)编译器。主要是将符号知识转换成神经网络所必须的数据知识。
2)神经网络。主要完成专家系统的推理工作。其实质是神经网络的计算,即由已知的征兆向量经过神经网络计算获得故障向量。
3)行为解释。利用网络中的各项数据(包括征兆输入数据、故障输出数据和隐含神经元输出数据)及输入神经元,输出神经元的物理含义并结合知识库中的连接权值来形成规则,其过程相当于神经网络训练的一个逆过程。
4)知识库管理。存储和管理知识库的知识,丰富知识库,以便系统不断完善。
5)人机接口。以友好的人机界面同用户交互。
6) 数据库。用于存储在线监测和诊断时所需的实时检测到的工作数据、推理过程中所需要和产生的各种诊断信息;静态数据库用于存储故障时检测到的数据或人为检测到的一些特征数据。
7) 知识获取。知识获取过程就是网络的学习过程,主要有两种途径实现,一是直接从数据化的实例中学习,二是从传统的专家系统已获取的知识中学习。
2基于神经网络和专家系统的旋转机械故障诊断方法
1) 诊断参数的选取
根据故障机理,若某一故障发生,则其特征参数将发生较大变化。因受各种因索影响,尽量不以绝对值作为异常诊断的依据,而要与初始值或正常值进行比较,用其比值作为检测参数来进行诊断。为此,诊断的监测参数定义为:
(1)
式中: ——相对于 的待检状态参数值;
——相对于 的正常状态参数值。
两者的比值与—门限值进行比较若大于门限值.故障征兆输入取为“1”即故障征兆存在,否则取为“0”,即故障征兆不存在。
2)知识库的建立
它包括知识获取和知识存储两个过程。知识获取表现为训练样本的获得与选择,训练样本来源于同类型诊断对象在正常运转时和带故障运行时的各种特征参数。知识存储是将由训练样本对神经网络进行训练获得的连续权值和阈值进行存储,从而形成知识库。
3)神经网络模块结构图
为了进一步提高系统的推理和学习能力,建立了故障诊断神经网络模型,其结构如图2所示。神经网络采用N层结构的BP网络。抽取出故障若干信息作为网络的输入;并从工程实例中选取有代表性的样本对网络进行训练;训练完毕后即可利用神经网络进行推理。当出现网络拒识样本时,通过专家进行判断推理,然后将此样本输入到训练样本集中,使网络继续学习,对权值进行调整,直至做出正确推理为止。
图2故障诊断神经网络模型
4)知识处理
在旋转机械故障诊断神经网络专家系统中,只需将观测到的故障现象通过编译器转化为数值知识,送入神经网络,然后计算网络输出,最后将网络的数值输出经反编译器转化为符号知识,即得到了故障原因,这种专家系统的知识处理是与神经网络的结构紧密相关的统一体,不需增加相应的推理机构,将数值知识转换为符号知识的反编译器是编译的逆过程,有与编译器类似的结构。
4、算例
以某一旋转机械为例,用MATLAB工具,通过神经网络与专家系统集成的方法实现故障诊断。
选用旋转机械常见的不平衡、不对中、油膜涡动等常见的10种故障作为网络的输出。取9个频段的谱峰能量归一化值,作为输入[6]。因此,该网络的输入神经元应为9个,输出神经元为10个。
训练BP网络。将上述数据作为样本训练BP网络。首先确定BP网络的结构,BP网络输入神经元数为9,输出神经元数为10,而隐含层数及每层的神经元数目经过MATLAB程序多次仿真实验,结果表明当采用双隐含层网络时,第一隐含层的神经元数为9,第二隐含层神经元数为11,网络训练10步时误差就可下降到0。故选择的双隐含层BP神经网络结构为9-9-11-10为最佳网络结构。
测试BP网络。利用训练好的神经网络进行故障诊断,故障诊断运行的部分结果见表2。诊断结果表明,对于已经学习过的样本知识,网络输出与期望结果充分相符,表明该网络能够正确地实现故障诊断;当输入数据在一定范围内偏离样本知识时,网络的输出具有接近样本的倾向,因而表明了该网络在故障诊断方面的使用可靠性。
表2故障测试结果
续表2
5、结论
在旋转机械故障诊断中,将神经网络和专家系统结合,弥补了旋转机械故障诊断专家系统存在的不足。实例证明,该方法诊断效率和精度较高,是一种有效的故障诊断途径。
参考文献
[1]徐敏.基于神经网络集成的专家系统模型[J].计算机工程与设计,2006,(4).
神经网络的实现过程范文4
【关键词】短期负荷预测;BP神经网络;模拟退火算法
0 引言
电力的短期负荷预测是电力系统的一项重要工作,是实现供电可靠、经济管理的基础。由于电力负荷受到很多因素的影响,负荷预测方法发展至今,虽然已经积累了很多经验,但是还没有一种可靠的模型实用于不同地区。本文针对某市电力负荷的特点,提出了模拟退火BP神经网络电力短期负荷预测模型。经验证,该模型在实现负荷预测方面的可行性。
1 BP神网络
人工神经网络理论的研究始于1890年美国著名心理学家W.James关于人脑结构与功能的研究,至今已提出过许多网络模型,其中用于预测的网络主要是BP神经网络。这是因为BP神经网络主要有以下特点:(1)较强的非线性映射能力;(2)很好的泛化能力;(3)很强的容错能力和学习能力。
D.E. Ru melhart和J.L. Mc Cella nd及其研究小组于1986年研究并设计出来BP神经网络(Back-propagationN eutralN etwork)是一种基于误差反向传播(BP算法)的多层前向神经网络,采用有导师的训练方式。BP算法的学习过程包括信号的正向传播与误差的反向传播两个过程。三层BP网络是一种应用很普遍的神经网络,它包括输入层、隐层和输出层,如图1所示,输入层神经元的个数为输入信号的维数,隐含节点的个数视具体情况而定,输出层神经元的个数为输出信号的维数。BP网络的工作流程见图2所示。
图1 BP神经网络
误差的反向传播是BP网络的一大特点,但是,该网络也存在以下一些主要缺陷:(1)训练次数太多,效率较低;(2)易于陷入局部极小而不能实现全局最优。针对这些缺点,本文利用模拟退火算法对BP网络进行改进。
2 模拟退火算法
1953年Metropolis等提出的模拟退火算法 (Simulated Annealing,简称SA)能够近似求解具有NP复杂性的问题,可以避免陷入局部极小的问题。模拟退火算法主要包括状态产生函数、状态接受函数、温度更新函数、内循环终止准则和外循环终止准则。
其工作过程如图3所示。
图2 BP网络的工作过程
图3 模拟退火算法的流程图
3 神经网络负荷预测模型
本文设计的预测模型中BP神经网络的输入层共有8个输入端,分别用来输入待测日前四天对应时刻的负荷,以及天气因素中的最低温度、最高温度、降雨量和日期类型;因为本模型的输出为对应时刻的负荷,故输出层只有一个输出端;隐含节点的最佳个数现在没有一个具体的方法或者公式来确定,通过实验,本文最终取9个隐含节点。该模型工作流程见图4所示。
4 验证
本文利用该模型及单一的BP神经网络模型来预测某市的负荷。由于预测过程中所用的数据性质不同,大小差别很大,因此在使用之前,需要对数据进行归一化处理,对预测结果需要进行还原。本文所用的转移函数均为单极性Sigmoid函数。利用历史数据,进行预测,预测结果见图5所示。预测误差分布见图6所示。
图4 预测模型工作流程
图5 预测结果
图6 预测误差
通过以上预测结果可知,利用该模型在预测结果的准确性方面,比单一BP神经网络具有很大的优势,同时也验证了该模型的可行性。
5 结论
针对单一的BP神经网络的缺点,本文利用模拟退火算法来优化BP神经网络,经验证,该方法是可行的。
【参考文献】
[1]朱兴统.基于SA-LSSVM的电力短期负荷预测[J].科学技术与工程,2012,12(24):6171-6173.
[2]师彪,李郁侠,于新花,等.基于改进粒子群模糊神经网络的短期电力负荷预测[J].系统工程理论与实践,2010,30(1):157-166.
[3]李慧,王来运.基于混沌蚁群算法的电力短期负荷预测[J].北京信息科技大学学报,2011,26(4):40-43.
神经网络的实现过程范文5
关键词:人工神经;网络游戏程序;研究和设计;分析探究
中图分类号:TP183 文献标识码:A 文章编号:1671-2064(2017)01-0044-01
近年来,在网络游戏发展过程中,图像的呈现质量已经提升到了一个极高的水平,人工智能游戏已经成为决定一款游戏成功与否的重要关键,并受到了游戏开发商的广泛关注和高度重视。网络游戏作为一种目标性、竞争性、互动性、情节性的娱乐作品,它的智能水平对游戏的质量和可玩性具有着直接的影响作用。因此,将计算机图形学和人工智能有机的结合起来,把人工智能中的预测、路径规划、搜索、学习等技术有效的应用到网络游戏的研发工作中去,不仅能够提升游戏的质量和可玩性,同时还有利于促进游戏开发企业的发展。
1 人工神经网络分析
人脑可以用一套较为独特的方法来解决相关问题,并且还能够从正反两面的行为差异中进行学习,经过研究发现,人脑是由十万种类的遗传因子中的十万亿个细胞组合而成,人工神经网络就相当于模拟人脑功能的一个数学模型。其中神经元作为人脑系统中处理基本信息的单元,是人体神经器官的重要组成部分,通过轴将各个神经元进行有效连接,而其他神经元的发送的信号能够使当前神经元产生相应的反映,这一反映如果能够达到特定的阈值,就会逐渐产生一种新的信号,并且沿着轴将信号传输到其他神经元[1]。人工神经网络主要就是由各种节点相互连接组合形成的,节点类似于人脑的各个神经元细胞,会存在一些节点连接外部环境,主要负责相关的信息输出和输入工作,被称作是输出点或者输入点,而另外一些网络内部的节点,通常被称作隐藏节点。隐藏节点的信息输出通常是输出节点的信息输入,输入节点的信息输出通常是隐藏节点的信息输入。
此外,人工神经网络的主要核心思想就是对人类大脑神经系统功能进行模拟的机器学习的一种方法,并且通过对系统内部各个神经元的各种连接参数进行反复的调节,使得神经网络系统得到训练,并且在遇到一定情况时能够做出最佳的反映[2]。总之,神经网络作为一项发展较为成熟的技术,其在解决相关问题之后,将会使网络游戏的智能化提升到一个全新的高度。
2 人工神经网络中的游戏学习设计分析
与传统方法相比,神经网络解决问题的方式有着明显的不同,其具有着较强的自主学习能力,经过不断的学习,ANN可以从未知式中的各种复杂数据信息中发现规律[3]。这种神经网络方法在很大程度上克服了传统方法在分析中的复杂性以及各种模型函数选择的困难,通过训练对问题进行解答,ANN可以较为快速的建立解决问题的非线性和线性模型。如果想要人工神经网络进行运作,首先就需要让网络进行学习,不断的训练网络,帮助它获取更多的知识信息,最后将这些信息有效的存储起来。一旦完成相关的训练和学习,就可以将知识有效的存储在权值中。在游戏的开发过程中,将神经网络模型看作是人物建模的基础,通过对玩家将要进行的动作或者选择的画面场景进行预测,运用神经网络进行信息存储,并且在游戏的运行过程中要保证学习元素的有效运行,进而让神经网络潜移默化的学会相应的自适应技术,最终实现游戏的可玩性和趣味性,提升游戏的开发设计质量和效果,进而吸引更多的游戏玩家。
3 BP神经网络游戏开发设计分析
在神经网络的众多模型中,BP算法是其中较为常用的一种神经网络,一般分为输入层、输出层、中间层等三个部分,各个层之间按顺序进行连接,因为中间存在隐含层,可以从中发现一定的学习规律,可以通过对这种网络的有效训练,进而形成一种较为复杂、多样的决策界面[4]。同时,BP神经网络具有一个强大的功能,其主要就是能够封装一个将信息输入映射到信息输出的非线性函数。假如不存在隐含层,那么神经网络只能发现信息输入与信息输出之间存在的线性关系。但是,仅仅是为感知网络增添一个隐含层还是远远不够的,需要通过非线性激活函数为网络连接提供相应的非线性元素。大多数的非线性函数基本上都能够进行使用,但是多项式函数除外。
在游戏中,设置网络作为神经网络实现的基本步骤,可以将特定数据当做输入训练网络,并且在游戏的具体输入中进行实际应用。在游戏问题的神经网络设计中,应该注意结构、学习、神经元特点等三个方面的因素。其中结构主要就是指要进行构造的神经网络组织、连接方式以及基本类型。而且在神经网络中节点数设计要遵循相关的原则就是越少越好。神经网络中的节点数越多,那么神经网络搜索正确解的空间范围就越广阔[5]。神经网络中输入节点数在一定程度上决定着模式匹配或网络分类的变量数,例如,篮球类型的游戏中,运动员投篮命中、灌篮动作、球员分布、难度等级等变量数。
4 结语
总而言之,网络游戏作为一种新型的娱乐方式,具有着较强的生活模拟性和互动性,深受广大社会群众的喜爱。因此,我国应该重视游戏产业的发展,不断加大对网络游戏的开发和设计,将神经网络有效的应用到网络游戏开发的实践中去,尤其是BP神经网络,它不仅可以预测玩家的行为,及时提供信息反馈,同时还能提高网络游戏的可玩性和趣味性,提升游戏设计的整体质量和效果,有利于促进我国游戏开发产业的发展和进步。
参考文献:
[1]余颖.基于神经网络和遗传算法的人工智能游戏研究与应用[D].湖南大学,2011.
[2]王淑琴.神经网络和遗传算法在游戏设计中的应用研究[D].东北师范大学,2014.
[3]f潭凯.神经网络在即时战略游戏中的应用[D].福州大学,2014.
神经网络的实现过程范文6
【摘要】
人工神经网络模拟人脑生物神经网络系统处理信息的方式,是通过经验而不是通过设计好的程序进行学习、训练,这些构成了人工神经网络具有模式识别、预测、评价和优化决策等能力的基础。本文就神经网络近年来在药剂学的处方设计及优化、制备工艺及体内体外相关性评价等方面的应用做一综述。
【关键词】 人工神经网络;药物制剂
Abstract:Artificial neural networks simulating the process of human brains nerve systems to deal with information,which learning and training date according with the experience other than the designed programme,is the base of the ability that the artificial neural network could be used for pattern distinguish,prediction and optimization etc.This papertbriefly reviewed the application of neural networks in pharmaceutical fields,such as formulation optimization,preparation parameters optimization and in vitro-in vivo correlation evaluation.
Key words:artificial neural networks;pharmaceutic
药物制剂研究是一个复杂的过程,包括制剂处方,制剂制备工艺及制剂体内体外评价等,其中任何一个方面都属于多因素,多水平的复杂优化问题。例如处方设计过程中涉及不同质量不同用量的各种敷料配比及压力、温度、水分等,这些因素直接影响剂型的安全性和有效性;制剂设备工艺涉及众多纷繁复杂的工艺参数优化,制剂体内体外评价更是受生物系统的极端复杂性影响。过去人们通常依靠某一方面的专家来承担相应的工作,免不了受许多经验化主观因素的影响,效率较低,而基于人工智能的神经网络则很适于处理这类复杂的多变量非线性系统,并可通过网络的预测能力实现多因素的同步优化[1-3]。
1 神经网络理论
人工神经网络(artificial neural network)是一种由大量简单处理单元以某种方式相互连接而成,对连续的输入做出状态响应的动态信息处理系统。它模拟人脑生物神经网络系统处理信息的方式,通过经验而不是通过设计好的程序进行学习、训练。因此,人工神经网络具有人脑的某些重要特性,如联想记忆、并行处理、自学习、自组织、自适应和容错性等能力,这些构成了人工神经网络具有模式识别、预测评价和优化决策等能力的基础。
如图1所示,这是含有一个隐含层的神经网络示意图,其中空心圆圈表示神经元,神经元是神经网络(neural network)的基本单元,也称为节点。每层中可以包含多个节点,多层节点之间按一定的方式相互连接构成神经网络。神经网络的信息处理功能由神经元的输入和输出、网络的拓扑结构、连接权的大小(突触联系强度)以及神经元的阈值所决定的。输入层节点的输入变量为自变量(样本图1 神经网络结构示意图
Fig.1 Delineation of structure of artificial neural networks
参数),输出层节点的输出变量为应变量(目标函数),当多个输入进入神经元后,其加权求和值超过神经元的阈值后会形成输出,通过连接权连接,传递到下一层神经元,作为下一层神经元的输入值,这样按网络的拓扑结构依次传递。根据神经网络的计算原理,每一神经元的输入值将更新变化,最后到达输出层。将输出值与样本的期望输出值进行比较,计算出误差,按学习规律将误差反向传播到前一层神经元,调整连接权大小,重新计算,再输出。如此反复,直到训练集样本输出误差和达到期望值。至此得到固定的连接权值,就达到对未知样本进行预测和分析。其中网络的信息主要储存在连接权中[4]。
根据神经元之间的相互结合关系和作用方式,神经网络模型可以分为很多种,其中反向传播神经网络(back-propagation neural network)即BP[5]神经网络是目前药剂领域中应用最广泛、计算能力最强的人工神经网络模型之一。由于这种网络的权值和阈值调整采用了反向传播的学习算法,解决了感知器所不能解决的问题,可以实现从输入到输出的任意非线性映射。在确定了网络的结构后,利用输入样本集对其进行训练,即对网络的权值和阈值进行学习和调整。经过训练的BP网络,对于不是样本集中的输入样本也能给出合适的输出,利用这种方式可以使用该网络对未知样本进行预测。
2 人工神经网络在药剂中的应用
2.1 药物制剂处方设计及优化
制剂处方设计及优化是目前神经网络在药物制剂中应用最多[6-11],也是比较有发展前景的方向之一,尤其是应用于缓控释制剂的处方优化和设计中。
梁文权[12]等将人工神经网络应用于优化HPMC缓释片处方。以药物的溶解度、含药量、HPMC的量、HPMC的固有黏度、辅料的量、黏合剂的浓度、溶出仪的转速为神经网络的输入,药物的累计释放量作为输出,采用BP网络对52个样本进行训练,建立BP神经网络模型。然后与优化算法相结合实现对乙酰氨基酚、甲氧苄氨嘧啶、米诺地尔、氧氟沙星等模型药物在不同的含药量、不同转速条件下的处方进行优化。试验结果发现利用神经网络预测药物的释放、训练处方和测试处方的实测值和预测值能很好吻合,得到的4个优化处方的释放值均和目标值很接近。魏晓红[13]等选取9种药物作为模型药物,按HPMC:糊精=5-0.2∶1配比制成不同释放度的缓释片,测定各个处方的释放度,以每个药物的溶解度和处方中HPMC∶糊精的配比值作为网络的输入,以释放度测量中每个给定取样时间点药物的累积释放量作为输出变量,得到含一个隐含层,迭代次数为25次的BP神经网络,通过优化,成功拟定了4个制剂处方,按此处方制备的缓释片的实测释放值与神经网络预测值相符。根据此法,可以从药物的溶解度设计符合一定释放度要求的缓释制剂处方。
骆快燕[14]等用干压包衣技术制备卡托普利延时起效延缓片时,用人工神经网络预测释药时滞。运用一个3层BP神经网络,以释放度作为输入层神经元,以对应时间点作为输出层神经元,得到一个含8个隐含层神经元的BP网络,其中变换函数为双曲正切函数,学习规则为归一化累积Delta规则,目标误差为0.001,学习速率为0.01。神经网络预测释药时滞结果为后面用SAS进行多元线性回归提供了可靠的数据,使预测优化处方很快达到设计要求。
吴涛等[15]在硫酸沙丁胺醇渗透泵控释片的处方筛选中采用反应曲面法和人工神经网络法优化法。选择包衣液中PEG 1 500含量与包衣膜的厚度为网络的输入因素,以各个处方1~8小时的积累释放度对实践的相关系数和各处方8小时的累积释放度为输出因素,在36个实验处方中随机抽取24个作为网络的训练数据,其余作为网络的测试数据检测网络预测性能,建立了含一个隐含层的BP神经网络建立模型,最后根据预测结果实现处方优化。比较结果证实神经网络方法较优。
2.2 药物制剂制备工艺方面的应用
药物剂型的制备工艺过程中,存在着诸如温度、压力、粘度、流速等诸多影响因素,这些工艺参数与制剂质量指标之间往往存在很强的非线性和耦合性,很难用传统的方法建立有效的质量控制模型。基于人工智能的人工神经网络具有辨识和逼近任意复杂非线性系统的能力,而且具有一定的容错能力,可以同步优化制备工艺中的多个工艺参数[16]。
张宇飞等[17]收集某大型中药企业滴丸制剂生产线的100多个生产批次,每个批次包含多个数据的样本作为神经网络训练集,设计了一个具有三个层的BP神经网络,输入层的5个节点分别为化料温度,化料时间,滴制温度,滴制速度及冷凝温度;输出层的结点为滴丸成品率,建立了某滴丸制剂过程工艺参数与滴丸成品率之间的神经网络映射模型。然后利用遗传算法对模型输入参数空间进行寻优,搜索使滴丸成品率达到最优时所对应的工艺参数值。经生产试制,利用优化后的工艺参数值进行生产,能使该制剂过程的成品率提高约2.6个百分点,表明利用神经网络与遗传算法对制剂过程进行建模与优化是合理的,该项目属于国家863高技术研究发展计划项目。
2.3 药物制剂体内-体外相关性评价的应用
建立体内外相关性评价方法对药物制剂研究非常重要。一个好的体内外相关性模型应能使预测值与实测值相互吻合,从而用体外的释药数据预测药物的体内过程,设计与已知制剂生物等效的制剂,或者制定药物制剂的质量标准及指导临床用药。但是生物系统是极其复杂的,药物在体内的代谢过程也是相当复杂的,使得判定药物疗效与生物学、药物动力学及药物分布等各因素之间的关系非常困难[18]。人工神经网络是模拟生物神经系统对外界系统的认知过程,它给我们提供了一个很好的研究体内外相关性的方法[19-20]。
李凌冰[21]等采用人工神经网络结合Wagner-Nelson法,研究氯氮平非pH依赖型缓释片的体内体外相关性。以处方中HPMC与琥珀酸的用量为神经网络输入变量,考虑到缓控释制剂的特点,以2h的血药浓度,12h的血药浓度一时间曲线下面积AUCl2,以及血药浓度的峰值(max数据为输出,建立了氯氮平非pH依赖型缓释制剂处方组成和血药浓度之间的关系模型。以此为基础,绘制输出三个输出变量的等高线图谱,分别在3个等高线图谱上标记最佳变量所取值的范围,将3个图中的最佳区域结合在一起从而求得生物利用度最佳的处方。李凌冰等[22]应用人工神经网络研究红霉素缓释微囊的体内外相关性。以明胶为囊材制备红霉素缓释胶囊,以体外释放度的数据作为网络输入,血药浓度数据作为网络输出,通过比较血药浓度实测值与预测值的差异考察了网络的可靠性,结果令人满意。
3 结语
人工神经网络技术作为一种新方法新技术虽然已在药剂研究领域取得了一定的进展,但仍然有许多问题需要进一步的研究。例如神经网络虽然可用于制剂制备工艺参数的优化,但能否利用神经网络实时监控工艺过程以控制质量还需要进一步探讨;人工神经网络通常需要大量的数据训练网络,但有时数据的获得比较困难,尤其是体内的试验数据;神经网络拓扑结构的选择规律、传递函数的选取,防止过拟合和陷入局部最优等问题也需要在模型的建立过程中考虑;在制剂分析中的方法适应性和重现性等基础工作也还需要深入的研究。
总之,神经网络是一个充满了活力的研究领域,通过以上的简述可以发现神经网络在药剂学研究领域具有广阔的应用前景,相信随着神经网络理论和技术的不断发展,神经网络以其独特的模拟、学习、预测能力必将在药剂学的各个方面得到更充分的应用。
参考文献
[1]Takayama K,Fujikawa M,Obata Y,et al.Morishita M,Neural Network Based Optimization of Drug Formulations[J].Advanced Drug Delivery Reviews,2003,55(9):1 217-1 231.
[2]Agatonovic-Kustrin S,Beresford R.Basic Concepts of Artificial Neural Networks Modeling and Its Application in Pharmaceutical Research[J].Journal of Pharmaceutical and Biomedical Analysis,2000,22(4):717-727.
[3]K Takayama,A Morva, M Fujikawa,et al.Formula Optimization of Theophylline Controlled-release Tablet Based on Artificial Neural Networks [J].Journal of Controlled Release,2000,68(2):175-186.
[4]Hassoun M.Fundamentals of Artificial Neural Networks[M].The MIT Press,1995:25.
[5]R J Erb.Introduction to Backpropagation Neural Network Computation[J].Pharmaceutical.Research,1993,10(2):165-170.
[6]P.C.Wu,Y.Obata,M.Fujikawa,et al.Simultaneous Optimization Based on Artificial Neural Networks in Ketoprofen Hydrogel Formula Containing O-enthyl-3-butylcyclohexanol as Percutaneous Absorption Enhancer[J].Journal of Pharmaceutical Sciences,2001,90(7):1 004-1 014.
[7]A P Plumb,R C Rowe,P York,et al.The Effect of Experimental Design on the Modeling of a Tablet Coating Formulation Using Artificial Neural Networks[J].European Journal of Pharmaceutical Sciences,2002,16(3):281-288.
[8]Onuki Y,Hoshi M,Okabe H,et al.Formulation Optimization of Photocrosslinked Polyacrylic Acid Modified with 2-hydroxyethyl Methacrylate Hydrogel as an Adhesive for a Dermatological Patch[J].Journal of controlled release,2005,108(2-3):331-340.
[9]Fan T,Takayama K,Hattori Y,et al.Formulation Optimization of Paclitaxel Carried by PEGylated Emulsions Based on Artificial Nneural Network[J].Pharmaceutical Research,2004,21(9):1 692-1 697.
[10]Lim CP,Quek SS,Peh KK.Prediction of Drug Release Profiles Using an Intelligent Learning System:an Experimental Study in Transdermal Iontophoresis[J].J Pharm Biomed Anal,2003,31(1):159-168.
[11]Plumb AP,Rowe RC,York P,et al.Effect of Varying Optimization Parameters on Optimization by Guided Evolutionary Simulated Annealing(GESA)Using a Tablet Film Coat as an Example Formulation[J].European Journal of Pharmaceutical Sciences,2003,18(3-4):259-266.
[12]范彩霞,梁文权.神经网络多目标同步优化HPMC缓释片处方[J].中国药学杂志,2004,39(10):768-771.
[13]魏晓红,吴建军,梁文权.神经网络用于口服缓释制剂的处方设计[J].药学学报,2001,36(9):690-694.
[14]骆快燕,姚彤炜,黄安琪.卡托普利延迟起释型缓释片的研制[J].中国现代应用药学杂志,2005,22(3):224-228.
[15]吴淘,潘卫三,陈济民,等.多目标同步优化法优化硫酸沙丁胺醇渗透泵控释片的制备工艺[J].药学学报,2000,35(8):617-621.
[17]张宇飞,邵秀丽,雷建军.基于神经网络和遗传算法的中药滴丸制剂过程建模与优化[J].计算机工程与应用,2005,2(2):191-194.
[18]James AD.Artificial Network Applied to the in Vitro-in Vivo Correlation of an Extended-release Formulation:Initial Trials and Experience[J].Journal of pharmaceutical Science,1999,88(1):154-160.
[19]Fu XC,Chen CX,Wang GP,et al.Prediction of Human Intestinal Absorption Using an Artificial Neural Network[J].Pharmazie,2005,60(9):674-676.
[20]Balan G,Timmins P,Greene D,et al.In Vivo-in Vitro Correlation Models for Metformin after Administration of Modified-release Oral Dosage Forms to Healthy Human Volunteers[J].Journal of.Pharmaceutical Sciences,2001,90(8):1 176-1 185.