神经网络基本原理范文

前言：我们精心挑选了数篇优质神经网络基本原理文章，供您阅读参考。期待这些文章能为您带来启发，助您在写作的道路上更上一层楼。

第1篇

【关键词】BP神经网络；预测；误差

1.引言

许多金融学家和计量学家对发达国家成熟市场的波动性进行了广泛的研究，但是在对股市的预测上，由于人们在知识、能力、经验上存在着较大的差异，加之问题本身又具有很大的随机性和高度的非线性，即使是一些金融专家、炒股高手对出现的同一复杂行情进行分析，往往也会得出不同的结论。此外，传统方法还要事先知道各种参数，以及这些参数在什么情况下应作怎样的修正。这都给预测股市带来一定的困难。

基于以上股市预测的困难性，本文提出了人工神经网络的预测方法。随着计算机、人工智能尤其是专家系统的发展，人工神经网络技术逐渐成熟并开始应用于各个领域。人工神经网络（ANN，简称神经网络）作为一种由大量简单神经元广泛相互联接而成的非线性映射或自适应动力系统，恰好能有效解决股市预测处理中常见的困难，因此它很快在股市预测分析与处理领域得到了广泛的应用。

2.BP神经网络介绍

2.1 BP 网络算法的基本原理

2.1.1 标准的BP 网络算法的基本原理

BP(Back Propagation)网络是反向传播的多层前馈式网络，是目前使用最为广泛的一种人工神经网络。它的核心是BP算法，一种对于多基本子系统构成的大系统进行微商计算的严格而有效的方法，采用最小均方差学习方式。BP 神经网络的原理说到底就是给它一些输入变量，然后就有一个输出，输出值的情况与实际的情况进行比较，差多少，然后再进行网络的内部调整，属于有导师的学习规则，使得网络输出与实际逼近。

神经网络能学习和存贮大量的输入―输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。人工神经网络由非线性函数组成，而由一系列不同权重的线性过滤器组合而成：

夜上海论坛 2.1.2 BP网络算法的优化

由于常用的BP算法主要缺点为收敛速度慢，局部极值，难以确定隐含层和隐含层的个数，使得在实际应用中BP算法很难应用，因此，出现了许多改进算法。BP算法的改进主要有两种途径，一种是采用启发式学习方法；另一种则是采用更有效的优化算法，本文采用了动量法和学习率自适应调整的策略，从而提高了学习速度并增加了算法的可靠性。动量法降低了网络对于误差曲面局部极值的敏感性，有效地抑制了网络陷于局部极小。

2.2 BP神经网络的模型识别及步骤

模式通常指对事物的一种定量描述或结构描述，“识别”是指对客观事物按其物理特征进行分类。模式识别的基本原理就是从待识别对象和理想标本之间若干特征的相似性推断它们之间总体的相似性。BP神经网络模式识别过程分为训练阶段和模式分类阶段，分为初始化、数据与处理、网络训练以及模式分类四个步骤。以下利用实证分析来进行着四个步骤。

3.实例分析

夜上海论坛 下面以上证的某股600个交易日的股票价格收盘指数作为原始样本数据，对上述神经网络模型进行求解，预测20天的收盘价，与实际收盘价进行比较，并求出其误差：

式中，表示第日的实际收盘指数，表示第日的预测值，表示误差。主要按照如下几部分来处理：（1）准备600个数据的时间序列，进行归一化。BP神经网络中每个神经元的输出值由传递函数Sigmoid函数来计算，其输出值的范围是（0，1）；（2）留出最后20个数据，作为预测检验使用；（3）绘制图像，包括实际值和预测值，能量函数；（4）分析实际和预测两曲线的趋势。

采用I-J-K学习模型，该模型是输入层I个神经元，隐层J 个神经元，输出层K个神经元。利用BP神经网络模型训练500次、800次、1000次的输出值和期望值以及能量函数（或者叫误差函数）E，结果见图1到图3。

通过上面的图示，可以看到用BP神经网络预测的效果比较明显，这说明该模型适用于短期预测吗，股市的波动在很多地区都是非常剧烈的，各种因素的综合作用也使得长期股指的变动具有极大的不确定性，使得预测变得很困难。而BP网络的算法原理和自学习的特点使其能够充分挖掘出隐含在样本数据中的规律性，实现从输入空间到输出空间的非线性映射，对样本数据进行精确的拟合。从而BP神经网络的方法对于股市上的一些很难看出规律的数据列的预测而言，无疑是一个比较精确的预测方法。

4.结论

夜上海论坛 本文介绍了股市的特点以及股市预测的困难性，提出了利用BP神经网络的方法来解决股市预测问题。文章介绍了BP神经网络算法的基本原理，BP神经网络算法的优化，BP神经网络模型识别及步骤，最后后以上海证券交易所每日股票价格收盘指数为分析对象，把原理应用于实际，利用BP神经网络对股票价格收盘指数进行了短期预测，并计算出预测值和实际值的误差。通过实验发现该模型收敛速度快，预测精度非常高，对预测短周期内股指波动具有较强的适用性。

参考文献

[1]高琴.人工神经网络在股市预测模型中的应用[J].微电子学与计算机,2007年第24卷第11期.

夜上海论坛 [2]周翠红,路迈西.线性回归与人工神经网络预测煤炭发热量[J].煤炭科学技术,第37卷第12期.

夜上海论坛 [3]尹庆双,奉莹.人工神经网络在第三产业就业分析中的应用[J].人口与经济,2009年第6期.

夜上海论坛 [4]邹文安,刘宝,姜波,杨春生.基于Excel 技术平台人工神经网络BP模型及应用[J].水文,第30卷第1期.

夜上海论坛 [5]康进,刘敬伟.非参数回归估计与人工神经网络方法的预测效果比较[J].统计与决策,2009年第23 期.

夜上海论坛 [6]杨本昭,田耕.基于人工神经网络的客户价值分类研究[J].科技管理研究,2007年第12期.

第2篇

夜上海论坛 关键词：建筑电气设备故障；模糊理论与神经网络；设备故障诊断专家系统

中图分类号：TP207 文献标识码：A DOI：10.11974/nyyjs.20160132074

随着当今社会经济的不断发展，人们对生活品质的追求越来越高，电气设备变得多样化和先进化，不同区域间联系更加紧密，而在给人们的生活带来便利的同时，简单的人工故障诊断方法已经无法满足结构日益复杂、功能日益完善的电气系统，建立电气设备控制系统智能故障诊断专家系统已经成为目前能满足社会需求的选择。近年来，模糊理论被广泛的应用于建立故障诊断神经网络，将模糊系统与神经网络技术结合而形成的故障诊断技术也正在发展和应用。

夜上海论坛 1 建筑电气设备常见故障类型及危害

1.1 电气设备常见故障类型

夜上海论坛 1.1.1 电源故障

1.1.2 线路故障

夜上海论坛 1.1.3 元器件故障

1.1.4 防雷接地处理故障

夜上海论坛 1.2 电气设备故障危害

电气设备的运行需要很多电器元件的相互配合，产生故障通常是因为电能或控制信息在传递、分配、转换过程中失去控制。断路、短路、异常接地、漏电、电气设备或电器元件损坏、电子设备受电磁干扰而发生错误动作、控制系统元件的偶然失效都属于电气设备故障[1]，而这些故障也很有可能造成大范围的人员伤亡以及造成严重的财产损失，一旦发生，也会造成其他相关领域不同程度的瘫痪。由此可见，电气设备出现故障的概率较高，危害范围也比较大。

夜上海论坛 2 神经网络与模糊理论

神经网络是一种模仿动物神经网络行为的特征，进行分布式并行信息处理的算法数学模型[2]。这个模型可以根据不同系统自己的特征来选择处理不同信息的方式，在很多不同领域都有比较广泛的应用，当然，它本身也有一些缺陷，比如它不能求解不确定性问题、不能处理符号性信息等，因此，它需要结合其它相关理论和方法来弥补自身的不足，以便更好地解决特定领域中的问题。

夜上海论坛 模糊理论是指用到了模糊集合的基本概念或连续隶属度函数的理论[3]。模糊控制是一种基于规则的控制，它可以直接采用语言型控制规则，在设计过程中不需要建立被控对象的精确数学模型，控制原理和策略通俗易懂，便于人们接受与理解，控制效果好，具有一定的智能水平，应用起来很方便，适用于对那些数学模型难以获取、动态特性不易掌握或变化非常显著的对象。模糊控制器是一种比较容易控制、掌握起来比较理想的非线性控制器，具有一定的适应能力和强健性。

将模糊系统与神经网络技术相结合而形成的模糊神经网络可以作为对电气设备进行故障诊断的模型，这一技术的提出为电气设备故障的诊断带来发展和进步，模糊理论被广泛的应用于建立故障诊断神经网络，这2种理论的结合将会给故障诊断研究提供解决思路，值得推广应用[4]。

夜上海论坛 3 建立电气设备故障诊断系统

由于电气设备故障机理的复杂性，系统在实际运用过程中，可能会发生随机故障模式，故障征兆信息的正确与否直接关系到故障诊断的正确性，因此利用现有的电气设备系统控制平台，对电气设备控制系统的信号进行实时采集和及时与PC 机进行通信，建立电气设备控制系统故障诊断系统便显得特别重要。

3.1 BP神经网络模型

夜上海论坛 BP（Back Propagation）模型是一种最常用的人工神经网络模型，它的基本原理为利用误差反向传播算法，从而得到多层前向神经网络模型。在故障诊断方面使用BP模型在一定条件下能够加强工作效率，使得故障诊断问题变得更加直观。利用模糊理论与神经网络相结合的模糊神经网络解决建筑电气设备故障的诊断，是一种智能化控制的手段，也将逐渐发展成为未来的趋势[5]。其模型原理图如图1。

要建立模糊神经网络系统，要根据相关理论或实际工作中的经验，将故障现象和故障原因相对应，作为系统的学习样本。按照输入与输出相对应的关系输入学习样本，系统经过内部的算法不断提高精度，当精度达到设定的要求时，模糊神经网络系统的学习过程结束。此时，将测试样本的输入数据放入系统输入端，如果输出数据与测试样本基本相同，那么模糊神经网络系统建立成功。

在模糊神经网络系统的实际使用时，必然会遇到输入数据与样本不同的状况。根据内部算法，系统将会找到与学习样本最相似的一组数据作为参考，自主得到输出数据。与此同时，如果系统自主算出的结果得到采纳，那么这组数据将会做为新的样本存入数据库，成为参考数据。

3.2 BP学习算法

目前，BP算法是应用很广泛、完善性比较高的神经网络训练算法，方便、容易实现、计算量小、并行性强是这个方法领先其他算法的优势。BP算法的基本原理[6]为先求解误差函数的最小值，根据梯度下降法，按误差对权值做负反馈。

BP算法需要依次根据输入对输出进行矫正，也就是对每组数据都要计算比对。然而，全局误差的梯度下降算法，要求连接权和阈值的矫正是在批量进行学习样本的输入之后再进行的，所以要修改各个连接权值。利用梯度下降法来修改各个连接权值，以便达到近似全局误差的算法效果。全局误差梯度下降算法流程如图2所示。

4 结 语

夜上海论坛 电气设备的故障诊断已经成为值得重视的问题，为保证运行系统能够正常运行，因此需要建立起更加科学完善的电气设备管理系统，逐渐减少电气设备运行出现故障的可能性，保障电力系统的稳定能力，本文简单介绍将模糊理论与神经网络结合，更好的解决电气设备故障问题，结合传感器检测技术、自动控制技术、通信与网络技术等方法，建立电气设备控制故障诊断系统，希望可以早日应用到生活中的建筑电气设备故障诊断中去。

参考文献

夜上海论坛 [1]电气设备及控制电路常见故障分析[EB]. 电工学习网.

[2]田景文.人工神经网络算法研究与应用[M]. 北京理工大学出版社，2006.

[3]诸静.模糊控制原理与应用[M].机械工业出版社，1995.

夜上海论坛 [4]龙祥，钱志博.模糊理论在设备故障诊断神经网络中的典型应用[J].广东工业大学学报，2006.

夜上海论坛 [5]陈流豪.神经网络BP算法研究综述[J].电脑知识与技术，2010.

第3篇

【关键词】BP神经网络；函数逼近

1.绪论

夜上海论坛 人工神经网络（artificial neural network，ANN）是模仿生物神经网络功能的一种经验模型。生物神经元受到传入的刺激，其反应又从输出端传到相联的其它神经元，输入和输出之间的变换关系一般是非线性的。

夜上海论坛 1.1 BP神经网络定义

BP （Back Propagation）神经网络是一种神经网络学习算法。相邻层之间各神经元进行全连接，而每层各神经元之间无连接，网络按有教师示教的方式进行学习，当一对学习模式提供给网络后，各神经元获得网络的输入响应产生连接权值（Weight）。此过程反复交替进行，直至网络的全局误差趋向给定的极小值，即完成学习的过程。

1.2 BP神经网络模型及其基本原理

网络的输入层模拟的是神经系统中的感觉神经元，它接收输入样本信号。输入信号经输入层输入， 通过隐含层的复杂计算由输出层输出，输出信号与期望输出相比较，若有误差，再将误差信号反向由输出层通过隐含层处理后向输入层传播。在这个过程中，误差通过梯度下降算法，分摊给各层的所有单元，从而获得各单元的误差信号，以此误差信号为依据修正各单元权值，网络权值因此被重新分布。此过程完成后， 输入信号再次由输入层输入网络，重复上述过程。这种信号正向传播与误差反向传播的各层权值调整过程周而复始地进行着，直到网络输出的误差减少到可以接受的程度，或进行到预先设定的学习次数为止。权值不断调整的过程就是网络的学习训练过程。

夜上海论坛 2.BP网络在函数逼近中的应用

2.1 基于BP神经网络逼近函数

夜上海论坛 步骤1：假设频率参数k=1，绘制要逼近的非线性函数的曲线。

步骤2：网络的建立

应用newff（）函数建立BP网络结构。隐层神经元数目n可以改变，暂设为n=3，输出层有一个神经元。选择隐层和输出层神经元传递函数分别为tansig函数和purelin函数，网络训练的算法采用Levenberg Marquardt算法trainlm。

同时绘制网络输出曲线，并与原函数相比较，结果如图3.3所示。

夜上海论坛 其中 “――” 代表要逼近的非线性函数曲线；

“……” 代表未经训练的函数曲线；

因为使用newff（ ）函数建立函数网络时，权值和阈值的初始化是随机的，所以网络输出结构很差，根本达不到函数逼近的目的，每次运行的结果也有时不同。

步骤3：网络训练

应用train（）函数对网络进行训练之前，需要预先设置网络训练参数。训练后得到的误差变化过程如图2.1所示。

步骤4： 网络测试

对于训练好的网络进行仿真：

其中 “――” 代表要逼近的非线性函数曲线；

“” 代表未经训练的函数曲线；

夜上海论坛 “” 代表经过训练的函数曲线；

从图中可以看出，得到的曲线和原始的非线性函数曲线很接近。这说明经过训练后，BP网络对非线性函数的逼近效果比较好。

3.结束语

神经网络在近几年的不断发展，在人工智能、自动控制、计算机科学、信息处理、机器人、模式识别等众多方面都取得了不错的成绩，给人们带来了很多应用上的方便，和一些解决问题的方法，期待神经网络可以应在在更多的领域，为人类做出更大的贡献。

参考文献：

[1] 刘焕海，汪禹.《计算机光盘软件与应用》. 北京： 高等教育出版社，2011.10：15-30.