智能算法及MATLAB实现

一、人工神经网络的发展

? 1.1945年，冯诺依曼领导的设计小组成功制造了存储程序式的电子计算机，标志电子计算机时代的开始，他在之后又提出了一简单生源构成的再生自动机网络结构。

? 2.20世纪五十年代末，Rosenblatt设计只做了“感知器”——是一种多层的神经网络，但由于当时电子技术工艺水平比较落后，主要的元件是电子管或晶体管，所以制作规模与真实的神经网络相似是完全不可能的。

? 3.美国的物理学家Hopfield于1982年和1984年在美国科学院院刊上面发表了两篇关于人工神经网络的论文，引起了巨大反响，随机一大批学者开始围绕Hopfield提出的方法展开了进一步的工作，形成了研究人工神经网络的研究热潮。

二、人工神经网络研究内容

1.生物原型研究：

? 从生理学、心理学、解剖学、脑科学病理学等生物科学方便研究神经细胞、神经网络的生物原型结构及其功能机理。

2.建立理论模型：

? 根据生物原型的研究，建立神经元、神经网络的理论模型，包括概念模型、知识模型、物理化学模型、数学模型等。

3.网络模型与算法研究：

? 在理论模型研究的基础狗仔具体的审计网络模型，用来实现计算机模拟或准备制作硬件，包括学习算法的研究，其中神经网络用到的算法是向量乘法，并且广泛使用符号函数以及各种逼近，并行、容错、可以硬件实现以及自我学习的特性是区分神经网络与传统方法的区别所在。

4.人工神经网络应用系统

? 在网络模型与算法研究的基础上，利用人工神经网路组成实际的应用系统。例如完成某种信号处理或模式识别的功能、构作专家系统、制成机器人等。

三、人工神经网络研究方向

神经网络的研究可以分为理论研究和应用研究两大方面

理论研究：

（1）利用神经生理与认知科学研究人类思维以及智能机理

（2）利用神经基础理论的研究成果，用数理方法探索功能更加完善、性能更加优越的神经网络模型，深入研究算法性能如稳定性、收敛性、容错性、鲁棒性；开发新的网络数理理论如神经网络动力学、非线性神经场。

应用研究：

（1）神经网络的软件模拟和硬件实现的研究

（2）神经网络在各个领域中应用的研究，包括模式识别、信号处理、知识工程、专家系统、优化组合、机器人控制等。

四、人工神经网络发展趋势

? 将神经网络与其他方法结合取长补短，继而获得更好的应用效果。目前这方面工作主要有神经网络与模糊逻辑、专家系统、遗传算法、小波算法、混沌、粗集理论、分形理论、证据理论和灰色系统的融合。

1.与小波分析的结合：

? 1981年法国地质学家Morlet在寻求地质数据时，通过对Fourier变化与加窗Fourier变换的异同、特点以及函数构造进行创造性的研究，首次提出了“小波分析”的概念，并建立了以他名字命名的Morlet小波。

? 小波分析相当于一个数学显微镜，具有放大缩小和平移功能，通过检查不同放大倍数下的变化来研究信号的动态特性。小波分析在电机故障诊断、高压电网故障信号处理与保护研究、轴承等机械故障诊断方面都有应用，将小波神经网络用于感应伺服电机的智能控制，使该系统具有良好的跟踪控制功能，以及良好的鲁棒性，利用小波包神经网络进行心血管疾病的智能诊断，小波层进行时频域的自适应特征提取，前向神经网络进行分类，正确率达94%。

2.混沌神经网络：

? 混沌第一个定义是20世纪70年代才被LiYorke提出的。由于它具有广泛的应用价值，自它出现就受到各方面的普遍关注。混沌是一种确定系统出现的无规则的运动，它是存在于非线性系统中的一种较为普遍的现象，混沌运动具有遍历性、随机性等特点，能在一定的范围内按其自身规律不重复地遍历所有状态。

? 与常规的离散型Hopfield神经网络相比较，混沌神经网络具有更丰富的非线性动力学特性，主要变现为：在神经网络引入混沌力学行为；混沌神经网络的同步特性；混沌神经网络的吸引子。

? 混沌神经网络受到关注的另一个原因是混沌存在于生物体真实神经元及神经网络中，并且起到一定的作用，动物学的电生理实验已经证实了这一点。

3.基于粗集理论：

? 粗糙集（rough sets）理论是1982年由波兰华沙理工大学的教授Pawlak首先提出，它是一个分析数据的数学理论，研究不完整数据、不精确知识的表达、学习、归纳等方法，其主要的思想就是在保持分类能力不变的情况下通过知识约简，导出问题的决策或分类规则。目前，粗糙集理论已经被成功应用于机器学习、决策分析、过程控制、模式识别与数据挖掘等领域。

4.与分形理论的结合：

? 自从美国哈佛大学数学系教授Mandelbort于20世纪70年代中期引入分形这一概念，分形几何学（fractal geometry）已经发展称为科学的方法论——分形理论，且被誉为开创了20世纪数学重要阶段。

? 用分形理论来解释自然界中那些不规则、不稳定具有高度复杂度结构的现象，可以收到显著的效果，而将神经网络与分形理论相结合，充分利用神经网络非线性映射，计算能力、自适应等优点，可以取得更好的效果。

? 分形神经网络的应用领域有图形识别、图像编码、图像压缩，以及机械设备系统的故障诊断等。分形图形压缩解压缩方法有着高压缩率和低遗失率的优点，但运算能力不强，由于神经网络用于分形图形压缩/解压缩中，提高了原有算法的运算能力。