进化神经网络

动物的大脑及其复杂的神经系统本身就是在漫长的历史中进化而形成的，因此模拟这种复杂智能系统的演化形成，产生出进化神经网络模型。进化计算与神经网络作为计算智能的两大分支经过融合之后产生了一种全新的神经网络模型——进化神经网络。这种模型把进化计算的进化自适应机制与神经网络的学习计算机机制有机结合在一起，有效地克服了传统人工神经网络的几乎所有缺点，是一种很有发展前途新模型。

进化神经网络模型的一个主要特点就是它对动态环境的自适应性。这种自适应性过程通过进化的三个等级实现，即连接权值、网络结构和学习规则的进化，他们以不同的时间尺度进化，在自适应中也起着不同的作用。

根据进化神经网络的三个等级，进化神经网络模型的发展呈现以下四个不同的类型。

连接权值进化的进化神经网络

神经网络连接权值的调整算法是神经网络设计中的一个关键问题。区别与传统人工神经网络中连接权值调整的BP算法，该进化算法是一种更有效的全局搜索优化算法，它能够避开局部极值点，并且在进化过程中无需提供所需解决问题的梯度信息。它不单可用于前向网络及具有不可微传递函数的网络，而且对于任何网络形式都可以进行训练，程序编制非常简单、训练速度很快。

网络结构进化的进化神经网络

在传统意义上提出了三种网络结构选择的主要方法：试凑法、构造法以及修剪法。其中，试凑法过程复杂且依赖于经验，较难找到满意的结构；构造法及修剪法为局部优化法，极易陷入局部极值。

网络结构化的主要问题是结构的编码显示。以编码方式的不同，结构进化型的进化神经网络可分为以下几种类型：

（1）直接编码法。

此法把网络结构的所有信息均用编码表示。

优点：编码直观、方便，可表示一些对网络的特殊约束。

缺点：只能应用于结构固定的网络，且规模不宜太大，否则计算效率会很低。

（2）间接编码法。

克服直接编码的缺点，可进化大型网络。常用的两种类型：

① 参数编码法

②生长规则法

结构和权值同时进化的进化神经网络

综合了结构进化和权值进化，代表性的方法有如下：

（1）Yao等提出的EPNet系统。

（2）Maniezzo提出的粒度编码的进化神经网络方法。

学习规则进化的进化神经网络

不同的网络结构，不同应用问题采用不同的学习规则。

用于进化神经网络的进化算法主要有遗传算法及进化规划。前者是研究最早、成果最多的一种，而后者研究则较晚，经过研究的不断深入，越来越的研究者倾向于采用进化规划进化神经网络研究，并认为用进化规划进化神经网络是更适宜的。

基于遗传算法的进化神经网络

采用遗传算法进化神经网络主要有如下缺点：

①编码带来的问题

② 遗传操作带来的问题

③ 基因型同表现型的多多映射带来的问题

④同时进化结构及权值时，采用遗传算法对网络结构有较大的约束。

基于进化规划的进化神经网络

采用进化规划进化神经网络具有一些明显的好处：

① 进化规划直接采用表现型进行操作，不但省略了遗传算法复杂的编码及译码操作，而且避免了交叉算子和双重表示带来的问题。

②进化规划非常适合于网络结构及权值的同时进化，有利于减少评价噪声。

③ 进化规划强调父、子代间的连接，注重网络行为的进化，这增加了网络进化的有效性。

基于其他新型算法的进化神经网络

经过不断的研究，产生了一些基于新型仿生算法的进化神经网络模型，如：

（1）用于拟合的权值及结构同时进化的进化网络

（2）用于预测的权值及结构同时进化的进化网络

随着进化神经网络研究的不断深入，其应用范围也越来越广，主要体现在以下方面：

（1）进化神经网络在股市预测中的应用

（2）进化神经网络在滑坡预测的应用

（3）进化神经网络在异或分类问题中的应用

（4）进化神经网络在巷道围岩松动圈预测中的应用

（5）进化神经网络在岩土力学参数逆分析中的应用