2.3.2 多层前馈网络

单层网络的功能是有限的，适当增加网络的层数是提高网络计算能力的一个途径，这也部分模拟了人脑某些部位的分级结构特征。多层前馈网络有一个或多个隐藏节点中间层，相应的计算节点也被称为隐藏神经元。隐藏神经元的功能是以某种有用的方式介入外部输入和网络输出中。加上一个或多个隐藏层，网络可以得到高阶统计特性。即时网络为局部连接，由于额外的突触连接和神经交互作用，使网络在不那么严格的意义下获得一个全局关系。当输入层覆盖面很大时，隐藏层的提取高阶统计特性的能力就更有价值了。

从拓扑结构上来看，多层前馈网络是由多个单层网络连接而成的。图2-8所示为一个典型的多层前馈网络，又叫作非循环多层网络。在这种网络中，信号只被允许从较低层流向较高层，各层的层号按如下方式递归定义。

（1）输入层。与单层网络一样，该层只起到输入信号的输出作用，因此，在计算网络的层数时不被计入。该层负责接收来自网络外部的信息，记作第0层。

（2）第j层。该层是第j-1层的直接后继层（j＞0），直接接受第j-1层的输出。

（3）输出层。它是网络的最后一层，具有该网络的最大层号，负责输出网络的计算结果。

（4）隐藏层。除输入层和输出层以外的其他各层叫作隐藏层。隐藏层不直接接受外界的信号，也不直接向外界发送信号。

图2-8所示的网络也可以称为完全连接网络，相邻层的任意一对节点都有连接。如果不是这样，就称为部分连接网络。

图2-8 多层前馈网络