2.1 神经网络结构

2.1.1 神经元与感知器

生物神经细胞（神经元）的结构大致可分为树突、突触、细胞体及轴突。单个神经细胞可被视为一种只有两种状态的机器——激动时为“是”，而未激动时为“否”。神经细胞的状态取决于从其他的神经细胞收到的输入信号量及突触的强度（抑制或加强）。当信号量总和超过了某个阈值时，细胞体就会激动，产生电脉冲，电脉冲沿着轴突并通过突触传递到其他神经元。

感知器是生物神经细胞的简单抽象，为了模拟神经细胞行为，与之对应的感知器基础概念被提出，如权重（突触）、偏置（阈值）及激活函数（细胞体）。在神经网络中，感知器就是我们所谓的“人工神经元”。

图2.1所示的单层感知器的结构示意图中有x₁和x₂输入，一般情况下，可以引入权重w₁和w₂来表示输入对输出的重要性，这时可以计算w₁×x₁+w₂×x₂+b（偏置），即分配权重后的总和。当总和大于阈值的时候，神经元输出a=1（神经元激活）；当小于阈值的时候，神经元输出a=0（神经元未被激活）。如果输入的样本点不能简单地被分为两类——非0即1（线性可分），我们将引入激活函数（Activation Function），即图2.1中的g（z），利用0～1的概率值来代表神经元被激活的程度。例如，0是未被激活，1是全激活，那么0.5就是半激活的中间状态，这个数值叫作激活值（Activation）。神经元不同的激活值状态如图2.2所示。

图2.1 单层感知器的结构示意图

图2.2 神经元不同的激活值状态