2.4.1　主成分分析的原理及模型

1．主成分分析的原理

主成分分析是采取一种数学降维的方法找出几个综合变量来代替原来众多的变量，使这些综合变量能尽可能地代表原来变量的信息量，而且彼此之间互不相关。这种把多个变量化为少数几个互相无关的综合变量的统计分析方法就叫作主成分分析或主分量分析。

主成分分析所要做的就是：设法将原来众多的具有一定相关性的变量重新组合为一组新的、相互无关的综合变量。通常，数学上的处理方法是将原来的变量进行线性组合，作为新的综合变量，但若这种组合不加以限制，则会有很多，应该如何选择呢？如果将选取的第一个线性组合（第一个综合变量）记为F₁，自然希望它尽可能多地反映原来变量的信息，这里“信息”用方差来测量，即希望Var(F₁)越大，表示F₁包含的信息越多。因此，在所有的线性组合中所选取的F₁应该是方差最大的，故称F₁为第一主成分。如果第一主成分不足以代表原来P个变量的信息，再考虑选取F₂（第二个线性组合），为了有效地反映原来的信息，F₁已有的信息就不需要再出现在F₂中，用数学语言表达就是要求Cov(F₁, F₂)=0，称F₂为第二主成分，以此类推，可以构造出第三、第四……第P个主成分。

2．主成分分析的数学模型

对于一个样本资料，观测p个变量x₁,x₂,…,x_p，n个样品的数据资料阵为：

其中，。

主成分分析就是将p个观测变量综合成p个新的变量（综合变量），即：

简写为：

j=1,2,…,p

要求模型满足以下条件：

① F_i、F_j互不相关（i≠j，i,j =1,2,…,p）。

② F₁的方差大于F₂的方差大于F₃的方差。

③，k=1,2,…p。

于是，称F₁为第一主成分，F₂为第二主成分，以此类推，有第p个主成分。主成分又叫主分量。这里a_ij称为主成分系数。

上述模型可用矩阵表示为：F=AX。

其中：

A称为主成分系数矩阵。