1.2.5　奇异值分解

除了前述由特征向量和特征值组成的特征分解外，奇异值分解（Singular Value Decomposition，SVD）也是使用较为广泛的矩阵分解方法。它将矩阵分解为奇异向量和奇异值。通过奇异值分解，我们可以得到与特征分解类似的信息。与特征分解不同的是，奇异值分解能分解非方阵，因此应用更加广泛。

奇异值分解将矩阵A分解为三个矩阵的乘积：

其中，A为m×n的矩阵，U为m×m的矩阵，D为m×n的矩阵，V为n×n的矩阵。矩阵U和矩阵V为正交矩阵（如果AA^T=E，则n阶实矩阵A称为正交矩阵）；D为对角矩阵（主对角线之外的元素皆为0的矩阵，常写为diag）；对角矩阵上的元素称为矩阵A的奇异值，矩阵U的列向量称为左奇异向量，矩阵V的列向量称为右奇异向量。