通俗易懂SVD分解

通俗易懂SVD分解

特征值分解和奇异值分解的目的都是一样，就是提取出一个矩阵最重要的特征。然而，特征值分解只适用于方阵，而SVD奇异值分解适用于任意的矩阵，不一定是方阵。

特征值分解的A矩阵是对称阵，根据EVD可以找到一个（超）矩形使得变换后还是（超）矩形，也即A可以将一组正交基映射到另一组正交基！那么现在来分析：对任意M*N的矩阵，能否找到一组正交基使得经过它变换后还是正交基？答案是肯定的，它就是SVD分解的精髓所在。

第一步：理解SVD区别去特征值分解的推导

第二步：进一步

第三步：又可以写成

第四步：简化为

作用与意义：奇异值分解最大的作用就是数据的降维

例子实验：

手写一个字，转换为矩阵表示

对其矩阵进行SVD分解，同时仅保留奇异值不为0项，即截断

结果对比，大家可以看到特征性质很好的保留了。