#x1f50e;个人主页#xff1a;主页链接#xff08;欢迎各位大佬光临指导#xff09;

⭐️近…

博主介绍大家好这里是hyk写算法了吗一枚致力于学习算法和人工智能领域的小菜鸟。

个人主页主页链接欢迎各位大佬光临指导

SVD奇异值分解是一个有着很明显的物理意义的一种方法它可以将一个比较复杂的矩阵用更小更简单的几个子矩阵的相乘来表示而可以使用这些小矩阵描述矩阵的重要的特性和矩阵的特征值特征向量分解有所不同SVD不需要矩阵为方阵使用局限性更小。

SVD形式

这里假设待分解的矩阵A为m×n维矩阵。

U就是m×m维矩阵名称为左奇异向量。

Σ是m×n维矩阵除了对角线元素其他元素均是0对角线元素就是奇异值。

V的转置是n×n维的矩阵名称为右奇异向量。

SVD计算

vi就是右奇异向量关于如何求矩阵特征值和特征向量这里不再详细介绍。

2、奇异值

\sigma_{\mathrm{i}}\sqrt{\lambda_{\mathrm{i}}}

\end{aligned}

\mathrm{u}_{\mathrm{i}}\frac{1}{\sigma_{\mathrm{i}}}

v_{\mathrm{i}}

求得奇异值与右奇异向量二者按照上方公式计算即可得出左奇异向量。

最后将所求得的各个参数的分量合并在一起按照形式排列即可实现奇异值分解。

SVD意义

奇异值与矩阵特征值类似在Σ矩阵中从大到小排列但是奇异值减小的非常快前10%的奇异值之和就占据奇异值总和的99%以上我们也可以用最大的k个的奇异值和对应的左右奇异向量来近似描述矩阵。

即

\times

\mathrm{n}}\mathrm{U}_{\mathrm{m}

\times

Am×n​Um×m​Σm×n​Vn×nT​≈Um×k​Σk×k​Vk×nT​

其中k比n要小很多。

简而言之SVD通过分解数据矩阵帮助我们在降低数据维度的同时保留最重要的信息这在数据压缩和去噪中非常有用。

在推荐系统中SVD通过揭示用户和物品的隐含特征提升了推荐的准确性和个性化水平。

SVD分解示例

\mathbf{A}\left(\begin{array}{ll}0

0\end{array}\right)

\mathbf{A}\left(\begin{array}{lll}

\end{array}\right)\left(\begin{array}{ll}

\end{array}\right)\left(\begin{array}{ll}

\end{array}\right)

A}^{\mathrm{T}}\left(\begin{array}{ll}

\end{array}\right)\left(\begin{array}{lll}

\end{array}\right)\left(\begin{array}{lll}

\end{array}\right)

\boldsymbol{A}^{\boldsymbol{T}}

\boldsymbol{A}:

\mathrm{u}_1\left(\begin{array}{c}

\sqrt{6}

\mathrm{u}_2\left(\begin{array}{c}

\sqrt{2}

\sqrt{2}}\sigma_1\left(\begin{array}{l}

\sqrt{6}

\sqrt{2}}\sigma_2\left(\begin{array}{c}

\sqrt{2}

\mathrm{V}^{\mathrm{T}}\left(\begin{array}{ccc}

\sqrt{6}

\end{array}\right)\left(\begin{array}{cc}

\sqrt{3}

\end{array}\right)\left(\begin{array}{cc}

\sqrt{2}