奇异值分解(SVD)的定义和符号解释

奇异值分解(Singular Value Decomposition，SVD)是线性代数中一种重要的矩阵分解方法。对于任意一个 $m \times n$ 的实数矩阵 $A$，都存在一组左奇异向量 $\mathbf{U}$、右奇异向量 $\mathbf{V}$ 和一组非负实数奇异值 $\sigma_1,\sigma_2,\cdots,\sigma_r(r=\text{rank}(A))$，使得 $A=\mathbf{U\Sigma V}^T$，其中 $\mathbf{\Sigma}$ 是一个 $m \times n$ 的对角线矩阵，对角线上的元素为奇异值。

$\mathbf{U}$：左奇异向量矩阵，是一个 $m \times r$ 的矩阵，每一列都是一个左奇异向量。

$\mathbf{V}$：右奇异向量矩阵，是一个 $n \times r$ 的矩阵，每一列都是一个右奇异向量。

$\mathbf{\Sigma}$：奇异值矩阵，是一个 $r \times r$ 的对角线矩阵，对角线上的元素为非负实数奇异值。

$A=\mathbf{U\Sigma V}^T$：奇异值分解的表达式，表示原始矩阵 $A$ 可以分解为左奇异向量矩阵、奇异值矩阵和右奇异向量矩阵的乘积。