Singular Value DecompositionRank가 $n$인 matrix $A\in \mathbb{R}^{m\times n}\text{ where }m\ge n$ 에서orthonormal vector set$\{\textbf{v}_1, \dots, \textbf{v}_n\}, \{\textbf{u}_1, \dots \textbf{u}_n\}$ 와positive scalr set $\{\sigma_1, \dots, \sigma_n\}$에 대하여$$A\textbf{v}_i=\sigma_i\textbf{u}_i \text{ where } i=1,2,\dots,n$$를 만족한다고 가정하자. 이때, positive scalar 인 $\sigma_1, \dots,\sigma_n$들을 matrix $A$의s..

참고로 아래에 Singular Vector Decomposition으로 Pseudo Inverse를 구하는 방법이 있음. Pseudo Inverse Matrix square matrix 가 아닌 matrix $A_{m\times n}$에서 inverse에 해당하는 matrix를 구하는데 사용됨. $$ A^+_{n\times m}=\left\{\begin{array}{ll} (A^TA)^{-1}A^T &,A^+A=I_{n\times n}&\text{if }m \ge n&(1)\\A^T(AA^T)^{-1}&,AA^+=I_{m\times m}& \text{if }m\le n&(2)\end{array}\right. $$ 사실 (1)의 경우는 엄밀히 쓰면 $(A^HA)^{-1}A^H$이며 $A$의 column v..