Singular Value DecompositionRank가 $n$인 matrix $A\in \mathbb{R}^{m\times n}\text{ where }m\ge n$ 에서orthonormal vector set$\{\textbf{v}_1, \dots, \textbf{v}_n\}, \{\textbf{u}_1, \dots \textbf{u}_n\}$ 와positive scalr set $\{\sigma_1, \dots, \sigma_n\}$에 대하여$$A\textbf{v}_i=\sigma_i\textbf{u}_i \text{ where } i=1,2,\dots,n$$를 만족한다고 가정하자. 이때, positive scalar 인 $\sigma_1, \dots,\sigma_n$들을 matrix $A$의s..

Linear Algebra and Its Applications (5th ed.), David C. Lay, Pearson 2014 Chapter 7.4 Example 1 $A=\begin{bmatrix}4 & 11 &14 \\ 8 & 7&-2\end{bmatrix}$를 standard matrix로 가지는 linear transformatino $\textbf{x}\mapsto A\textbf{x}$에서 $\|A\textbf{x}\|$를 최대화시키는 unit vector $\textbf{x}$를 구하고, 해당 unit vector가 매핑된 vector $A\textbf{x}$의 length를 구하라. 해당 문제는 다음의 constrained optimzaion 문제임. $$\underset{\textb..