Quadratic Form : Scalar 에서 이차식 (Quadratic Expression) $a x^2$의 일반형. Definition of Quadratic Form$x\in \mathbb{R}^n$ 일 때, $\mathbb{R}^n$에서의 Quadratic Form (이차형식) 은 다음과 같음.$$\mathbf{x}^\top A \mathbf{x}$$where,$A$: Matrix of Quadratic Form. 이차항에서의 coefficient에 해당함.항상 Symmetric Matrix임.$n=1$인 경우, $a x^2$가 이차형식으로 scalar가 됨: $1 \times 1$.Hessian 의 부호: Concave, Convex$f(x)=a x^2$ 와 같은 이차식은 concave, co..

출처Linear Algebra and Its Applications (5th ed.), David C. Lay, Pearson 2014Chapter 7.4 Example 1 문제$A=\begin{bmatrix}4 & 11 &14 \\ 8 & 7&-2\end{bmatrix}$를 standard matrix로 가지는 linear transformation $\textbf{x}\mapsto A\textbf{x}$에서 $\|A\textbf{x}\|$를 최대화시키는 unit vector $\textbf{x}$를 구하고, 해당 unit vector가 매핑된 vector $A\textbf{x}$의 length를 구하라.풀이해당 문제는 다음의 Constrained Optimzaion 문제임.$$\underset{\te..

0. Definition of Hermitian Matrix모든 entity들에 complex conjugate를 취하고 Transpose를 할 경우, 자기자신이 나오는 matrix.$$A={A^*}^\top(=A^H)$$complex conjugate를 취하고 tanspose하는 연산을 Herimitian adjoint (에르미트 수반) 또는 줄여서 adjoint라고 부름: 다른 이름으로 켤레전치(conjugate transpose)라고도 불림.역행렬을 구할 때 cofactor들로 구성된 행렬의 transpose도 adjoint matrix 또는 줄여서 adjoint라고 불렸었는데 이를 Hermitian adjoint와 구분하기 위해 최근엔 classic adjoint 또는 adjugate 라고 부름...