linear algebra

[LA] Linearly Independent and Affine Independent: Summary

선형 독립(Linear Independence): 대상: vector set 정의 특정 vector set에 속한 vector 각각이 해당 vector set의 다른 vectors의 liner combination으로 (정확히) 표현될 수 없는 경우, 해당 vector set을 linearly independent 라고 함. 해당 vector set의 모든 vector들은 각각 자기 외의 다른 vectors로부터 파생될 수 없음. Linearly independent란 해당 vector set의 모든 vector들이 서로에 대해 독립적으로 다른 vector들이 가지고 있지 않은 방향에 대한 정보를 가지고 있음을 의미. 2024.02.16 - [.../Math] - [LA] Linear Independen..

[LA] 예제 : Eigen value, Eigen vector 구하기

Linear Algebra and Its Applications (5th ed.), David C. Lay, Pearson 2014 Chapter 7.4 Example 1 $A=\begin{bmatrix}4 & 11 &14 \\ 8 & 7&-2\end{bmatrix}$를 standard matrix로 가지는 linear transformatino $\textbf{x}\mapsto A\textbf{x}$에서 $\|A\textbf{x}\|$를 최대화시키는 unit vector $\textbf{x}$를 구하고, 해당 unit vector가 매핑된 vector $A\textbf{x}$의 length를 구하라. 해당 문제는 다음의 constrained optimzaion 문제임. $$\underset{\textb..

[LA] Orthogonal matrix (직교행렬)

Matrix의 row vector (and column vector)들이 자기자신을 제외한 나머지 row vector (and column vector)들과 orthonormal인 square matrix. $$ A^{-1}=A^T $$ 엄격히 애기해서 orthogonal matrix는 $A^{-1}=A^T$인 경우로 square matrix에서만 성립함. 이후 애기하는 orthonormal matrix라는 용어보다 좁은 범위임 → orthogonal matrix는 orthonormal column matrix 중 square matrix만으로 한정.($A^{-1}=A^T$) 하지만, vector에서 확장된 개념으로 이해하는 경우가 많아서 그런지 두 용어가 자주 혼재되지만 orthonormal matri..

[LA] Normal Matrix (정규행렬)

Matrix $A \in M_n (C)$에 대해 (← matrix가 complex number를 가질 수 있으며, $n\times n$ square matrix임), 다음을 만족하면 $A$를 normal matrix (정규행렬)이라고 부름. $$A\bar{A}^T(=AA^*)=\bar{A}^TA(=AA^*)$$ where $A^T$ : transpose of $A$ (전치) $A^*$ : $A$의 각 entity에 complex cojugate 를 취하고 Transpose한 것 $A^H$로 표기되기도 함. $\bar{A}$ : $A$의 각 entity에 complex cojugate 취한 행렬. Normal matrix의 가장 큰 특징 중 하나는 항상 diagonlizable이라는 점임. Symmetri..

[LA] Diagonalization, Orthogonal Diagonalization, and Symmetric Matrix

Diagonalizable sqaure matrix가 n개의 eigen value를 가지고, 이들 각각의 eigen value들이 각자의 multiplicity에 해당하는 dimension을 가지는 eigne space를 가지고 있는 경우에 해당. 각기 다른 eigen value의 eigen space들은 서로 linearly independet함 (orthogonal까지 보장하는 건 아님!). eigen value가 자신의 multiplicity(중복도)에 해당하는 dimension의 eigen space를 가진다면, $n\times n$ square matrix는 $n$개의 linearly independent한 eigen vector를 가짐. 이는 다음을 만족하는 invertible한 matrix ..

[Math] Multi-variable vs. Multi-variate and Multiple Regression

1. Multi-variable vs Multi-variate (in Regression) Regression에서 많이 사용되는 경우이며, 위의 용어에서 variable은 독립변수에 해당하며, variate는 종속변수에 해당함. variable (변수) : 독립변수에 해당. univariable : independent variable이 scalar. multi-variable : independent variable이 vector. 하지만 Multiple Regression이라고 불림. 즉, 독립변수가 여러 개 (=vector가 독립변수)인 경우, Multiple Regression이라고 불림. variate (변량) : 종속변수에 해당 univariate : dependent variable이 sca..