System of Linear Equations (연립방정식)의 Solution를 구하는 가장 표준적인 방법.Gauss Elimination을 좀 더 보강한 방법(컴퓨터 없이 연립일차방정식 계산할 경우 가장 일반적으로 사용됨)System의 Augmented Matrix에 Elementary Row Operations을 적용하여 Row Reduction(=행소거, 또는 Elimination으로 볼 수 있음)을 수행.Row reduction에 의해 Augmented Matrix는 Row Echelon Form (REF)이 됨. (← forward phase종료)이 REF를 backward phase를 수행하여 Reduced Row Echelon Form(RREF)으로 변경하여 solution을 구함.Pre-..

Linear Algebra에서는 "Row Operations"와 유사하게 "Column Operation"도 존재. 이 두 유형의 Operations은 Matrix를 다룰 때 중요한 Tool로,matrix의 성질을 조사하거나특정한 형태(Echelon form등)로 변환하는 데 사용.주로 Column Vector를 사용하는 경우, Row Operations가 사용되며, Linear System을 푸는데 이용됨. 각각의 연산에 대응하는 Elmentary Row Operation Matrix가 존재하고,이들과의 곱을 통해 처리되는게 일반적임.Elementary Row Operations (행 연산)Row Operations은 Matrix의 Row에 적용되는 Operations로, 다음 세 가지 기본 유형이 있..

Consistent Linear System만약 Linear system이 consistent하다는 애기는 다음과 equivalent임.해당 system의 augmented matrix에서 pivot column vector가 맨 오른쪽의 column이 되는 경우가 없음.이는 REF (row echelon form)로 augmented matrix를 표시할 때, $\textbf{0}^\top | b$ 와 같은 row가 없다는 애기임. (여기서 $\textbf{0}^\top$은 zero row vector로 bold체로 표시됨.)Linear system이 consistent 할 경우 다음 두가지 경우 중 하나임.unique solution을 가짐 : 이 경우 free variable이 없음. (즉, REF..

Linear Combination이란linear equation 에서 variables가 scalars가 아닌 vectors로 대체한 형태 (상수가 놓이는 Right Side가 아닌 Left Side)scalar를 component가 1개인 vector라고 생각할 수 있으므로, linear equaiton의 (right side의) 일반화 라고 봐도 된다.weighted sum이라고도 불림.2024.02.16 - [.../Linear Algebra] - [LA] Linear Equation (선형 방정식) and Linear System 정리. [LA] Linear Equation (선형 방정식) and Linear System 정리.Linear Equationlinear equation(선형 방정식)은..

선형 독립(Linear Independence):대상: vector set정의특정 vector set에 속한 vector 각각이 해당 vector set의 다른 vectors의 liner combination으로 (정확히) 표현될 수 없는 경우,해당 vector set을 linearly independent 라고 함.해당 vector set의 모든 vector들은 각각 자기 외의 다른 vectors로부터 파생될 수 없음.Linearly independent란해당 vector set의 모든 vector들이 서로에 대해 독립적으로 다른 vector들이 가지고 있지 않은 방향에 대한 정보를 가지고 있음을 의미.2024.02.16 - [.../Math] - [LA] Linear Independence [LA] ..

Singular Value Decomposition$$A=U\Sigma V^\top$$Rank가 $n$인 matrix $A\in \mathbb{R}^{m\times n}\text{ where }m\ge n$ 에서orthonormal vector set$\{\textbf{v}_1, \dots, \textbf{v}_n\}, \{\textbf{u}_1, \dots \textbf{u}_n\}$ 와non-negative scalr set $\{\sigma_1, \dots, \sigma_n\}$에 대하여$$A\textbf{v}_i=\sigma_i\textbf{u}_i \text{ where } i=1,2,\dots,n$$를 만족한다고 가정하자.Singular Values and Left/Right Singular ..