...

[Math] Random Sampling

Random SamplingRandom Sampling은 다음을 가르킴. Population(모집단)에서 element를 각각 무작위(random)로 선택하여 얻는sampling method(샘플링, 표본추출)을 가르킴. Statstics에서일반적으로 "제한된 수의 sample들로 계산한 statistics(통계치)"를 population의 parameter로 해석하기 위해서는반드시 random sampling을 통해 sample을 얻어야 한다.Random Sampling의 특징Random sampling에서는pupluation의 모든 element들이sample로 선택될 확률이 모두 같다.  Summary이를 요약하면 다음과 같이 애기할 수 있다. Random Sampling은 모집단 populatio..

[Math] 용어: root, equality, expression

root (solution, 해)근(=root) 또는 해(=solution),equation이 참이 되게하는 unknown의 값. 수학의 전공자가 아니다보니, 확실치는 않은데root는 homogeneous equation에서의 solution을 주로 가르키는 경우가 많고,solution은 simultaneous equations 에서 주로 사용되는 경우가 많은 거 같다. 즉, 다음과 같이 정리 가능하다.“근(root)”은 주로 polynomial equation(다항식 방정식)에서 방정식을 0으로 만드는 특정 값을 가리키는데 사용되는 반면,“해(solution)”는 모든 유형의 방정식(연립방정식과 단일방정식 등등)에서 그 조건을 만족하는 unknown의 값 또는 값들의 집합을 가리키는 더 일반적인 용어임..

[LA] Gauss-Jordan Elimination

System of linear equations (연립방정식)의 solution를 구하는 가장 표준적인 방법. Gauss Elimination을 좀더 보강한 방법 (컴퓨터 없이 연립일차방정식 계산할 경우 가장 일반적으로 사용됨) System의 Augmented Matrix에 Elementary Row Operations을 적용하여 Row Reduction(=행소거, 또는 Elimination으로 볼 수 있음)을 수행. Row reduction에 의해 Augmented Matrix는 Row Echelon Form (REF)이 됨. (← forward phase종료) 이 REF를 backward phase를 수행하여 Reduced Row Echelon Form(RREF)으로 변경하여 solution을 구함...

[LA] Row Operations and Row Equivalent

linear algebra에서는 "row operations"와 유사하게 "column operation"도 존재. 이 두 유형의 operations은 matrix를 다룰 때 중요한 tool로, matrix의 성질을 조사하거나 특정한 형태(Echelon form등)로 변환하는 데 사용. Elementary Row Operations (행 연산) row operations은 matrix의 row에 적용되는 operations로, 다음 세 가지 기본 유형이 있습니다: 행 교환 (Row Swapping or Interchanging): 두 행의 위치를 서로 교환합니다. 행 스칼라 곱 (Row Scaling): 한 행의 모든 원소를 비제로 스칼라 값으로 곱합니다. 행 덧셈 (Row Addition or Repl..

[LA] Pivot and Pivot Column

Pivot (position) Matrix의 row echelon form(REF)에서 leading entry들의 위치를 가르킴. leading entry : row에서 0이 아닌 첫번째 element를 가르킴. 실제로 REF나 RREF나 pivot position은 같음. RREF는 matrix에 대해 unique하게 결정됨 : Pivot역시 고정됨! Pivot column Matrix에서 Pivot (or Pivot position)을 포함하고 있는 column. Example 다음의 matrix $A$에서 pivot position과 pivot column을 구하라. $$A= \begin{bmatrix} 0 & -3 & -6 & 4 & 9 \\ -1 & -2 & -1 & 3 & 1 \\ -2 & ..

[LA] Existence and Uniqueness Theorem

Consistent Linear System 만약 Linear system이 consistent하다는 애기는 다음과 equivalent임. 해당 system의 augmented matrix에서 pivot column vector가 맨 오른쪽의 column이 되는 경우가 없음. 이는 REF (row echelon form)로 augmented matrix를 표시할 때, $\textbf{0} =b$ 와 같은 row가 없다는 애기임. (여기서 $\textbf{0}$은 zero row vector로 bold체로 표시됨.) Linear system이 consistent 할 경우 다음 두가지 경우 중 하나임. unique solution을 가짐 : 이 경우 free variable이 없음. (즉, REF에서 all..

[LA] Linear Equation (선형 방정식) and Linear System 정리.

Linear Equation linear equation(선형 방정식)은 variables(변수들) $x_1, \cdots, x_n$에 대한 equation(방정식)으로, $a_1, \cdots, a_n$와 같은 real (or complex) scalar coefficients(계수들, weights) 와 real (or complex) scalar $b$를 사용하여 다음과 같은 형태로 표현됨.: $$a_1x_1 + a_2x_2 + \cdots + a_nx_n = b$$. degree가 1인 polynomial equation이기 때문에 1차 방정식이라고도 불림. 2023.06.03 - [.../Math] - [Math] Monomial and Polynomial (단항식 과 다항식) System of..

[LA] Introduction of Linear Algebra

linear algebra는 다음을 다루고 제공하는 분야임. vector, matrix, tensor 등을 사용하여, 대용량의 숫자로 이루어진 데이터를 효과적으로 계산 및 처리하는 방법을 다룸. "기하학적으로 이해가능한 1~3차원”에서 출발하여 “딥러닝과 같은 기계학습에서 이용하는 고차원 벡터 공간“에서의 대용량 데이터 분석을 위한 이론적 그리고 수학적 기반을 제공. Linear Algebra 관련해서 용어(terminology)에 대한 정확한 개념을 가지고 있는 것이 기계학습이나 AI 분야의 응용기술을 이해하는데 필요함. 컴퓨터의 발달로 점점 linear algebra에서 실제 손으로 하는 계산 보다는 개념이 중요해지고 있으며, 사람은 가장 효율적인 계산법을 고르고, 적절한 입력 데이터를 vector나..

[LA] Affine Combination, Affine Hull and Affine Set

Affine Combination여러 points (or vectors)를 linear combination 할 때, weights의 합을 1로 제한한 경우.즉, weights 의 합이 1로 제한된다는 조건이 붙은 특별한 linear combination임.정의주어진 vectors $\textbf{v}_1, \textbf{v}_2,\cdots, \textbf{v}_p$와 scalars $c_1,\cdots, c_p$에 대해, affine combination은 weight로 사용되는 scalars가 $c_1+\cdots +c_p = 1$를 만족하는 linear combination.위의 정의에서 주어진 vectors를 position vector로 해석하면 points로 볼 수도 있음.Affine com..

[LA] linear combination

linear equation 에서 variables가 scalars가 아닌 vectors로 바꾸어진 형태와 비슷 (상수가 놓이는 left side가 아닌 right side)scalar를 component가 1개인 vector라고 생각할 수 있으므로, linear equaiton의 (right side의) 일반화 라고 봐도 된다.weighted sum이라고도 불림.2024.02.16 - [.../Linear Algebra] - [LA] Linear Equation (선형 방정식) [LA] Linear Equation (선형 방정식)linear equation(선형 방정식)은 variables(변수들) $x_1, \cdots, x_n$에 대한 equation(방정식)으로, $a_1, \cdots, a_n$..