Diagonalizable (대각화)Sqaure Matrix가 $n$개의 eigenvalue를 가지고 (multiplicity를 감안하여 중복 카운트. 0인 Eigenvalue도 카운트), 이들 각각의 eigenvalue들이 각자의 multiplicity에 해당하는 dimension을 가지는 eigenspace를 가지고 있는 경우 가능.각기 다른 eigenvalue의 Eigen Space들은 서로 linearly independent함 (orthogonal까지 보장하는 건 아님!). eigenvalue가 자신의 multiplicity(중복도)에 해당하는 dimension의 eigen space를 가진다면, $n\times n$ square matrix는 $n$개의 linearly independent한 ..

1. Multi-Variable vs Multi-Variate (in Regression)Regression에서 많이 사용되는 경우이며, 위의 용어에서 Variable은 독립변수에 해당하며, Variate는 종속변수에 해당함. variable (변수) : 독립변수에 해당.univariable : independent variable이 scalar.multi-variable : independent variable이 vector.하지만 Multiple Regression이라고 불림. 즉, 독립변수가 여러 개 (=vector가 독립변수)인 경우, Multiple Regression이라고 불림. variate (변량) : 종속변수에 해당univariate : dependent variable이 scalar. ..

Markov Chain: 1907년 Markov가 제안한 확률모델. 강화학습과 베이지안 확률모델에서 많이 사용됨. Markov Chain은 Markov Property를 가지고 있는 Discrete-Time Stochastic Process (또는 Discrete-Time Random Process)를 의미함.달리 애기하면, 다양한 Random Experiment들의 Trial들에 대한 확률 모델로 "현재의 state만 고려하여 다음 state가 확률적으로 결정되는 Discrete-Time Stochastic Process"임. 주로많은 수의 trial이 이루어지는 먼 미래의 state를 예측 (초기상태에 상관없는)하거나순차적으로 발생하는 확률변수에 대한 값을 예측할 때 이용됨.2022.10.14 - [..

David C. Lay의 Linear Algebra에서 1.2장의 Example 3에 sympy적용. RREF는 unique하기 때문에 sympy에서 지원함. import numpy as np import sympy as sp # ---------------------------------- # colab에서 sympy의 값을 latex 지원하여 출력하기 위해 정의 def custom_latex_printer(exp, **options): from google.colab.output._publish import javascript url = "https://cdnjs.cloudflare.com/ajax/libs/mathjax/2.7.3/latest.js?config=default" javascript(u..

David C. Lay의 Linear Algebra의 1장의 예제를 tensorflow로 확인. colab으로 간단히 확인 가능함. import tensorflow as tf import numpy as np A = np.array([ [1 ,-2, 1], [0 , 2,-8], [-4, 5, 9] ], dtype=float) cmtx = tf.constant(A) b = np.array([0,8,-9],dtype=float) # tf.constant 를 이용. (1) # b = b.reshape(-1,1) # bvec = tf.constant(b) # tf.constant 를 이용. (2) bvec = tf.constant(b, shape=(3,1)) # tf.Varialbe을 이용. # b = b.re..

Scalar : 숫자 하나로 구성. (일반적으로 real number) Vector : the ordered list of numbers. (개념적인 정의. 다르게는 한 sample data의 record에 해당한다고 볼 수 있음.) Matrix : the collection of vectors. (주로 column vector들이 모인 형태로 이용됨.) Tensor : the collection of matrices. (같은 크기의 행렬들이 모인 것으로 여기면 됨.) 위의 정의는 수학적으로 정확한 정의는 아니지만, ML( including DL)에서 이용되는 LA을 이해하기 위해선 충분한 정의임. Tensor는 원래 mapping represented by a multi-dimensional matri..