math

[Math] Probability Distribution

Probability DistributionProbability Distribution은 특정 random variable(확률 변수)이 취할 수 있는 각각의 값에 대한 확률을 나타내는 분포임.Probability Distribution Function으로 기술되며,random variable이 어떤 값을 얼마나 자주 취하는지를 나타냄.이를 통해 random variable의 특성과 동작을 이해할 수 있음.Definition of PDFrandom variable $X$가 가질 수 있는 특정한 value $x$와 이 $x$에 대응하는 확률을 매핑하고 있는 function.PDF는 abbreviation of Probability Distribution Function.pdf는 probability den..

[Math] Continuous 와 Differentiable 의 관계

Differentiable and ContinuousFunction $f(x)$가 $x=a$에서 미분 가능 ($p$) 하면 $f(x)$는 연속이다($q$). (← implication, 조건명제)$p \implies q$ 는 참(True)이나 이의 역인 $q \implies p$는 거짓(False)임.Example$f(x)=|x|$ : $x=0$에서 continuous하지만 미분가능하지 않음.2023.06.22 - [.../Math] - [Math] Continuity (of Multivariate Function) and Contiguity0, \ \ \exists \delta>0 \mbox{ such that if } \mathbf x \in S \mbox{" data-og-host="dsaint31..

[책] 기계학습 공부를 위한 좋은 수학 기본서

기초용. https://product.kyobobook.co.kr/detail/S000001743792 데이터 과학을 위한 기초수학 with 파이썬 | 이병준 - 교보문고 데이터 과학을 위한 기초수학 with 파이썬 | 데이터 과학 입문을 위한 필수 기초수학!4차 산업혁명 시대의 대명사는 데이터 과학입니다. 데이터 과학을 이해하려면 수학적 개념에 대한 이해가 선 product.kyobobook.co.kr 앞의 기초 이후 https://product.kyobobook.co.kr/detail/S000200555619 머신러닝을 위한 수학 | 이병준 - 교보문고 머신러닝을 위한 수학 | 수학적 최적화를 이해하면, 머신러닝이 보인다!머신러닝 알고리즘을 잘 이해하고 활용하려면 알고리즘의 기반이 되는 수학 원리를 ..

[Math] 용어: root, equality, expression

root (solution, 해)근(=root) 또는 해(=solution),equation이 참이 되게하는 unknown의 값. 수학의 전공자가 아니다보니, 확실치는 않은데root는 homogeneous equation에서의 solution을 주로 가르키는 경우가 많고,solution은 simultaneous equations 에서 주로 사용되는 경우가 많은 거 같다. 즉, 다음과 같이 정리 가능하다.“근(root)”은 주로 polynomial equation(다항식 방정식)에서 방정식을 0으로 만드는 특정 값을 가리키는데 사용되는 반면,“해(solution)”는 모든 유형의 방정식(연립방정식과 단일방정식 등등)에서 그 조건을 만족하는 unknown의 값 또는 값들의 집합을 가리키는 더 일반적인 용어임..

[Math] Cartesian Product (or Descartes Product, Product Set)

Cartesian Product (or Descartes Product) 공집합(empty set, null set)이 아닌 여러 sets를 이용하여 새로운 set을 만드는 연산. Cartesian product는 operand인 여러 집합들의 각 elements를 원소(component, element)로 하는 tuple을 element(원소)로 하는 set을 반환함. 2개의 집합 $A$, $B$의 Cartesian product $A\times B$는 다음과 같음. $$A\times B= \{ (a,b) | a \in A, b\in B\}$$ $n$ 개의 집합 $A_1, A_2, \dots, A_n$의 Cartesian Product는 다음과 같이 정의됨. $$\displaystyle \prod^n_..

[Math] Directional Derivative (방향도함수)

정의 Function $f:\mathbb{R}^n\to \mathbb{R}$에 대해서 unit vector $\textbf{u}=\begin{bmatrix}u_1 & \cdots & u_n\end{bmatrix}^T$의 방향으로 function $f$의 순간변화율이 바로 Directional Derivative임. 수식 $$\nabla_{\textbf{u}}f(\textbf{x})=\underset{h \to 0}{\lim}\frac{f(\textbf{x}+h\textbf{u})-f(\textbf{x})}{h}=\frac{\partial f(\textbf{x})}{\partial \textbf{u}}$$ Directional Derivative에서 방향을 결정하기 위해서 unit vector $\text..

[Math] Partial Derivatives (편도함수)

Multi-variate Function (or Scalar Field)에서는 input variable이 여러개, 즉 input이 vector이기 때문에 각각의 input variable의 변화량에 따라 output이 어떻게 변화하는지를 고려하여 Derivative (도함수)를 구해야함. 이를 고려하여 하나의 input variable을 기준으로 미분을 수행한 것이 바로 Pratial Derivative임. (이들을 모아서 column vector로 표기한 것을 Gradient라고 하며, 이들을 row vector로 표기한 것을 1st order derivative에 해당하는 Jacobian 이라고도 부름 : 차이는 gradient는 일반적으로 항상 vector인 반면, Jacobian은 일반적으로 m..

[Math] Level Set

real multi-variate function $f:\mathbb{R}^n \to \mathbb{R}$ 에서 Level Set은 real value $c$에 대해 다음을 만족하는 set을 의미함. $$\left\{ (x_1, \dots, x_n) \in \mathbb{R}^n | f(x_1, \dots, x_n)=c \right\}$$ 위의 정의를 따르면서 $n=2$인 경우의 Level Set을 Level curve (등위곡선)라고 부르며, $n=3$인 경우의 Level Set을 Level surface (등위곡면)라고 부름. 지도에서 등고선이 Level curve의 예라고 할 수 있다. x,y좌표에서 높이를 z라고 하면 일종의 $n=2$인 multi-variate function이라고 할 수 있다...

[Math] Monomial and Polynomial (단항식 과 다항식)

Monomial (단항식) constant와 variable의 product로 이루어진 algebraic expression. monomial expression이라고 불림. 수학에서 monomial은 하나의 term(항)으로 구성된 algebraic expression (대수적 표현식)임. 이 하나의 term은 constant, variable, 또는 constant와 variable의 product(곱) 들로 구성됨. 여기서 variable은 exponent(지수)를 가질 수 있는데 해당 exponent는 반드시 positive integer(양의 정수)여야 함. 주의할 것은 variable이 denumerator에 있을 경우에는 비록 하나의 term이라고 할지라도 monomial이 아님 (앞서 양의..

[Math] Definition, Proposition, Axiom, and Theorem

Definition (정의)용어 등의 뜻을 명확하게 정한 것.용어 등에 대한 약속이므로 증명할 필요가 없음.단, well-defined가 되어야 함.Proposition (명제)참, 거짓을 분명하게 판단할 수 있는 "문장(statement)"이나 "식(expression)". (명확하고 객관적이어야 함.)Proposition은 참과 거짓으로 구분할 수 있는 statement의 추상적인 form이라고도 볼 수 있음.때문에 statement라고도 쓰이는 경우가 있음.statement는 proposition보다 넓은 general term 임.일상적 범용적 문맥에서도 statement는 사용되며 이 경우 참,거짓을 명확히 구분할 수 없을 수도 있음.statement는 "진술"이라고도 불림.Proposition..