Error Propagation이란?Random Variable $x$ 의 uncertainity가 해당 변수의 function $y=f(x)$에서 결과값의 uncertainty에 주는 영향을 추정하는 기법.Taylor expansion에 기반하고 있음.uncertainty는 주로 variance 임.$$\text{var}\left[f(x)\right] \approx \left[f^\prime(\bar{x})\right]^2 \text{var}\left[x\right]$$https://youtu.be/3iriQxLVvEk?si=7SbUn7DnsAahHBbCuncertainty에 오타 있네요. ==;;같이보면 좋은 자료들2023.02.27 - [.../Math] - [Math] Taylor Expansi..

Sampling Error (표본 오차, Sampling Noise)정의: population 에서 sampling을 수행할 때 random(우연)에 의해 발생하는 무작위적 변동(random variability). sampling에서 randomness를 피할수 없고 해당 sample에서 얻어진 sample statistics가 population statistics와 달라지는 error가 발생할 수 있으며 이는 sampling error(=random variability)에 기인함. 다른 이름:sampling variabilitysampling noise (error는 잘못이라는 의미가 있는데 sampling error는 실수나 잘못으로 발생하지 않기 때문에 noise를 선호하는 이들도 많음)특징:..

다음과 같은 integral expression으로 정의되는 Transcendental Function의 하나임. $$\text{erf}(x)=\dfrac{2}{\sqrt{\pi}}\int^x_0 e^{-\tau^2}d \tau$$ $\text{erf}(x)$는 standard normal distribution의 cumulative distribution function과 동일함. 정확히는 Gauss function의 적분은 $\text{erf}(x)$의 상수배(1/2 배)임. ML 등의 분야의 GeLU activation function 유도에서 사용된다. https://dsaint31.me/mkdocs_site/ML/ch09/act_silu/#gaussian-error-linear-unit-gelu..

Round-off Error: 컴퓨터에서 수치를 저장하는 데이터 타입의 한계로 인한 에러.제한된 비트에 수치를 저장하기 때문에 발생하며 Finite word-length effect, Finite word-length error라고도 불림.주로 quantization에서 발생.더보기Finite precision characteristic (유한정세도특성)계수양자화특성 : Transfer function (←difference equation)을 구현할 때 사용되는 반도체 소자의 bit수 에 따라, coefficient의 양자화 특성이 결정됨 → 높은 bit의 반도체 소자일수록 양자화 에러가 적음.라운딩 특성 : 또한 coefficient와 input signal이 곱해지는 과정에서 round-off er..

Central Limit Theorem (중심극한정리)mean의 sampling distribution의 다음과 같은 속성을 기술하는 Theorem이 Central Limit Theorem임.population이 무엇이든지 간에sample size ($N$, 1개의 sample의 element의 수)가 충분히 크다(흔히 30 or 40이상)면,해당 sample의 mean (또는 합계치를 사용할 수도 있음) 을 random variable로 삼아 얻은 sampling distribution은 normal distribution에 가까워지고 population의 mean과 같은 mean을 가진다는 Theorem(정리). 표본의 mean 혹은 합계치 가 normal distribution이 된다는 것(즉, s..