Round-off Error:
- 컴퓨터에서 수치를 저장하는 데이터 타입의 한계로 인한 에러.
- 제한된 비트에 수치를 저장하기 때문에 발생하며 Finite word-length effect, Finite word-length error라고도 불림.
- 주로 quantization에서 발생.
Finite precision characteristic (유한정세도특성)
- 계수양자화특성 : Transfer function (←difference equation)을 구현할 때 사용되는 반도체 소자의 bit수 에 따라, coefficient의 양자화 특성이 결정됨 → 높은 bit의 반도체 소자일수록 양자화 에러가 적음.
- 라운딩 특성 : 또한 coefficient와 input signal이 곱해지는 과정에서 round-off error가 발생함. (곱해진 결과가 요구하는 bit의 크기가 증가하므로 LSB (Least Significant Bit)들이 버려지게 되는 rounding (rounding 대신 chopping off로 처리하기도 하지만 일반적으로 rounding임)이 발생.
Example: x = 0.883
- 4 비트 : 0111=0.5+0.25+0.125=0.875
- 8 비트 : 01110001=0.5+0.25+0.125+0.0078125=0.8828125
- Quantization error (=round-off error)를 피할 수 없다.
Truncation Error:
- 테일러 급수 등으로 원래의 수식을 수학적으로 approximation(근사)하여 풀 때, 해당 approximation으로 인해 발생하는 오차.
- 이상적으로 무한한 항으로 근사하면 같겠지만... 실제로는 불가능하므로 역시 피할 수 없는 오차임.
2023.02.27 - [.../Math] - [Math] Taylor Expansion and Taylor Theorem (테일러 전개)
[Math] Taylor Expansion and Taylor Theorem (테일러 전개)
Taylor Expansion어떤 function $f(x)$을 : 주로 Trascedent Function 임어떤 point $a$에서의 값과 derivative들을 이용하여polynomial(다항식) $p(x)$으로 approximation(근사)하는데 사용되는 것이바로 Taylor's Expansion이라고
dsaint31.tistory.com
같이 보면 좋은 자료들:
https://slideplayer.com/slide/4942127/
Round-Off and Truncation Errors - ppt video online download
Numerical Accuracy Truncation error : Method dependent Errors which result from using an approximation rather than an exact procedure Round-off error : Machine dependent Errors which result from not being able to adequately represent the true value Result
slideplayer.com
2025.06.22 - [Programming/DIP] - Digitization
Digitization
Digitization is the process of converting analog information into digital form throughsampling,quantization, andencoding (생략되기도 함) Digitization makes signals suitable for processing, storage, and transmission in digital systems. 더보기다음
dsaint31.tistory.com
'Computer > ETC' 카테고리의 다른 글
| GIT : 기본 Editor 설정. (0) | 2023.03.20 |
|---|---|
| [Etc] Chrome Remote Desktop으로 원격지원 받기. (0) | 2022.12.28 |
| Boltzmann’s Factor (or Boltzmann’s Distribution) (0) | 2022.06.09 |
| [ML] Newton-Raphson Method (3) | 2022.06.07 |
| [ML] From softmax to logistic function. (0) | 2022.06.06 |