Round-off Error vs. Truncation Error

Round-off Error

• 컴퓨터에서 수치를 저장하는 데이터 타입의 한계로 인한 에러.
• 제한된 비트에 수치를 저장하기 때문에 발생하며 Finite word-length effect, Finite word-length error라고도 불림.
• 주로 quantization에서 발생.

Finite precision characteristic (유한정세도특성)

• 계수양자화특성 : Transfer function (←difference equation)을 구현할 때 사용되는 반도체 소자의 bit수 에 따라, coefficient의 양자화 특성이 결정됨 → 높은 bit의 반도체 소자일수록 양자화 에러가 적음.
• 라운딩 특성 : 또한 coefficient와 input signal이 곱해지는 과정에서 round-off error가 발생함. (곱해진 결과가 요구하는 bit의 크기가 증가하므로 LSB (Least Significant Bit)들이 버려지게 되는 rounding (rounding 대신 chopping off로 처리하기도 하지만 일반적으로 rounding임)이 발생.

Truncation Error

• 테일러 급수 등으로 원래의 수식을 수학적으로 approximation(근사)하여 풀 때, 해당 approximation으로 인해 발생하는 오차.
• 이상적으로 무한한 항으로 근사하면 같겠지만... 실제로는 불가능하므로 역시 피할 수 없는 오차임.