[CE] Round-off Error 예제

컴퓨터에서 real number의 representation은

• 제한된 비트로 인한 근사를 피할 수 없고
• 때문에 이같은 근사로 인해 에러 또는 오차가 발생한다

관련 자세한 내용은 다음을 참고.

https://bme808.blogspot.com/2022/11/ss-round-off-error-vs-truncation-error.html/

SS : Round-off Error vs. Truncation Error

---

다음은 연립일차방정식의 예로 $x_1$의 coefficient가 round-off로 인한 오차가 어떻게 발생하는지 확인할 수 있음.

 

$$
x_1+2x_2 = 10 \\1.1x_1+2x_2=10.4
$$

 

두 번째 방정식의 $x_1$의 coefficient가 1.1 인 경우와 1.05 인 경우의 차이가 roundoff-error를 보여줌.

 

$$
\begin{aligned} x_1&=\dfrac{10-10.4}{1-1.1}=\frac{-0.4}{-0.1}=4 \\ x_2 &= \dfrac{10.4-10\times1.1}{2-2\times1.1}=\frac{-0.6}{-0.2}=3 \end{aligned}
$$

 

$x_1$의 coefficient의 값이 1.05로 처리된 경우에는 다음과 같이 풀림.

 

$$
\begin{aligned} x_1&=\dfrac{10-10.4}{1-1.05}=\frac{-0.4}{-0.05}=8 \\ x_2 &= \dfrac{10.4-10\times1.05}{2-2\times 1.05}=\frac{-0.1}{-0.1}=1 \end{aligned}
$$

 

coefficient에 대한 1.1 과 1.05 의 미세한 차이로 인해 solution이 매우 극적으로 변하는 것을 볼 수 있음.