단위 소거법과 비례식의 차이

단위 소거법과 비례식의 차이

단위 소거법으로 계산한 결과와

비례식으로 계산한 결과가 약간 차이나는 이유

[참고] 단위 소거법

[ https://ywpop.tistory.com/3121 ]

단위 소거법으로 계산한 결과와

비례식으로 계산한 결과가

약간 차이 난다면,

그것은

비례식으로 계산할 때마다

소수점 이하 몇째 자리에서

반올림했기 때문입니다.

단위 소거법으로 계산하면,

소수점 이하 숫자 전부를 사용하는 셈이고,

비례식으로 계산하면,

소수점 이하 숫자 일부를 잘라버리는 셈입니다.

만약 비례식으로 계산할 때마다,

소수점 이하 6자리 숫자까지 사용하면,

계산 결과를

소수점 이하 2자리 숫자까지만 비교하면,

비례식으로 계산한 결과와

단위 소거법으로 계산한 결과는

거의 100% 동일한 결과가 나올겁니다.

[키워드] 단위 소거법 기준, 비례식 기준