오차의 원인 및 유효숫자 처리 방법

실험을 수행하다 보면 오차는 항상 따르기 마련입니다. 오차가 발생하는 이유와 유효숫자에 대해 알아보겠습니다.

오차의 원인 및 유효 숫자 처리 방법

측정과 오차

실험 오차의 종류는 크게 두 가지로 분류할 수 있습니다.

 

1. 우연 오차(random error)

우연 오차는 측정하는 사람의 부주의에 의해 발생합니다. 따라서 우연 오차는 누가 측정하냐에 따라 달라지며, 같은 사람이 측정하더라도 측정할 때마다 달라질 수 있습니다.

따라서 우연 오차를 줄이기 위해서는 연습을 통해 측정 기술을 향상시키고 여러 번 측정하여 측정값과 편차를 함께 제시하여야 합니다.

 

2. 계통 오차(systematic error)

연습을 통해 우연 오차를 줄인다 해도 어쩔 수 없이 발생하는 오차가 있습니다. 이는 측정 방법 및 측정 도구가 지닌 한계 때문인데요 단순히 측정자의 노력을 통해 개선할 수는 없습니다.

예를 들어 최소 눈금이 1 mL 단위인 눈금 실린더를 이용하여 부피를 측정한다면 1mL 단위까지 눈금을 읽고

-0.5mL ~ +0.5mL 사이 범위에서 어림하여 나타내는 것이 최선일 것입니다.

또한 실험 기구를 정교하게 제작한다 하여도 조금의 오차는 발생할 수 있는 것이지요.

 

도구에 따른 측정값 표기

실험 도구를 이용하여 여러 값들을 측정한다면 과연 소수 몇째 자리까지 그 값을 측정해야 할까요?

바로 측정 도구의 최소 눈금에 따라 달라집니다.

예를 들어 최소 눈금이 1 mL인 눈금실린더로 부피를 측정한다면, 0.1 mL까지 측정해야 하는데요. 1 mL 단위는 눈금을 읽고 그 사잇값을 어림하여 표현합니다.

이때 측정한 숫자들은 의미 있는 숫자들로 유효 숫자라고 합니다.

1. 유효 숫자란?

앞서 설명한 바와 같이 유효 숫자는 우리가 측정한 값에서 의미 있는 숫자들입니다.

예를 들어보겠습니다.

1) 키 181.5 cm : 유효 숫자는 1, 8, 1, 5 네 개입니다.
2) 몸무게 70.0 kg : 유효 숫자는 7, 0, 0 세 개입니다. 소수 첫째 자리 0은 의미 있는 숫자입니다.
3) 질량 0.02 g : 유효 숫자는 2 한 개입니다. 일의 자리, 소수 첫째 자리 0은 단순이 자릿수를 나타내는 숫자입니다.
4) 발 크기 260 mm : 유효 숫자는 2, 6, 0 세 개인지 2, 6 두 개인지 알 수 없습니다. 측정 도구의 최소 눈금 단위에 따라 달라지겠지요.

따라서 유효 숫자는 단순히 자릿수를 표현하기 위한 0을 제외한 신뢰할 수 있는 숫자를 말합니다.

 

2. 유효 숫자의 표현 방법

위의 4)번 예시와 같이 유효 숫자를 정확히 파악할 수 없는 경우가 있습니다. 때문에 유효 숫자를 고려하여 값을 나타냅니다.

측정값을 소수 부분(유효 숫자)과 지수 부분(자릿수)으로 표현할 수 있는데요.

예를 들어 260 mm를 다음과 같이 나타낼 수 있습니다.

1) 2.60 x 10² : 유효 숫자는 2, 6, 0 세 개입니다.
2) 2.6 x 10² : 유효 숫자는 2, 6, 두 개입니다.

 

 

유효 숫자의 계산

측정값들을 이용하여 사칙 연산을 수행할 때에는 나타내야 하는 유효 숫자의 개수에 유의해야 합니다.

1. 덧셈 뺄셈

300x250

측정값의 덧셈과 뺄셈의 경우 유효 숫자의 소수점 이하 자릿수가 가장 적은 측정값에 맞추어 계산해 주어야 합니다.

예를 들어 

1.11 + 0.222 + 3.321 의 경우 소수점 이하 둘째 자리까지만 있는 1.11에 맞추어 소수 둘째 자리까지만 나타냅니다.
따라서 계산 결과인 4.653을 소수 셋째 자리에서 반올림하여 4.65가 됩니다.

 

2. 곱셈 나눗셈

곱셈과 나눗셈의 계산에서는 유효 숫자의 개수가 중요합니다. 측정값의 자릿수와는 상관없이 측정값들의 유효 숫자 중 그 개수가 가장 적은 측정값에 맞추어 계산해 주어야 합니다.

예를 들어

1.11 x 0.222 x 3.321 의 경우 1.11과 0.222의 유효 숫자가 세 개이므로 결과도 유효 숫자 세 개로 나타냅니다.
따라서 계산 결과 0.81836082를 유효 숫자 세 개로 나타내기 위해 소수 넷째 자리에서 반올림하여 0.818이 됩니다.

 

3. 지수

측정값이 지수에 포함된 경우 유효 숫자의 개수는 소수점 아래 자릿수의 개수와 같습니다.

예를 들어

10^2.555는 지수 2.555의 소수점 아래 자릿수가 세 자리이므로 유효 숫자는 세 개입니다.
따라서 10^2.555=358.921934...이며 유효 숫자는 세 개이므로 소수 첫째 자리에서 반올림하여 359가 됩니다.

 

4. 로그(log)

측정값이 로그에 포함된 경우 유효 숫자의 개수만큼 소수점 아래 자릿수로 나타냅니다.

예를 들어

log359의 유효 숫자는 3, 5, 9 세 개 이므로 소수 셋째 자리까지 나타냅니다.
따라서 log359=2.55509444857..이며 소수 넷째 자리에서 반올림하여 2.555가 됩니다.