유효숫자와 과학적 표기법: 공대생이 실험 보고서에서 가장 많이 틀리는 규칙
몇 자리까지 써야 할까? 유효숫자, 반올림, 과학적 표기법, 오차 전파를 채점자가 실제로 확인하는 규칙 그대로 정리한 실전 가이드.
한 학생이 mm 눈금 자로 보를 재고, 엑셀로 응력을 계산한 뒤 147.3928571 MPa라고 적습니다. 지구상의 모든 채점자가 여기에 동그라미를 칩니다. 자는 네 자리를 알았는데 답은 열 자리를 주장하니까요. 유효숫자는 내가 실제로 얼마나 아는지를 정직하게 말하는 방법입니다.
어떤 자리가 유효한가?
- 0이 아닌 숫자는 항상 유효:
3.14→ 3개. - 0이 아닌 숫자 사이의 0은 유효:
1002→ 4개. - 앞자리 0은 절대 유효하지 않음:
0.0025→ 2개. - 소수점 뒤의 끝자리 0은 유효:
2.500→ 4개. - 정수의 끝자리 0은 모호함:
1500은 2, 3, 4개 모두 가능. 과학적 표기법이 존재하는 이유가 바로 이것입니다.
1500 → 모호
1.5 × 10³ → 유효숫자 2개
1.50 × 10³ → 유효숫자 3개
1.500 × 10³ → 유효숫자 4개과학적 표기법: 꼭 맞춰야 할 두 가지
형식: a × 10ⁿ, 단 1 ≤ |a| < 10. 두 가지 습관이 대부분의 실수를 막습니다:
- 소수점을 왼쪽으로 옮기면 지수가 커집니다. 0.000 032 → 3.2 × 10⁻⁵ (오른쪽으로 5칸 옮겼으므로 지수는 −5).
- 계산기의 E 표기는 곱셈이 아닙니다.
3.2E-5는 3.2 × 10⁻⁵입니다. 계산기에 괄호 없이3.2 × 10 ^ -5를 치면 조용히(3.2 × 10)^−5가 될 수 있습니다. EXP/EE 키를 쓰거나3.2*10^(-5)로 적으세요.
공학 표기법은 같은 개념에서 지수를 3의 배수로 제한한 것으로, SI 접두어에 바로 대응합니다: 47 × 10³ Ω = 47 kΩ; 4.7 × 10⁻⁶ F = 4.7 µF.
계산을 거쳐도 살아남는 반올림 규칙
곱셈·나눗셈 → 유효숫자 개수
결과는 가장 정밀도가 낮은 입력값의 유효숫자 개수를 따릅니다.
힘 = 2.5 kg × 9.81 m/s² = 24.525 → 25 N (2.5의 유효숫자 2개)
응력 = 1250 N / 0.0331 m² = 37 764.4 → 3.78 × 10⁴ Pa (3개)덧셈·뺄셈 → 소수점 자릿수
결과는 가장 정밀도가 낮은 입력값의 소수점 자릿수를 따릅니다.
12.11 + 0.3 + 1.005 = 13.415 → 13.4 (0.3은 소수 1자리)정확한 수는 세지 않는다
개수(볼트 3개), 정의된 변환(1 in = 정확히 25.4 mm), 공식 속 정수(½mv²의 2)는 유효숫자가 무한하며 결과를 제한하지 않습니다.
반올림은 마지막에 한 번만
중간 단계에서는 여분의 보호 자리를 최소 하나 유지하세요. 2.35 → 2.4로 반올림한 뒤 제곱하면 5.76, 2.35를 유지하면 5.52입니다. 깔끔함 때문에 4% 오차가 생긴 겁니다.
유효숫자가 진짜로 근사하는 것: 불확도
유효숫자는 약식 표현입니다. 실험 보고서가 진짜 원하는 것은 x ± u입니다. 독립적인 불확도의 핵심 전파 규칙:
| 연산 | 불확도 |
|---|---|
| q = a + b 또는 a − b | uq = √(ua² + ub²) |
| q = a × b 또는 a / b | uq/q = √((ua/a)² + (ub/b)²) |
| q = aⁿ | uq/q = |n| · ua/a |
예제. m = 45.2 ± 0.1 g, V = 12.0 ± 0.5 mL로 밀도 구하기:
ρ = 45.2 / 12.0 = 3.7667 g/mL
상대 불확도 = √((0.1/45.2)² + (0.5/12.0)²) = √(4.9e-6 + 1.74e-3) = 0.0418
u_ρ = 3.7667 × 0.0418 = 0.157
보고: ρ = 3.77 ± 0.16 g/mL부피가 오차를 지배한다는 점에 주목하세요. 이것이 실행 가능한 통찰입니다 — 더 좋은 저울이 아니라 더 좋은 메스실린더를 사야 합니다. 자릿수를 세는 것으로는 절대 보이지 않고, 전파를 해야만 보입니다.
채점자가 확인하는 표기 관행
- 불확도는 유효숫자 1개(1로 시작하면 2개)로 반올림한 뒤, 값을 같은 소수 자리까지 반올림: 3.77 ± 0.16 (3.7667 ± 0.157 아님).
- 값과 불확도는 단위와 지수를 공유: (2.45 ± 0.03) × 10⁵ Pa.
- 본문에는 백분율 불확도도 괜찮지만, 표에는 절대 불확도가 필수.
- 스프레드시트 기본 서식이 정밀도를 정하게 두지 마세요. 셀 서식을 의도적으로 지정하세요.