계측기 정확도 계산기
데이터시트에 적힌 ±(읽음값의 % + 디지트) 같은 사양을 넣으면 최대 오차와 참값이 있을 수 있는 범위를 계산합니다.
예시는 플루크 공식 지원문서 KA-01225 의 값입니다 — 87V · 230.0 V · ±(0.7% + 2) → ±1.81 V · 228.19 ~ 231.81 V. https://my.fluke.com/en-us/article/KA-01225
사양 표기가 무슨 뜻인가
% of reading — 지금 표시된 값에 비례하는 오차입니다. 표시값이 크면 함께 커집니다.
digit(카운트) — 맨 끝자리 한 칸의 크기(분해능)를 몇 칸까지 틀릴 수 있는지입니다.
230.0 처럼 소수 한 자리로 뜨면 한 디지트는 0.1 입니다.
% of range — 지금 쓰는 레인지 전체에 비례하는 오차입니다. 표시값과 무관하게 일정합니다.
FS(풀스케일) — 그 레인지의 최대 표시값입니다. % of FS 는 표시값과 무관하게 일정합니다.
같은 계측기라도 낮은 레인지를 쓰면 B 형(레인지 비례) 몫이 레인지에 비례해 줄어듭니다 — 표시값 5.0000 · ±(읽음값 0.0035% + 레인지 0.0005%) 에서 레인지 10 이면 오차 0.000225, 레인지 1 이면 0.00018 입니다.
이 계산기가 하지 않는 것
표준 계산식으로 ± 한쪽 폭만 냅니다. 온도·습도에 따른 추가 오차, 교정 주기 경과분, 측정 리드·접촉 저항, 노이즈는 들어가지 않습니다. 데이터시트에 적힌 조건(온도 범위·워밍업·교정 주기)도 함께 읽어야 합니다.
같이 보기
계산 결과로도 고르기 어려우시면 측정 조건만 알려주세요.
계산에 쓰는 값은 사용자가 데이터시트에서 옮겨 적은 것입니다. 이 계산기에는 제품 사양 데이터가 들어 있지 않습니다.
이 계산기는 표준 계산식만 씁니다. 교정 성적서를 대신하지 않습니다.
굿맨시스템 · 계측기 정확도 계산기 v1 (2026-10-01)
