A Study on the Treatment of Uncertainty in Linear Regression Method for Chemical Analysis

회귀식 사용에 따른 화학 분석 과정의 불확도 처리 연구

  • Woo, Jin-Chun (Division of Chemical Metrology and Materials Evaluation, Korea Research Institute of Standards and Science(KRISS)) ;
  • Suh, JungKee (Division of Chemical Metrology and Materials Evaluation, Korea Research Institute of Standards and Science(KRISS)) ;
  • Lim, MyungChul (Division of Chemical Metrology and Materials Evaluation, Korea Research Institute of Standards and Science(KRISS)) ;
  • Park, MinSu (Department of Environmental Engineering, Daejeon University)
  • 우진춘 (한국표준과학연구원, 물질량표준부) ;
  • 서정기 (한국표준과학연구원, 물질량표준부) ;
  • 임명철 (한국표준과학연구원, 물질량표준부) ;
  • 박민수 (대전대학교, 환경공학과)
  • Received : 2002.10.11
  • Accepted : 2003.04.09
  • Published : 2003.06.25

Abstract

We applied modified least square method (MLS) and ordinary least square method (OLS) to 1st order equation for the comparison of the uncertainties calculated by these methods. The uncertainty calculated by OLS covered statistically safe interval because it was over-estimated in many cases of measurement and concentration level. But, if the uncertainty of the concentration as a reference value was comparably large (about 5% of the relative standard deviation of random scattering from the regression line and about 7% of relative standard uncertainty of reference values), then uncertainty calculated by OLS was seriously under-estimated at high concentration level. It was revealed that the calculated uncertainty didn't cover statistically safe interval at the stated confidence level. It was found that the method, MLS, described in the previously article would be valid for this calculation of uncertainty.

회귀식 사용에 따른 불확도 계산의 정확성을 조사하기 위하여, 수정된 방법의 최소제곱법(Modified Least Square Method, MLS)과 회귀식에서 일반적으로 적용되는 불확도 처리 과정을 각각 1차 식에 적용하고 비교하였다. 회귀식에서 일반적으로 적용되는 불확도 처리 과정에서, 대부분의 경우 불확도 값이 크게 계산되고 있어 확률적으로 안전한 범위를 표기할 수 있는 것으로 평가되었다. 그러나, 표준시료 농도의 상대 표준불확도가 클 때 (교정점이 우발적으로 흩어지는 정도의 표준 편차가 5% 수준, 표준시료 농도의 상대 표준불확도가 7% 수준) 회귀식에서 일반적으로 적용되는 불확도 계산 방법으로 얻은 값이 고 농도 측정에서 매우 작게 평가되고 있어 확률적으로 매우 위험한 것으로 평가되었다. 이 경우, 통계학적으로 불확도를 정확히 계산하기 위하여, 수정된 방법의 최소제곱법이 유리하다고 판단하였다.

Keywords

References

  1. Guide to the Expression of Uncertainty in Measurements ISO
  2. NIST, Techincal Note 1297 Guidelines for Evaluating and Expressing the Uncertainty of NIST Measurement Results NIST
  3. Quantifying Uncertainty in Analytical Measurements EURACHEM
  4. DIN 1319-7 Grundlagan der Messtechnik
  5. KRISS-99-070-SP 측정불확도 표현 지침 한국표준과학연구원
  6. Statistics and Experimental Design in Engineer and Physical Science(2nd. Ed.) v.Ⅰ N. L. Johnson;F. C. Leone
  7. Bull. Korean Chem. Soc. v.22 Jumg-Ki Suh;Jin-Chun Woo;Dong-Min Moon;Minsoo Park
  8. 불확도 계산 컴퓨터 보조 프로그램(Version 2) PUMA