A Study on the Treatment of Uncertainty in Linear Regression Method for Chemical Analysis

We applied modified least square method (MLS) and ordinary least square method (OLS) to 1st order equation for the comparison of the uncertainties calculated by these methods. The uncertainty calculated by OLS covered statistically safe interval because it was over-estimated in many cases of measurement and concentration level. But, if the uncertainty of the concentration as a reference value was comparably large (about 5% of the relative standard deviation of random scattering from the regression line and about 7% of relative standard uncertainty of reference values), then uncertainty calculated by OLS was seriously under-estimated at high concentration level. It was revealed that the calculated uncertainty didn't cover statistically safe interval at the stated confidence level. It was found that the method, MLS, described in the previously article would be valid for this calculation of uncertainty.

회귀식 사용에 따른 화학 분석 과정의 불확도 처리 연구

회귀식 사용에 따른 불확도 계산의 정확성을 조사하기 위하여, 수정된 방법의 최소제곱법(Modified Least Square Method, MLS)과 회귀식에서 일반적으로 적용되는 불확도 처리 과정을 각각 1차 식에 적용하고 비교하였다. 회귀식에서 일반적으로 적용되는 불확도 처리 과정에서, 대부분의 경우 불확도 값이 크게 계산되고 있어 확률적으로 안전한 범위를 표기할 수 있는 것으로 평가되었다. 그러나, 표준시료 농도의 상대 표준불확도가 클 때 (교정점이 우발적으로 흩어지는 정도의 표준 편차가 5% 수준, 표준시료 농도의 상대 표준불확도가 7% 수준) 회귀식에서 일반적으로 적용되는 불확도 계산 방법으로 얻은 값이 고 농도 측정에서 매우 작게 평가되고 있어 확률적으로 매우 위험한 것으로 평가되었다. 이 경우, 통계학적으로 불확도를 정확히 계산하기 위하여, 수정된 방법의 최소제곱법이 유리하다고 판단하였다.