• 제목/요약/키워드: Savitzky-Golay method

검색결과 29건 처리시간 0.029초

적외선 분광분석과 다변량 통계에 기반한 바이오디젤 품질분석 (Analysis of biodiesel quality based on infrared spectroscopy and multivariate statistics)

  • 김혜실;조현우;유준
    • 분석과학
    • /
    • 제25권4호
    • /
    • pp.214-222
    • /
    • 2012
  • ASTM (American Society for Testing and Materials) D6751-10은 바이오디젤의 품질 규격 뿐 아니라 분석방법 또한 제시하고 있다. 하지만 ASTM 표준에 따른 바이오디젤 및 포함된 여러 불순물의 품질 분석은 경제적, 시간적으로 부담이 크다. 본 연구는 적외선 분광분석법(infrared spectroscopy)과 다변량 통계분석법 중 하나인 PLS (partial least square method)를 이용하여 1회 측정만으로 바이오 디젤 및 불순물들의 농도를 분석하는 시스템을 개발하고자 하였다. 특히, 적외선을 이용한 분석에서 생기는 각 물질의 스펙트럼에 대한 산란 보정, 노이즈 감소 등을 위해 SNV, MSC, OSC, Savitzky-Golay 등의 4가지 전처리 방법의 성능을 비교하였다. 품질 분석에 필요한 바이오 디젤 검량 모델을 PLS로 모델링 결과, Savitzky-Golay 전처리를 하였을 때 정확도가 가장 우수함을 알았다.

산지토양의 탄소와 질소 예측을 위한 가시 근적외선 분광반사특성 분석의 전처리 방법 비교 (Evaluating Spectral Preprocessing Methods for Visible and Near Infrared Reflectance Spectroscopy to Predict Soil Carbon and Nitrogen in Mountainous Areas)

  • 정관용
    • 대한지리학회지
    • /
    • 제51권4호
    • /
    • pp.509-523
    • /
    • 2016
  • 토양 예측은 지속가능한 산지관리 측면에서 필요한 토양특성자료를 제공할 수 있다. 이중 가시 근적외선 분광반사 특성을 이용한 토양 예측은 저비용, 빠른 분석과 비파괴 측정, 비교적 높은 정확도로 관심을 받고 있다. 일반적으로 토양 분광반사특성 측정 과정에서 잡음이 나타날 수 있어 전처리 과정이 필요하다. 하지만 이러한 전처리 방법을 비교하고 평가하는 작업이 거의 이루어지지 못 했다. 본 연구에서는 토양 탄소와 질소 예측을 위해 5가지 전처리 방법을 비교하였다. 이는 연속체 제거, Savitzky-Golay 변환, 이산 웨이블렛(wavelet) 변환, 1차와 2차 도함수 변환이다. 토양예측 모델로 부분 최소제곱 회귀모형을 사용하였고, 총 153개 시료 중에서 검증을 위해 122개 훈련자료와 31개의 검증자료로 나누어 평가하였다. 전반적으로 토양시료의 탄소 함량이 높을수록 토양에 대한 입사 에너지의 흡수가 커지는 특성을 보였다. 파장별로는 가시광선 영역(650nm와 700nm)이 토양 탄소 그리고 질소와 가장 높은 상관관계를 보였다. 전처리 비교에서 연속체 제거가 토양 탄소(9.53mg/g)와 질소(0.79mg/g)에 대해 가장 높은 정확도(Root Mean Square Error)를 보였다. 따라서 토양 탄소와 질소 예측을 위해 연속체 제거가 가장 효과적인 분광반사특성 분석의 전처리 방법으로 판단되었다. 시각적인 평가에서 웨이블릿 변환이나 Savitzky-Golay 변환은 차이가 거의 없었고, 평가 결과도 유사했다. 따라서 다소 계산과정이 간단한 Savitzky-Golay 변환이 선호될 수 있다.

  • PDF

Filtering Correction Method and Performance Comparison for Time Series Data

  • Baek, Jongwoo;Choi, Jiyoung;Jung, Hoekyung
    • Journal of information and communication convergence engineering
    • /
    • 제20권2호
    • /
    • pp.125-130
    • /
    • 2022
  • In modern society, as many data are used for research or commercial purposes, the value of data is gradually increasing. In related fields, research is being actively conducted to collect valuable data, but it is difficult to collect proper data because the value of collection is determined according to the performance of existing sensors. To solve this problem, a method to effectively reduce noise has been proposed, but there is a point in which performance is degraded due to damage caused by noise. In this paper, a device capable of collecting time series data was designed to correct such data noise, and a correction technique was performed by giving an error value based on the representatively collected ultrafine dust data, and then comparing before and after Compare performance. For the correction method, Kalman, LPF, Savitzky-Golay, and Moving Average filter were used. Savitzky-Golay filter and Moving Average Filter showed excellent correction rate as an experiment. Through this, the performance of the sensor can be supplemented and it is expected that data can be effectively collected.

근적외 분석법을 응용한 사과의 생잎과 건조잎의 질소분석 (Determination of Nitrogen in Fresh and Dry Leaf of Apple by Near Infrared Technology)

  • 장광재;서상현;강연복;한효일;박우철
    • 한국토양비료학회지
    • /
    • 제37권4호
    • /
    • pp.259-265
    • /
    • 2004
  • 사과의 영양진단에서 사과잎 분석을 신속히 하기 위한 방법을 모색하기 위해 생잎과 건조잎을 이용해 근적의 스펙트럼을 측정하고 이를 질소 함량과의 최적의 상관관계를 도출하기 위해 부분소자승(PLS)과 주성분회귀(PCR)과 같은 다변량 분석법을 이용하여 비파괴 검량식을 작성하였다. 또한 검량식 작성에서 비파괴 측정 정확도를 향상시키기 위하여 smoothing, mean normalization, multiplicative scatter correction (MSC). derivative 등의 다양한 데이터 전처리 조작을 수행하여 정확도 향상 가능성을 조사하였다. 사과 건조잎의 비파괴 측정 가능성을 조사한 결과 PLS-1 모델에서 Norris first derivate하였을 태 RMSEP가 $0.6999g\;kg^{-1}$ 로 가장 좋았으며, 생잎은 Savitzky-Golay first derivate하였을 때에 RMSEP 가 $1.202g\;kg^{-1}$으로 가장 좋았다. 건조잎의 PCR 모델은 mean normalization 처리 후 Savitzky-Golay first derivative하였을 때가 RMSEP 가 $0.553g\;kg^{-1}$, 이었으며 생잎에서도 RMSEP는 $1.047g\;kg^{-1}$로 나타났다. 이와 같은 견과로서 사과의 생잎과 건조잎의 분석이 근적외분석기술에 의해 가능할 것으로 판단된다.

Savitzky-Golay 필터와 미분을 활용한 LSTM 기반 지하수 수위 예측 모델의 성능 비교 (Performance Comparison of LSTM-Based Groundwater Level Prediction Model Using Savitzky-Golay Filter and Differential Method )

  • 송근산;송영진
    • 반도체디스플레이기술학회지
    • /
    • 제22권3호
    • /
    • pp.84-89
    • /
    • 2023
  • In water resource management, data prediction is performed using artificial intelligence, and companies, governments, and institutions continue to attempt to efficiently manage resources through this. LSTM is a model specialized for processing time series data, which can identify data patterns that change over time and has been attempted to predict groundwater level data. However, groundwater level data can cause sen-sor errors, missing values, or outliers, and these problems can degrade the performance of the LSTM model, and there is a need to improve data quality by processing them in the pretreatment stage. Therefore, in pre-dicting groundwater data, we will compare the LSTM model with the MSE and the model after normaliza-tion through distribution, and discuss the important process of analysis and data preprocessing according to the comparison results and changes in the results.

  • PDF

근적외선 분광학과 화학계량학에 기반한 청정 바이오연료 실시간 품질 측정 기술 개발 (Development of an On-line Measurement Method for Clean Biofuel Based on Near Infrared Spectroscopy and Chemometrics)

  • 조형수;류준형;유준
    • 청정기술
    • /
    • 제17권3호
    • /
    • pp.215-224
    • /
    • 2011
  • 화석연료 사용에 따른 기후 변화 문제 및 자원 고갈에 대한 염려 때문에 바이오 연료는 그 중에서 가장 바람직한 재생에너지 대안이다. 하지만 대량 생산을 할 수 있는 경제성확보가 없으면 바람직하고 현실적인 대안이라 할 수 없다. 실시간 품질측정 시스템 개발은 바이오연료의 대량생산을 위하여 반드시 필요하다. 바이오 연료 중 바이오에탄올은 ASTM (American Society for Testing & Materials) D4806-10과 같은 품질 규격을 따르며 이에 명시된 평가방법을 대량 생산에 적용하려면 여러 어려움이 뒤따른다. 따라서 본 연구에서는 바이오에탄올 제품 품질 분석의 저가격화와 시간단축 및 생산 공정의 모니터링 실시간화를 해결하기 위해 근적외선 분광분석법과 화학계량학의 부분최소 자승법(Partial Least Squares)을 융합한 실시간 분광 모니터링 시스템을 새롭게 제안하였다. 수종의 전처리와 부분최소자승법을 이용하여 모델링한 결과 스펙트럼의 산란 보정, 노이즈 감소, 검량선의 유지보수 등에서 Savitzky-Golay 전처리가 가장 우수함을 보였다. 본 연구를 통해 실시간으로 품질 측정뿐만 아니라 분광분석 장치로 여러 성분을 동시에 측정 가능함을 보임으로서 비용의 절감도 가능할 것으로 예상된다. 그리고 상관계수 R2이 0.99 이상으로 실험실분석의 대체도 가능함을 보였다.

PREPROCESSING EFFECTS ON ON-LINE SSC MEASUREMENT OF FUJI APPLE BY NIR SPECTROSCOPY

  • Ryu, D.S.;Noh, S.H.;Hwang, I.G.
    • 한국농업기계학회:학술대회논문집
    • /
    • 한국농업기계학회 2000년도 THE THIRD INTERNATIONAL CONFERENCE ON AGRICULTURAL MACHINERY ENGINEERING. V.III
    • /
    • pp.560-568
    • /
    • 2000
  • The aims of this research were to investigate the preprocessing effect of spectrum data on prediction performance and to develop a robust model to predict SSC in intact apple. Spectrum data of 320 Fuji apples were measured with the on-line transmittance measurement system at the wavelength range of 550∼1100nm. Preprocess methods adopted for the tests were Savitzky Golay, MSC, SNV, first derivative and OSC. Several combinations of those methods were applied to the raw spectrum data set to investigate the relative effect of each method on the performance of the calibration model. PLS method was used to regress the preprocessed data set and the SSCs of samples, and the cross-validation was to select the optimal number of PLS factors. Smoothing and scattering corection were essential in increasing the prediction performance of PLS regression model and the OSC contributed to reduction of the number of PLS factors. The first derivative resulted in unfavorable effect on the prediction performance. MSC and SNV showed similar effect. A robust calibration model could be developed by the preprocessing combination of Savitzky Golay smoothing, MSC and OSC, which resulted in SEP= 0.507, bias=0.032 and R$^2$=0.8823.

  • PDF

연안해역의 기상${\cdot}$파랑관측망 설계 및 해석기술의 구축 - 해양파랑관측자료의 해석방법 - (Desing and Analysis of Weather/Wave Observation Network for the Coastal Zone)

  • 류청로;김희준;손병규
    • 한국수산과학회지
    • /
    • 제30권1호
    • /
    • pp.16-30
    • /
    • 1997
  • Application of digital filter to the wave analysis is studied using the observed data by wave gauge. Sea wave data obtained from wave gauge always include long wave frequency components. In order to estimate the sea wave parameters, we must re-analyzed wave data by using a digital filter and the concept of mean sea level correction method. By the wave by wave analysis and spectral methods, sea wave parameters on the basis of wave data obtained by the conventional method and digital filter are compared. The best-fitted design filter determined by the necessary conditions of frequency responses, can be obtained by calculating various transfer functions. Thus, to get the best the digital filter design, both Butterworth filter and Savitzky-Golay filter of digital filter are used in the frequency and time domain, respectively. Three cases of observation wave data are calculated by applying digital filter. The components of different frequency bands in the surf zone are coexisted in three cases. The wave data for wind wave components is computed using the digital filter the surf zone and off-surf zone, and based on the filtered data, wave parameters are calculated by the spectral analysis and wave by wave analysis methods, respectively. As a results, when sea wave data observed by wave gauge are analyzed, the Savitzky-Golay method is recommended which can well appear cut-off frequency by experimental choosing filter length in the time domain. The better mean sea level correction method is the Butterworth filter in the frequency domain.

  • PDF

적외선 분광분석을 이용한 바이오 에탄올 on-line용 정량분석법 개발 (Development of On-line Quantitative Analysis for Bioethanol Using Infrared Spectroscopy)

  • 김형욱;류준형;유준
    • 공업화학
    • /
    • 제23권1호
    • /
    • pp.35-41
    • /
    • 2012
  • 본 논문에서는 바이오연료 제품 품질 분석의 저가격화와 시간단축, 그리고 궁극적으로 바이오연료 생산 공정의 모니터링 실시간화를 해결하기 위해 적외선 분광분석과 화학계량학(Chemometrics)을 융합한 on-line 분광 모니터링 시스템을 제안하고자 한다. 화학계량학 중 부분최소자승법을 사용하여 적외선 spectrum과 성분 농도 간의 정량분석을 실시하였다. 몇 가지 전처리법과 변수 중요도척도를 이용하여 모델링한 결과 spectrum의 보정, 노이즈 감소, 검량선의 유지보수 등의 측면에서 Savitzky-Golay 전처리가 가장 우수함을 보였다. 본 연구의 결과를 통해 실시간 품질 측정뿐만 아니라 하나의 분광분석 장치로 여러 성분들의 동시 측정이 가능함을 확인함으로써 비용의 절감도 예상된다. 뿐만 아니라 결정계수 $R^2$이 0.99 이상으로 실험실분석의 대체도 가능하다.

SAVITZKY-GOLAY DERIVATIVES : A SYSTEMATIC APPROACH TO REMOVING VARIABILITY BEFORE APPLYING CHEMOMETRICS

  • Hopkins, David W.
    • 한국근적외분광분석학회:학술대회논문집
    • /
    • 한국근적외분광분석학회 2001년도 NIR-2001
    • /
    • pp.1041-1041
    • /
    • 2001
  • Removal of variability in spectra data before the application of chemometric modeling will generally result in simpler (and presumably more robust) models. Particularly for sparsely sampled data, such as typically encountered in diode array instruments, the use of Savitzky-Golay (S-G) derivatives offers an effective method to remove effects of shifting baselines and sloping or curving apparent baselines often observed with scattering samples. The application of these convolution functions is equivalent to fitting a selected polynomial to a number of points in the spectrum, usually 5 to 25 points. The value of the polynomial evaluated at its mid-point, or its derivative, is taken as the (smoothed) spectrum or its derivative at the mid-point of the wavelength window. The process is continued for successive windows along the spectrum. The original paper, published in 1964 [1] presented these convolution functions as integers to be used as multipliers for the spectral values at equal intervals in the window, with a normalization integer to divide the sum of the products, to determine the result for each point. Steinier et al. [2] published corrections to errors in the original presentation [1], and a vector formulation for obtaining the coefficients. The actual selection of the degree of polynomial and number of points in the window determines whether closely situated bands and shoulders are resolved in the derivatives. Furthermore, the actual noise reduction in the derivatives may be estimated from the square root of the sums of the coefficients, divided by the NORM value. A simple technique to evaluate the actual convolution factors employed in the calculation by the software will be presented. It has been found that some software packages do not properly account for the sampling interval of the spectral data (Equation Ⅶ in [1]). While this is not a problem in the construction and implementation of chemometric models, it may be noticed in comparing models at differing spectral resolutions. Also, the effects on parameters of PLS models of choosing various polynomials and numbers of points in the window will be presented.

  • PDF