• 제목/요약/키워드: PLS 회귀

검색결과 65건 처리시간 0.024초

PLS 기법에 의한 (X,Y) 자료의 시각화 (Visualizing (X,Y) Data by Partial Least Squares Method)

  • 허명회;이용구;이성근
    • 응용통계연구
    • /
    • 제20권2호
    • /
    • pp.345-355
    • /
    • 2007
  • PLS 회귀는 q-변량의 Y 변수에 대한 회귀에서 p-변량의 X 변수가 다중공선성의 문제를 갖는 경우에도 적용 가능한 방법이다. 특히 X 변수의 수 p가 관측개체 수 n보다 큰 경우에 적용 가능하여 계량화학(chemometrics) 분야에서 근적외선 분광기(near-infrared spectroscopy) 자료에 대한 표준적 분석 방법으로 활용되고 있다. 이 연구에서 우리는 PLS회귀의 방법론을 정리하고 이를 활용한 p개의 X 변수들과 q개의 Y 변수들의 동시 시각화를 위한 두 가지의 수량화 방법을 제안한다.

근적외선 반사스펙트럼을 이용한 분말식품의 저함수율 측정 기술 (Moisture Content Measurement Technique for Powdered Food using NIR Reflectance Spectroscopy)

  • 모창연;노상하
    • 한국농업기계학회:학술대회논문집
    • /
    • 한국농업기계학회 2002년도 동계 학술대회 논문집
    • /
    • pp.444-449
    • /
    • 2002
  • 1. 시료의 흡광도는 입도가 커짐에 따라 전체 파장 영역에 걸쳐 증가하는 경향을 보였다. 가시광 영역에서는 입도 보다도 색상의 영향이 큰 것으로 나타났다. 2. 시료의 함수율과 각 파장에서의 흡광도 사이의 상관관계는 550~950nm 영역에서는 상관계수가 0.53이하로 작았으며, 물의 흡수파장대역인 1430 nm 부근에서는 0.85~0.87로 높게 나타났다. 3. 각 시료들의 반사 스펙트럼을 이용하여 세 가지 파장 영역에 대해 PLS회귀모델과 MLR 모델에 의한 함수율 예측 모델을 개발하였다. 모든 시료에서 PLS회귀모델이 MLR 회귀 모델보다 예측성능이 우수하였다. 4. PLS회귀 모델에서 전처리 효과를 분석한 결과, 시료의 입도에 따른 흡광도의 차이를 보정하기 위해 평활화, 미분, MSC, SNV 등의 전처리가 필요한 것으로 판단되었다. 5. 전체시료에 대해 함수율 예측을 위한 PLS회귀모델을 개발한 결과 400~2500nm영역에서의 개발된 모델의 예측성능은 $R^2$=0.9986, SEP=0.2166, 900~1700nm영역에서의 모델은 $R^2$=0.9985, SEP=0.2233이었으며 550~950nm 영역에서의 모델은 $R^2$=0.9838, SEP=0.7405로 나타났다. 각 시료의 종류별로 회귀모델을 개발할 경우 상기 결과보다 SEP가 더욱 작게 나타났다. 6. 이 연구 결과에 의하면 현재 시판되고 있는 실시간 분광기를 이용할 경우 시료의 입도에 무관한 온라인 함수율 측정장치의 개발이 가능할 것으로 판단된다.

  • PDF

AI Technology Analysis using Partial Least Square Regression

  • Choi, JunHyeog;Jun, Sunghae
    • 한국컴퓨터정보학회논문지
    • /
    • 제25권3호
    • /
    • pp.109-115
    • /
    • 2020
  • 본 논문에서는 부분 최소 제곱(PLS) 회귀 모형을 이용한 인공지능(AI) 기술 분석을 제안한다. AI 기술은 이제 우리 사회의 대부분의 영역에 영향을 미치고 있다. 따라서 이 기술에 대한 정확한 이해가 필요하게 된다. AI 기술을 분석하기 위하여 전 세계 특허 데이터베이스로부터 AI 관련 특허 문서를 수집하고 텍스트 마이닝 기법을 사용하여 수집된 특허 문서에서 AI 기술 키워드를 추출한다. 본 연구에서는 추출된 AI 키워드 데이터를 PLS 회귀 모형으로 분석한다. 바이오정보학, 사회과학 및 공학 등 다양한 분야에서 고급 데이터 분석을 위하여 사용되는 PLS 회귀 모형은 부분 최소 제곱 기법을 기반으로 한다. 제안 방법의 성능을 확인하기 위하여 AI 특허 문서를 사용하여 분석 실험을 수행하고 제안하는 연구가 실제 문제에 어떻게 적용될 수 있는지 보여 준다. 본 논문은 AI 기술뿐만 아니라 다른 기술 분야에도 적용 할 수 있다.

PLS 회귀분석을 이용한 미래 육상 식생의 생산성 예측 (Predicting Future Terrestrial Vegetation Productivity Using PLS Regression)

  • 최철현;박경훈;정성관
    • 한국지리정보학회지
    • /
    • 제20권1호
    • /
    • pp.42-55
    • /
    • 2017
  • 식생의 기후 적응력은 지역에 따른 상황 및 공간적 패턴이 다르게 나타나기 때문에 픽셀 스케일의 접근이 필요하다. 본 연구에서는 위성영상 기반 식생지수에 대해 PLS 회귀분석을 적용하여 식생의 생산성에 영향을 미치는 기후요인을 평가하고 남한지역의 미래 산림 생산성을 예측하였다. 그 결과, 최고강수분기의 평균기온(Bio8), 최저강수분기의 평균기온(Bio9), 최저강수월의 강수량(Bio14) 변수가 식생의 생산성에 높은 영향을 미치는 것으로 분석되었다. 미래 기후시나리오 자료를 이용하여 예측된 2050년의 식생 생산성은 전체적으로 감소하는 것으로 나타났으며, 특히 고지대에서 크게 감소하는 것으로 분석되었다. 이러한 결과는 기후에 민감한 지역의 식생에 대한 생산성 모니터링과 미래 기후변화로 인한 산림 탄소 저장량의 변화를 평가하는데 있어 유용하게 활용될 수 있을 것으로 판단된다.

Expressions for Shrinkage Factors of PLS Estimator

  • Kim, Jong-Duk
    • Journal of the Korean Data and Information Science Society
    • /
    • 제17권4호
    • /
    • pp.1169-1180
    • /
    • 2006
  • Partial least squares regression (PLS) is a biased, non-least squares regression method and is an alternative to the ordinary least squares regression (OLS) when predictors are highly collinear or predictors outnumber observations. One way to understand the properties of biased regression methods is to know how the estimators shrink the OLS estimator. In this paper, we introduce an expression for the shrinkage factor of PLS and develop a new shrinkage expression, and then prove the equivalence of the two representations. We use two near-infrared (NIR) data sets to show general behavior of the shrinkage and in particular for what eigendirections PLS expands the OLS coefficients.

  • PDF

다변량 분석법에 의한 Anionic Surfactant와 Nonionic Surfactant의 동시정량 (Simultaneous Determination of Anionic and Nonionic Surfactants Using Multivariate Calibration Method)

  • 이상학;권순남;손범목
    • 대한화학회지
    • /
    • 제47권1호
    • /
    • pp.19-25
    • /
    • 2003
  • 흡수 분광법에 의해 얻은 스펙트럼을 주성분분석(principal analysis, PCA) 으로 자료를 요약하여 주성분 회귀분서(principal component regression, PCR)과 부분 최소자승법(partial least squares, PLS)으로 음이온과 비이온 계면활성제(anionic and nonionic surfactant)를 동시에 정량하는 방법에 대하여 연구하였다. 두 가지 계면활성제가 서로 다른 농도로 혼합되어 있는 26개의 시료용액을 400~700 nm 범위에서 스펙트럼을 얻었고, 이를 이용하여 PCR과 PLS회귀모델을 얻었다. 두 가지 계면활성제가 서로 다른 농도로 포함된 5개의 외부검정용 시료들의 스펙트럼들을 이용해서 회귀모델의 적합성을 검정하기 위하여 외부검정용 시료의 농도를 계산하였다. 계산된 농도를 이용하여 relative standard error of prediction(RSEP$_{\alpha}$)를 구하여 회귀모델의 적합성을 검정하였다.

신갈나무 임분의 입지 및 토양 속성을 이용한 부분최소제곱 회귀의 지위추정 모형 (Predicting Site Quality by Partial Least Squares Regression Using Site and Soil Attributes in Quercus mongolica Stands)

  • 김춘식;백경원;정상훈;황재홍;이상태
    • 한국산림과학회지
    • /
    • 제112권1호
    • /
    • pp.23-31
    • /
    • 2023
  • 산림생산력의 예측은 지속가능한 산림경영이나 산림생태계서비스 증진을 위한 산림관리에 필수적인 것으로 알려져 있다. 본 연구는 전국 112개 신갈나무 임분을 대상으로 입지 및 토양 특성의 속성변수를 이용하여 지위 추정 모형을 개발하였다. 신갈나무 임분의 지위지수는 입지 및 토양 특성을 독립변수 한 일반최소제곱(Ordinary Least Squares, OLS) 및 부분최소제곱(Partial Least Squares, PLS) 회귀모형을 이용하여 유의적인 추정(P<0.05)이 가능하였다. 지위추정 회귀모형의 수정 결정계수(adjusted R2)는 입지 및 토양단면 속성변수의 회귀모형(A층: R2=0.29; B: R2=0.32)이, 토양 물리·화학적특성의 속성변수(A층: R2=0.09; B층: R2=0.21)보다 높게 나타났다. 한편, PLS 회귀모형(R2=0.20~0.32)은 OLS 회귀모형(R2=0.09~0.31)에 비해 지위지수 추정식의 설명력이 높았다. 본 연구로부터 신갈나무 임분의 입지 및 토양 특성을 이용한 지위 추정 회귀 모형이 개발되었으나, 결정계수 값이 낮아 회귀모형의 설명력을 향상시킬 수 있는 새로운 변수 개발이 필요할 것으로 사료되었다.

Shrinkage Structure of Ridge Partial Least Squares Regression

  • Kim, Jong-Duk
    • Journal of the Korean Data and Information Science Society
    • /
    • 제18권2호
    • /
    • pp.327-344
    • /
    • 2007
  • 다중공선성의 데이터에 사용되는 대표적인 편향회귀방법은 능형회귀(RR), 주성분회귀(PCR), 부분최소제곱회귀(PLS) 등이다. 이 회귀방법들은 계수베거 추정량의 놈(norm)이 모두 보통 최소제곱회귀(OLS)의 추정량의 놈보다 작아진다는 의미에서 축소회귀라 부른다. 새로운 회귀방법으로 RR과 PCR을 결합한 능형주성분회귀(RPCR)가 있고 RR과 PLS를 결합한 능형부분최소제곱회귀(RPLS)가 있으며 이들도 또한 축소회귀이다. 이들 추정량은 X'X의 고유벡터들의 선형결합으로 나타낼 수 있고 따라서 각 고유방향에서 OLS에 비해 얼마나 축소되는지를 연구할 수 있다. 본 논문에서는 먼저 이들 추정량을 일반적인 축소인자의 식으로 나타내고 이를 이용하여 MSE의 일반식을 구하였으며 PLS 추정량의 MSE 식도 구하였다. 그리고 RPLS의 축소인자 식을 두 가지 다른 형태로 유도하였다. RPLS의 경우도 이 축소인자 식을 MSE의 일반식에 대입하면 MSE 식이 바로 얻어진다. 그러나 PLS나 RPLS의 축소인자는 y의 복잡한 비선형이 되어 결정적이 아니므로 이들 추정량의 MSE는 근사적인 식이라 할 수 있다. 따라서 PLS나 RPLS를 평가하기 위해 이 MSE를 사용하는 것은 제한적이며, 경험적인 방법으로 이들 회귀의 수행성을 평가하는 것이 필요하다. 다중공선성의 대표적인 데이터인 근적외선 분광 데이터를 이용하여 이 유도된 회귀의 축소인자 값이 인자수에 따라 어떻게 변화하는지와 전체적인 축소 비율도 살펴보았다. 이들의 축소 형태를 잘 이해하면 회귀방법들의 예측력과 안정성을 파악하는데 많은 도움이 되리라 판단된다.

  • PDF

다변량 분석법을 이용한 Tryptophan과 Tyrosine의 형광분광법적 정량 (Simultaneous Determination of Tryptophan and Tyrosine by Spectrofluorimetry Using Multivariate Calibration Method)

  • 이상학;박주은;손범목
    • 대한화학회지
    • /
    • 제46권4호
    • /
    • pp.309-317
    • /
    • 2002
  • 형광분광법에 의하여 주성분 회귀분석(principal component regression, PCR)과 부분 최소자승법(Partial least squares, PLS)을 이용하여 아미노산(Tryptophan and Tyrosine)을 동시에 정량하는 방법에 대하여 연구하였다. 아미노산 혼합물의 형광 스펙트럼은 들뜸파장을257nm로 고정하여 측정하였다. 두 가지 아미노산이 서로 다른 농도로 혼합되어 있는 32개의 시료용액을 280nm∼500nm 범위에서 스펙트럼들을 얻었고 이를 이용하여 PCR과 PLS회귀모델을 얻었다. 두 가지 아미노산이 서로 다른 농도로 포함된 6개의 외부검정용 시료들의 스펙트럼들을 이용해서 회귀모델의 적합성을 검정하기 위하여 외부검정용 시료의 농도를 계산하였다. 계산된 농도를 이용하여 relative standard error of prediction($RSEP_a$)를 얻었고 같은 방법으로 overall relative standard error of prediction($RSEP_m$) 도 구하였다

벌점함수를 이용한 부분최소제곱 회귀모형에서의 변수선택 (Variable Selection in PLS Regression with Penalty Function)

  • 박종선;문규종
    • Communications for Statistical Applications and Methods
    • /
    • 제15권4호
    • /
    • pp.633-642
    • /
    • 2008
  • 본 논문에서는 반응변수가 하나 이상이고 설명변수들의 수가 관측치에 비하여 상대적으로 많은 경우에 널리 사용되는 부분최소제곱회귀모형에 벌점함수를 적용하여 모형에 필요한 설명변수들을 선택하는 문제를 고려하였다. 모형에 필요한 설명변수들은 각각의 잠재변수들에 대한 최적해 문제에 벌점함수를 추가한 후 모의담금질을 이용하여 선택하였다. 실제 자료에 대한 적용 결과 모형의 설명력 및 예측력을 크게 떨어뜨리지 않으면서 필요없는 변수들을 효과적으로 제거하는 것으로 나타나 부분최소제곱회귀모형에서 최적인 설명변수들의 부분집합을 선택하는데 적용될 수 있을 것이다.