• 제목/요약/키워드: 주성분회귀

검색결과 159건 처리시간 0.031초

로지스틱모형에서의 주성분회귀 (Principal Components Regression in Logistic Model)

  • 김부용;강명욱
    • 응용통계연구
    • /
    • 제21권4호
    • /
    • pp.571-580
    • /
    • 2008
  • 로지스틱회귀분석은 고객관계관리나 신용위험관리 등의 분야에서 많이 사용되는 기법인데, 이러한 분야에서의 로지스틱회귀모형에는 연관성이 높은 설명변수들이 다수 포함되어 다중공선성의 문제를 유발하는 경우가 있다. 다중공선성이 존재하는 상황에서 최우추정량은 심각한 결함을 갖는다는 사실은 잘 알려졌다. 이 문제를 해결하기 위하여 로지스틱주성분회귀를 연구하되, 분석상의 주요 과정인 주성분 선정을 위한 방법을 새롭게 제안하였다. 추정량의 분산을 최소가 되게 하는 상태지수 값을 측정하고, 이 값에 영향을 미치는 주요 요인들을 컨조인트분석에 의해 파악하여 주성분 선정기준을 결정하는 모형을 구축하였다. 제안된 방법은 다중공선성 문제를 적절히 해결하면서도 모형의 적합성을 향상시킨다는 사실이 모의실험을 통하여 확인되었다.

호우피해자료에서의 고차원 자료 및 다중공선성 문제를 해소한 회귀모형 개발 (Development of Regression Models Resolving High-Dimensional Data and Multicollinearity Problem for Heavy Rain Damage Data)

  • 김정환;박지현;최창현;김형수
    • 대한토목학회논문집
    • /
    • 제38권6호
    • /
    • pp.801-808
    • /
    • 2018
  • 선형회귀모형의 학습은 일반적으로 자료의 개수가 설명변수의 개수보다 충분히 크고, 설명변수들 사이에 심각한 다중공선성이 없다는 가정 하에서 안정적으로 이루어진다. 본 연구에서는 이러한 가정이 위배되었을 경우 모형 학습의 어려움을 실제 호우피해자료를 분석함으로써 조명하였고, 이를 해결하기 위해 자료를 통합한 다음 주성분회귀모형 또는 능형회귀모형을 사용할 것을 검토하였다. 모형의 학습에 사용된 자료와 별도의 독립된 자료에서 제안된 모형들의 예측력을 평가하였고, 제안된 방법이 선형회귀모형보다 더 나은 예측력을 보이는 것을 확인하였다.

로버스트추정에 바탕을 둔 주성분로지스틱회귀 (Principal Components Logistic Regression based on Robust Estimation)

  • 김부용;강명욱;장혜원
    • 응용통계연구
    • /
    • 제22권3호
    • /
    • pp.531-539
    • /
    • 2009
  • 로지스틱회귀분석은 고객관계관리를 위한 데이터마이닝 분야에서 많이 사용되는 기법인데, 이 분야의 모형설정 과정에서는 연관성이 매우 높은 설명변수들이 모형에 함께 포함되어 다중공선성의 문제를 유발하며, 더욱이 회귀자료에 이상점들이 포함되면 최우추정량은 심각한 결함을 갖게 된다. 두 가지 문제점을 동시에 해결하기 위하여 로버스트주성분로지스틱회귀를 적용할 수 있는데, 본 논문에서는 주성분의 선정기준을 결정하는 모형을 개발하고, 주성분모형에서의 추정치에 미치는 이상점의 영향을 축소하기 위한 로버스트추정법을 제안하였다. 제안된 추정법은 다중공선성과 이상점이 유발하는 문제들을 적절히 해결해 준다는 사실이 모의실험을 통하여 확인되었다.

Shrinkage Structure of Ridge Partial Least Squares Regression

  • Kim, Jong-Duk
    • Journal of the Korean Data and Information Science Society
    • /
    • 제18권2호
    • /
    • pp.327-344
    • /
    • 2007
  • 다중공선성의 데이터에 사용되는 대표적인 편향회귀방법은 능형회귀(RR), 주성분회귀(PCR), 부분최소제곱회귀(PLS) 등이다. 이 회귀방법들은 계수베거 추정량의 놈(norm)이 모두 보통 최소제곱회귀(OLS)의 추정량의 놈보다 작아진다는 의미에서 축소회귀라 부른다. 새로운 회귀방법으로 RR과 PCR을 결합한 능형주성분회귀(RPCR)가 있고 RR과 PLS를 결합한 능형부분최소제곱회귀(RPLS)가 있으며 이들도 또한 축소회귀이다. 이들 추정량은 X'X의 고유벡터들의 선형결합으로 나타낼 수 있고 따라서 각 고유방향에서 OLS에 비해 얼마나 축소되는지를 연구할 수 있다. 본 논문에서는 먼저 이들 추정량을 일반적인 축소인자의 식으로 나타내고 이를 이용하여 MSE의 일반식을 구하였으며 PLS 추정량의 MSE 식도 구하였다. 그리고 RPLS의 축소인자 식을 두 가지 다른 형태로 유도하였다. RPLS의 경우도 이 축소인자 식을 MSE의 일반식에 대입하면 MSE 식이 바로 얻어진다. 그러나 PLS나 RPLS의 축소인자는 y의 복잡한 비선형이 되어 결정적이 아니므로 이들 추정량의 MSE는 근사적인 식이라 할 수 있다. 따라서 PLS나 RPLS를 평가하기 위해 이 MSE를 사용하는 것은 제한적이며, 경험적인 방법으로 이들 회귀의 수행성을 평가하는 것이 필요하다. 다중공선성의 대표적인 데이터인 근적외선 분광 데이터를 이용하여 이 유도된 회귀의 축소인자 값이 인자수에 따라 어떻게 변화하는지와 전체적인 축소 비율도 살펴보았다. 이들의 축소 형태를 잘 이해하면 회귀방법들의 예측력과 안정성을 파악하는데 많은 도움이 되리라 판단된다.

  • PDF

철강 도금로의 예지보전을 위한 열화 기반 잔존수명 분석 (Degradation-Based Remaining Useful Life Analysis for Predictive Maintenance in a Steel Galvanizing Kettle)

  • 신준호;김창욱
    • 한국융합학회논문지
    • /
    • 제10권12호
    • /
    • pp.271-280
    • /
    • 2019
  • 제조산업 분야의 디지털트랜스포메이션의 일환인 스마트공장은 데이터 기반으로 모니터링 및 분석 그리고 예측을 통해서 의사결정 방식을 획기적으로 변화시키고 있다. 특히 설비에 대한 예지보전은 스마트공장의 핵심적인 요소로서 필요성이 증대되고 있다. 본 연구의 목적은 철강 도금공정의 예지보전을 위해 도금로 설비의 열화 특성을 고려한 잔존수명 분석과 예측모델을 산출하는 것이다. 상관성 분석, 다중회귀 분석, 주성분회귀 분석 그리고 시간의 경과에 따른 열화의 추이 파악을 위하여 이동회귀 방식을 제안하여 진행하였다. 그 결과 도금로 열화는 생산성 인자들과 주된 의존적 관계가 있으며, 특히 환경 온도 인자들의 영향성이 열화의 추이 변화에 관계가 있음을 추론할 수 있었다. 예측된 잔존수명을 활용하여 도금로 교체가 필요한 시점을 사전에 알려주는 예지보전을 구현하였다. 향후 설비의 열화 추이 파악에 본 연구에서 수행한 방안이 적절한 사례가 되어 보다 정합성 있는 예지보전 구현이 가능해지기를 기대한다.

주성분 분석과 로지스틱 회귀분석을 이용한 다국 통화포트폴리오 전략 (Multi-currencies portfolio strategy using principal component analysis and logistic regression)

  • 심경식;안재준;오경주
    • Journal of the Korean Data and Information Science Society
    • /
    • 제23권1호
    • /
    • pp.151-159
    • /
    • 2012
  • 본 논문에서는 외환시장에서 주성분 분석과 로지스틱 회귀분석을 이용한 다국 통화 포트폴리오 전략을 개발하는 것을 제안한다. 과거 환율시장의 분석에 대한 많은 연구가 진행되어 왔으나 상대적으로 외환시장에서의 거래 전략을 개발하는 연구는 거의 없었다. 본 연구는 크게 두 가지 목적을 가지고 있다. 첫 번째 목적은 주성분 분석을 적용시켜 포트폴리오를 구성하는 다양한 나라의 환율에 가중치 할당 방법을 제안하는 것이다. 두 번째 목적은 로지스틱 회귀분석을 이용하여 구성된 포트폴리오의 적절한 매수시점과 매도시점을 정하는 것이다. 이 논문의 실험결과는 제안한 투자전략의 유용성을 증명할 수 있을 것이며, 또한 이를 통해 시장참여자들에게 투자 결정에 있어 도움을 줄 수 있을 것이다.

다중선형회귀 및 인공신경망 모형을 이용한 대설피해에 따른 피해액 예측에 관한 연구 (Prediction of damages induced by Snow using Multiple-linear regression and Artificial Neural Network model)

  • 권순호;이의훈;정건희;김중훈
    • 한국수자원학회:학술대회논문집
    • /
    • 한국수자원학회 2017년도 학술발표회
    • /
    • pp.20-20
    • /
    • 2017
  • 최근 기후변화 영향에 따라 전 세계적으로 인명피해 및 재산피해를 유발하는 자연재난이 지속적으로 증가하고 있으며, 그로 인한 자연재해의 규모가 점점 더 커지고 있다. 실제로 우리나라에서도 지난 1994 년에서 2013 년까지 지난 20 년간 자연재해에 의한 피해액은 12조 3천억 원으로 집계되었으며, 이 중 강우와 태풍에 의한 피해가 85 % 이고, 대설에 의한 피해는 약 13 % 로 자연재해 중 대부분의 피해는 강우 및 태풍에서 발생하지만, 폭설에 의한 피해도 적지 않은 것으로 나타났다. 이에 따라, 정확한 예측을 위해 신뢰도 높은 자료 구축을 통한 대설피해 예측에 관한 연구가 필요한 시점이다. 본 연구에서는 대설피해액 예측을 위해 우리나라의 63개 기상 관측소에서 관측한 적설심 자료 및 기상관측 자료와 사회 경제 자료 총 11개를 대설피해 예측을 위한 입력변수로 선정하고, 이를 기상관측소가 속한 도시의 면적에 따라 3개의 지역으로 구분하였다. 주성분분석을 활용하여 선정된 입력변수들을 4개의 주성분으로 구분하고, 인공신경망 및 다중선형 회귀 모형을 구성하여 각 지역별 대설피해 예측의 오차를 분석하였다. 적용결과, 인공신경망 모형을 이용한 대설피해 예측의 수정결정계수는 22.8 %~48.2 %를 나타냈고, 다중선형회귀 모형의 수정결정 계수는 9.2 %~39.7% 로 나타났다. 그러므로 인공신경망 모형이 다중회귀 모형보다 선택된 입력자료를 활용하여 대설피해를 예측하는 목적으로 조금 더 우수한 결과를 나타내었다. 향후 자료를 보완 및 모형의 고도화를 통해 보다 정확한 대설피해 예측 함수 개발이 가능할 것으로 기대된다.

  • PDF

감 재배지 간 과실 품질 차이에 관계한 기온요인 분석 (Analysis of Air Temperature Factors Related to Difference of Fruit Characteristics According to Cultivating Areas of Persimmon (Diospyros kaki Thunb.))

  • 김호철;전경수;김태춘
    • 생물환경조절학회지
    • /
    • 제17권2호
    • /
    • pp.124-131
    • /
    • 2008
  • 본 연구에서는 감 재배지 간 과실 특성 차이에 관계한 기온 요인을 분석하고자 8개 단감 '부유' 재배지의 16개 기온요인과 과실 특성을 조사하여 주성분 및 다중회귀 분석을 실시하였다. 16개 기온요인 중 제1주성분은 12개 요인으로 이중 연 평균최저기온, 10월 평균기온, 연 평균최저극온, 생육기 평균기온의 영향력이 아주 높았다. 그리고 제2주성분은 4개 요인으로 4월에서 7월까지의 월 평균기온이었고 5월과 6월 평균기온의 영향력이 높았다. 이에 제2주성분까지 누적기여율은 91.4%로 재배지 간 기온 차이에 관여하는 기온 요인을 분석하는 데에는 충분하였다. 8개 재배지 중 5 재배지은 주요 기온요인이나 그 영향력에서 뚜렷한 차이를 나타내었다. 기온요인과 과실 특성 간 다중회귀분석에서 과고는 생육기 평균기온($X_8$) 겨울철 적산온도($X_6$) 영향을 뚜렷이 받으며 회귀식 $Y=150.55-5.375X_8+0.014X_6$을 나타내었고, 이 회귀식에 대하여 생육기 평균최저기온($X_9$), 적산온도($X_5$), 8월 평균기온($X_{12}$) 등이 영향을 주었다. 과경은 생육기 평균기온($X_8$, 부의 상관), 과육갈반정도는 생육기 평균최저기온($X_9$, 정의 상관), 과피색 $a^*$값은 연 평균최저기온($X_2$, 정의 상관)의 영향을 받는 것으로 나타났다.

주성분 회귀분석 및 인공신경망을 이용한 AE변수와 응력확대계수와의 상관관계 해석 (Analysis on Correlation between AE Parameters and Stress Intensity Factor using Principal Component Regression and Artificial Neural Network)

  • 김기복;윤동진;정중채;박휘립;이승석
    • 비파괴검사학회지
    • /
    • 제21권1호
    • /
    • pp.80-90
    • /
    • 2001
  • AE 신호와 재료의 기계적 물성과의 관계를 정량적으로 제시할 수 있는 방법을 개발하였다. 재료의 여러 가지 기계적 성질들 중 피로균열 거동에 관련된 응력확대계수를 중심으로 AE 신호와 같은 다변량 데이터의 처리에 많이 사용되고 있는 주성분 회귀분석과 비선형적 문제 해결에 적합한 신경회로망 기법을 이용하였다. 이를 위하여 강교량 부재인 SWS490B 강에 대한 피로균열전파 실험을 수행하였으며 표준 CT 시편에 대한 피로균열진전 시 발생하는 AE 신호의 각 변수와 응력확대계수와의 관계를 고찰하였다. 통계분석 방법인 변수선택법을 적용한 결과 AE 카운트(RC), 에너지(EN), 신호지속시간(ED)의 각각에 대한 유의성이 높은 것으로 나타났으나 전반적으로 전체 AE 변수를 모두 이용할 경우 통계적 유의성이 높은 것으로 나타났다. 부재의 반복하중 시 발생하는 피로균열진전을 정량적으로 도출할 수 있는 응력확대계수 추정모델을 개발하고 평가하였다. 미지 시료에 대하여 개발된 모델의 응력확대계수 예측 성능을 분석한 결과 주성분 회귀모델과 인공신경망 모델 모두 우수한 예측성능을 나타내었으나 전반적으로 인공신경망 모델이 주성분 회귀모델보다 다소 양호한 것으로 분석되었다.

  • PDF

페널티 방법을 이용한 주성분분석 연구 (A study on principal component analysis using penalty method)

  • 박철용
    • Journal of the Korean Data and Information Science Society
    • /
    • 제28권4호
    • /
    • pp.721-731
    • /
    • 2017
  • 이 연구에서는 Lasso 페널티 방법을 이용한 주성분분석 방법을 소개한다. 주성분분석에 Lasso 페널티를 적용하는 방법으로 흔히 사용되는 방법은 크게 두 가지가 있다. 첫 번째 방법은 주성분을 반응변수로 놓고 원 자료행렬을 설명변수로 하는 회귀분석의 회귀계수를 이용하여 최적의 선형결 합 벡터를 구할 때 Lasso 페널티 (일반적으로 elastic net 페널티)를 부과하는 방법이다. 두 번째 방법은 원자료행렬을 비정칙값 분해로 근사하고 남은 잔차행렬에 Lasso 페널티를 부과하여 최적의 선형결합 벡터를 구하는 방법이다. 이 연구에서는 주성분 분석에 Lasso 페널티를 부과하는 이 두 가지 방법들을 자세하게 개관하는데, 이 방법들은 변수 숫자가 표본크기보다 큰 경우에도 적용가능한 장점이 있다. 또한 실제 자료분석에서 R 프로그램을 통해 두 방법을 적용하고 그 결과를 비교한다. 구체적으로 변수 숫자가 표본크기보다 큰 Ahamad (1967)의 crime 자료에 적용한다.