• 제목/요약/키워드: ensemble methods

검색결과 284건 처리시간 0.025초

Generalized Partially Linear Additive Models for Credit Scoring

  • Shim, Ju-Hyun;Lee, Young-K.
    • 응용통계연구
    • /
    • 제24권4호
    • /
    • pp.587-595
    • /
    • 2011
  • Credit scoring is an objective and automatic system to assess the credit risk of each customer. The logistic regression model is one of the popular methods of credit scoring to predict the default probability; however, it may not detect possible nonlinear features of predictors despite the advantages of interpretability and low computation cost. In this paper, we propose to use a generalized partially linear model as an alternative to logistic regression. We also introduce modern ensemble technologies such as bagging, boosting and random forests. We compare these methods via a simulation study and illustrate them through a German credit dataset.

Constrained Bayes and Empirical Bayes Estimator Applications in Insurance Pricing

  • Kim, Myung Joon;Kim, Yeong-Hwa
    • Communications for Statistical Applications and Methods
    • /
    • 제20권4호
    • /
    • pp.321-327
    • /
    • 2013
  • Bayesian and empirical Bayesian methods have become quite popular in the theory and practice of statistics. However, the objective is to often produce an ensemble of parameter estimates as well as to produce the histogram of the estimates. For example, in insurance pricing, the accurate point estimates of risk for each group is necessary and also proper dispersion estimation should be considered. Well-known Bayes estimates (which is the posterior means under quadratic loss) are underdispersed as an estimate of the histogram of parameters. The adjustment of Bayes estimates to correct this problem is known as constrained Bayes estimators, which are matching the first two empirical moments. In this paper, we propose a way to apply the constrained Bayes estimators in insurance pricing, which is required to estimate accurately both location and dispersion. Also, the benefit of the constrained Bayes estimates will be discussed by analyzing real insurance accident data.

Evaluation of Advanced Structure-Based Virtual Screening Methods for Computer-Aided Drug Discovery

  • Lee, Hui-Sun;Choi, Ji-Won;Yoon, Suk-Joon
    • Genomics & Informatics
    • /
    • 제5권1호
    • /
    • pp.24-29
    • /
    • 2007
  • Computational virtual screening has become an essential platform of drug discovery for the efficient identification of active candidates. Moleculardocking, a key technology of receptor-centric virtual screening, is commonly used to predict the binding affinities of chemical compounds on target receptors. Despite the advancement and extensive application of these methods, substantial improvement is still required to increase their accuracy and time-efficiency. Here, we evaluate several advanced structure-based virtual screening approaches for elucidating the rank-order activity of chemical libraries, and the quantitative structureactivity relationship (QSAR). Our results show that the ensemble-average free energy estimation, including implicit solvation energy terms, significantly improves the hit enrichment of the virtual screening. We also demonstrate that the assignment of quantum mechanical-polarized (QM-polarized) partial charges to docked ligands contributes to the reproduction of the crystal pose of ligands in the docking and scoring procedure.

Data Assimilation for Oceanographic Application: A Brief Overview

  • Park, Seon-K.
    • Journal of the korean society of oceanography
    • /
    • 제38권2호
    • /
    • pp.52-59
    • /
    • 2003
  • In this paper, a brief overview on data assimilation is provided in the context of oceanographic application. The ocean data assimilation needs to ingest various types of data such as satellites and floats, thus essentially requires dynamically-consistent assimilation methods. For such purpose, sequential and variational approaches are discussed and compared. The major advantage of the Kalman filter (KF) is that it can forecast error covariances at each time step. However, for models with very large dimension of state vector, the KF Is exceedingly expensive and computationally less efficient than four-dimensional variational assimilation (4D-Var). For operational application, simplified 4D-Var schemes as well as ensemble KF may be considered.

Neural Networks-Based Method for Electrocardiogram Classification

  • Maksym Kovalchuk;Viktoriia Kharchenko;Andrii Yavorskyi;Igor Bieda;Taras Panchenko
    • International Journal of Computer Science & Network Security
    • /
    • 제23권9호
    • /
    • pp.186-191
    • /
    • 2023
  • Neural Networks are widely used for huge variety of tasks solution. Machine Learning methods are used also for signal and time series analysis, including electrocardiograms. Contemporary wearable devices, both medical and non-medical type like smart watch, allow to gather the data in real time uninterruptedly. This allows us to transfer these data for analysis or make an analysis on the device, and thus provide preliminary diagnosis, or at least fix some serious deviations. Different methods are being used for this kind of analysis, ranging from medical-oriented using distinctive features of the signal to machine learning and deep learning approaches. Here we will demonstrate a neural network-based approach to this task by building an ensemble of 1D CNN classifiers and a final classifier of selection using logistic regression, random forest or support vector machine, and make the conclusions of the comparison with other approaches.

회사채 신용등급 예측을 위한 SVM 앙상블학습 (Ensemble Learning with Support Vector Machines for Bond Rating)

  • 김명종
    • 지능정보연구
    • /
    • 제18권2호
    • /
    • pp.29-45
    • /
    • 2012
  • 회사채 신용등급은 투자자의 입장에서는 수익률 결정의 중요한 요소이며 기업의 입장에서는 자본비용 및 기업 가치와 관련된 중요한 재무의사결정사항으로 정교한 신용등급 예측 모형의 개발은 재무 및 회계 분야에서 오랫동안 전통적인 연구 주제가 되어왔다. 그러나, 회사채 신용등급 예측 모형의 성과와 관련된 가장 중요한 문제는 등급별 데이터의 불균형 문제이다. 예측 문제에 있어서 데이터 불균형(Data imbalance) 은 사용되는 표본이 특정 범주에 편중되었을 때 나타난다. 데이터 불균형이 심화됨에 따라 범주 사이의 분류경계영역이 왜곡되므로 분류자의 학습성과가 저하되게 된다. 본 연구에서는 데이터 불균형 문제가 존재하는 다분류 문제를 효과적으로 해결하기 위한 다분류 기하평균 부스팅 기법 (Multiclass Geometric Mean-based Boosting MGM-Boost)을 제안하고자 한다. MGM-Boost 알고리즘은 부스팅 알고리즘에 기하평균 개념을 도입한 것으로 오분류된 표본에 대한 학습을 강화할 수 있으며 불균형 분포를 보이는 각 범주의 예측정확도를 동시에 고려한 학습이 가능하다는 장점이 있다. 회사채 신용등급 예측문제를 활용하여 MGM-Boost의 성과를 검증한 결과 SVM 및 AdaBoost 기법과 비교하여 통계적으로 유의적인 성과개선 효과를 보여주었으며 데이터 불균형 하에서도 벤치마킹 모형과 비교하여 견고한 학습성과를 나타냈다.

앙상블 경험적 모드분해법을 활용한 비정상성 확률분포형의 매개변수 추세 분석에 관한 연구 (A study on a tendency of parameters for nonstationary distribution using ensemble empirical mode decomposition method)

  • 김한빈;김태림;신홍준;허준행
    • 한국수자원학회논문집
    • /
    • 제50권4호
    • /
    • pp.253-261
    • /
    • 2017
  • 최근 수문자료에서 비정상성 현상들이 관측됨에 따라 비정상성 빈도해석에 관한 연구들이 활발하게 진행되고 있다. 시간에 따라 변화하는 통계적 특성을 고려하기 위하여 다양한 형태의 비정상성 확률분포형이 제시되고 있으며, 비정상성 매개변수를 추정할 수 있는 다양한 방법들이 연구되고 있는 추세이다. 본 연구에서는 앙상블 경험적 모드분해법을 이용한 비정상성 Gumbel 분포형의 매개변수 추정방법을 제시하고 기존에 비정상성 매개변수 추정방법으로 주로 사용되어온 최우도법과 비교해보고자 하였다. 국내 자료의 적용을 위하여 기상청 지점의 다양한 지속기간에 대해 경향성이 나타나는 연 최대치 강우자료를 사용하였다. 적용 결과 선형적 경향성을 나타내는 자료에 대해서는 두 가지 방법 모두 적절한 모형을 선정하였으나, 2차 곡선 형태의 경향성이 존재하는 자료에 대해서는 앙상블 경험적 모드분해법의 경우에만 이러한 경향성을 반영하는 비정상성 Gumbel 모형을 선정하였다.

모바일 멀티모달 센서 정보의 앙상블 학습을 이용한 장소 인식 (Place Recognition Using Ensemble Learning of Mobile Multimodal Sensory Information)

  • 이충연;이범진;온경운;하정우;김홍일;장병탁
    • 정보과학회 컴퓨팅의 실제 논문지
    • /
    • 제21권1호
    • /
    • pp.64-69
    • /
    • 2015
  • 본 논문에서는 시각, 음향, 위치 정보를 포함하는 멀티모달 센서 입력 정보로부터 사용자가 위치한 장소의 환경 정보를 학습하고 기계학습 추론을 통해 장소를 인식하는 방법을 제안한다. 이 방법은 음영 지역에서의 정확도 감소나 추가 하드웨어 필요 등 기존 위치 정보 인식 방법이 가지는 제약을 극복 가능하고, 지도상의 단순 좌표 인식이 아닌 논리적 위치 정보 인식을 수행 가능하다는 점에서 해당 위치와 관련된 특정 정보를 활용하여 다양한 생활편의를 제공하는 위치 기반 서비스를 수행하는데 보다 효과적인 방법이 될 수 있다. 제안하는 방법에서는 스마트폰에 내장된 카메라, 마이크로폰, GPS 센서 모듈로부터 획득한 시각, 음향, 위치 정보로부터 특징 벡터들을 추출하여 학습한다. 이때 서로 다른 특성을 가진 특징 벡터들을 학습하기 위해 각각의 특징 벡터들을 서로 다른 분류기를 통해 학습한 후, 그 결과를 기반으로 최종적인 하나의 분류 결과를 얻어내는 앙상블 기법을 사용한다. 실험 결과에서는 각각의 데이터를 따로 학습하여 분류한 결과와 비교하여 높은 성능을 보였다. 또한 사용자 상황인지 기반 서비스의 성능 향상을 위한 방법으로서 제안하는 모델의 스마트폰 앱 구현을 통한 활용 가능성에 대해 논의한다.

GCM과 수문모형의 불확실성을 고려한 기후변화에 따른 한반도 미래 수자원 전망 (Future Korean Water Resources Projection Considering Uncertainty of GCMs and Hydrological Models)

  • 배덕효;정일원;이병주;이문환
    • 한국수자원학회논문집
    • /
    • 제44권5호
    • /
    • pp.389-406
    • /
    • 2011
  • 본 연구에서는 GCM 및 유출모형의 불확실성을 고려하여 기후변화에 따른 미래 한반도 수자원의 변화를 전망하고, 그 결과에서 나타나는 불확실성을 평가하고자 하였다. 온실가스 배출시나리오와 GCMs의 불확실성을 고려하기 위해 IPCC AR4에 적용되었던 3개 시나리오(A2, A1B, B1)에 대한 13 GCMs 결과를 이용하였으며, 유출모형 구조 및 증발산량 산정방법에 따른 영향을 고려하기 위해 PRMS, SWAT, SLURP 모형을 선정하였고 각 모형별로 2~3개의 증발산량 방법을 고려하였다. 결과적으로 우리나라 109개 중권역 유역에 대해 312개의 결과가 제시되었으며, 이를 이용하여Gaussian kernel density function을 산정함으로써 평가결과의 앙상블 평균과 불확실성을 동시에 제시하였다. 분석 결과 여름철과 겨울철 유출량은 증가, 봄철은 감소할 것으로 전망되었다. 연평균유출량은 전체유역에서 증가할 것으로 전망되었으며, 공간적으로는 한강유역이 위치한 북쪽유역이 남쪽유역에 비해연 유출량이 더 크게 증가할 것으로 전망되었다. 연평균유출량의 증가는 여름철 유출량 증가에 따른 결과로, 기후변화의 영향은 한국에서 유출량의 계절편중을 심화시켜 수자원 관리를 더욱 어렵게 할 것으로 전망되었다. 평가결과에서 나타난 불확실성은 겨울철 유출량에서 가장 크고 여름철 유출량에서 가장 적은 것으로 나타났다.

설명 가능한 정기예금 가입 여부 예측을 위한 앙상블 학습 기반 분류 모델들의 비교 분석 (A Comparative Analysis of Ensemble Learning-Based Classification Models for Explainable Term Deposit Subscription Forecasting)

  • 신지안;문지훈;노승민
    • 한국전자거래학회지
    • /
    • 제26권3호
    • /
    • pp.97-117
    • /
    • 2021
  • 정기예금 가입 여부 예측은 은행의 대표적인 금융 마케팅 중 하나로, 은행은 다양한 고객 정보를 활용하여 예측 모델을 구성할 수 있다. 정기예금 가입 여부의 분류 정확도를 향상하기 위해, 많은 연구에서 기계학습 기법들을 이용하여 분류 모델들을 개발하였다. 하지만, 이러한 모델들이 만족스러운 성능을 보일지라도 모델의 의사결정 과정에 대한 근거가 적절하게 설명되지 않는다면 산업에서 활용하기가 쉽지 않다. 이러한 문제점을 해결하기 위해, 본 논문은 설명 가능한 정기예금 가입 여부 예측 기법을 제안한다. 먼저, 테이블 형식에서 우수한 성능을 도출하는 의사결정 나무 기반 앙상블 학습 기법인 랜덤 포레스트, GBM, XGBoost, LightGBM을 이용하여 분류 모델들을 개발하고, 10겹 교차검증을 통해 모델들의 분류 성능을 심층 분석한다. 다음으로, 가장 우수한 성능을 도출하는 모델에 설명 가능한 인공지능 기법인 SHAP을 적용하여 고객 정보의 영향도와 의사결정 과정 등을 해석할 수 있는 근거를 제공한다. 제안한 기법의 실용성과 타당성을 입증하기 위해, Kaggle에서 제공한 은행 마케팅 데이터 셋을 대상으로 모의실험을 진행하였으며, 데이터 셋 구성에 따라 GBM과 LightGBM 모델에 SHAP을 각기 적용하여 설명 가능한 정기예금 가입 여부를 위한 분석 및 시각화를 수행하였다.