• Journal of KIISE:Computing Practices and Letters
• /
• v.15 no.2
• /
• pp.135-139
• /
• 2009

We present a new ensemble learning method that employs the set of region experts, each of which learns to handle a subset of the training data. We split the training data and generate experts for different regions in the feature space. When classifying a data, we apply a weighted voting among the experts that include the data in their region. We used ten datasets to compare the performance of our new ensemble method with that of single classifiers as well as other ensemble methods such as Bagging and Adaboost. We used SMO, Naive Bayes and C4.5 as base learning algorithms. As a result, we found that the performance of our method is comparable to that of Adaboost and Bagging when the base learner is C4.5. In the remaining cases, our method outperformed the benchmark methods.

• The Journal of Information Systems
• /
• v.20 no.3
• /
• pp.237-255
• /
• 2011

지난 수십 년 간 연구자들은 효과적인 진료지원시스템을 개발하기 위해 다양한 도구와 방법론들을 제안하였고 지금도 새로운 방법론과 도구들을 계속적으로 개발하고 있다. 그 중에서 흉통으로 응급실에 내원한 노인환자에 대한 정확한 진단은 중요한 이슈 중의 하나였다. 따라서 많은 연구자들이 의사의 진단 능력을 향상시키기 위한 지능적인 의료의사결정과 시스템 개발에 투신하고 있지만 전통적인 의료시스템에 따른 대부분의 진료의사결정이 단일 분류기(classifier)에 기반하고 있어 만족스런 성능을 보여주지 못하고 있는 것이 현실이다. 따라서 이 논문은 앙상블 전략을 활용하여 의사들이 노인환자들의 흉통을 더 정확하고 빠르게 진단하는데 있어 도움을 줄 수 있게 하였다. 의사결정나무, 인공신경망, SVM 모델을 결합한 앙상블 기법을 실제 응급실에서 수집한 응급실 자료에 적용하였고, 그 결과 단일 분류기를 사용하는 것에 비해 월등히 향상된 진단 성과를 보이는 것을 관찰 할 수 있었다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2021.06a
• /
• pp.182-182
• /
• 2021

본 연구에서는 1일부터 최대 7일까지의 시간을 두고 남한 전체의 유출량에 대한 예측 모형을 제시하고자 한다. 이를 위하여 LSM (Land Surface Model) 모형을 사용하여 유출량을 모의하였고 이 과정에서 미 계측치에 대한 유출량을 예측하기 위하여 Xgboost (Extreme Gradient Boost)를 활용하여 매개변수를 지역화하였다. 이러한 지역화 기법을 통하여 남한 전체의 유출량에 대한 그리드화 된 유출값을 얻을 수 있었다. 또한 본 연구에서는 기상 예측자료를 유출량에 대한 예측으로 변환하기 위하여 Stacking 앙상블 기반의 수문학적 후처리 기법을 사용하였다. Stacking 앙상블 기법은 Base-learner와 Meta-learner의 조합으로 이루어 지는데 본 연구에서 새롭게 사용되는 패널티 기반의 분위회귀분석 방법론은 기존의 방법론과의 비교에 있어서 유용한 것으로 파악되었다. 결과적으로 본 연구에서는 총 7일의 앞선 시간의 예측에 있어서 한반도 전체의 유출량에서 비교적 짧은 시간에 대한 예측인 1일과 2일에서의 예측은 실질적으로 사용이 가능한 것으로 파악되었다.

• Journal of the Korea Institute of Information and Communication Engineering
• /
• v.15 no.6
• /
• pp.1213-1220
• /
• 2011

In this paper, a new ensemble system using dynamic weighting method with added weight information into classifiers is proposed. The weights used in the traditional ensemble system are those after the training phase. Once extracted, the weights in the traditional ensemble system remain fixed regardless of the test data set. One way to circumvent this problem in the gating networks is to update the weights dynamically by adding processes making architectural hierarchies, but it has the drawback of added processes. A simple method to update weights dynamically, without added processes, is proposed, which can be applied to the already established ensemble system without much of the architectural modification. Experiment shows that this method performs better than AdaBoost.

• Journal of the Korea Society of Computer and Information
• /
• v.19 no.6
• /
• pp.19-26
• /
• 2014

An ensemble classifier system is a widely-used multi-classifier system, which combines the results from each classifier and, as a result, achieves better classification result than any single classifier used. Several methods have been used to build an ensemble classifier including boosting, which is a cascade method where misclassified examples in previous stage are used to boost the performance in current stage. Boosting is, however, a serial method which does not form a complete feedback loop. In this paper, proposed is context sensitive SVM ensemble (CASE) which adopts SVM, one of the best classifiers in term of classification rate, as a basic classifier and clustering method to divide feature space into contexts. As CASE divides feature space and trains SVMs simultaneously, the result from one component can be applied to the other and CASE achieves better result than boosting. Experimental results prove the usefulness of the proposed method.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2005.05b
• /
• pp.889-893
• /
• 2005

본 연구에서는 기후변화에 따른 신뢰성 높은 수자원 영향평가를 수행하기 위한 방안으로 유출모형에 따른 불확실성을 최소화할 수 있는 슈퍼앙상블 기법을 제안하였다. 유출모형들은 자연현상을 개념화하는 과정에서 목적에 따라 알고리즘이나 구조가 다르게 개발된다. 따라서 동일한 유역에 동일한 입력자료를 사용하더라도 유출모의 결과는 상이하며 이는 곧 불확실성으로 작용한다. 이러한 불확실성을 최소화하기 위한 방법으로 본 연구에서는 통계적기법인 인공신경망 모형을 이용하여 모형별 유출결과를 향상시킬 수 있는 슈퍼앙상블 기법을 개발하고 적용성을 분석하였다. 적용 대상유역으로는 한강수계에 위치한 괴산댐유역을 선정하였으며, 적용 모형으로는 일체형 모형인 Tank 모형과 준분포형 모형인 PRMS 모형을 이용하여 슈퍼앙상블을 구축하고 검정하였다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2008.05a
• /
• pp.264-268
• /
• 2008

미래 발생 가능한 수문 및 기상현상의 예측과정은 지식의 부족과 자연현상의 다양성으로 인해 불확실성을 포함하게 된다. 하지만 많은 예측들은 아직까지 확정적으로 제공되고 있으며, 결과적으로 예측결과의 불확실성 정도를 제공하지 못하고 있다. 앙상블 유량예측(ESP, Ensemble Streamflow Prediction)은 이러한 불확실성을 고려하여 수자원시스템의 의사결정에 있어 중요한 요소 중 하나인 유량예측을 수행할 수 있는 방법이다. 하지만 ESP의 결과는 기상자료, 유역 초기조건, 수문모형의 매개변수, 단순화된 수문모형에 의해 비교적 큰 불확실성을 포함하게 되며, 따라서 실제적인 현업에서의 사용을 위해서는 불확실성 정도를 줄이기 위한 사전 및 사후처리 과정이 요구된다. 본 연구에서는 국내에서 활용 가능한 기후 예보자료를 사용하여 앙상블 유량예측에 적용할 수 있는 사전처리 방안들을 검토하고, 국내에서 사후처리를 위해 적용되었던 최적선형 보정기법에 더해 다양한 기법들을 강우유출모형인 TANK모형의 모의결과 보정에 적용하였다. 사전 및 사후처리를 적용한 결과 기상자료와 유량예측과정에 존재하는 불확실성을 저감시키는 것이 가능하였다. 특히 사전 및 사후 처리가 동시에 적용되었을 경우 그 향상 정도가 단순히 각각의 방법에 의한 향상 정도를 합한 것보다 높게 나타날 수 있음이 확인되었다. 사전 및 사후처리를 동시에 적용한 경우 이수기에는 RPS(Ranked Probability Score) 평가방법 내에서 54%를, 홍수기에는 8%를 향상시키는 것이 가능하였다.

• Journal of the Korea Institute of Information and Communication Engineering
• /
• v.14 no.1
• /
• pp.63-69
• /
• 2010

Ensemble is one of widely used methods for improving the performance of classification and prediction models. Two popular ensemble methods, Bagging and Boosting, have been applied with great success to various machine learning problems using mostly decision trees as base classifiers. This paper performs an empirical comparison of Boosted neural networks and traditional neural networks on bankruptcy prediction tasks. Experimental results on Korean firms indicated that the boosted neural networks showed the improved performance over traditional neural networks.

• Journal of KIISE:Software and Applications
• /
• v.34 no.9
• /
• pp.857-868
• /
• 2007

The good classifier ensemble should have a high complementarity among classifiers in order to produce a high recognition rate and its size is small in order to be efficient. This paper proposes a classifier ensemble selection algorithm with coarse-to-fine stages. for the algorithm to be successful, the original classifier pool should be sufficiently diverse. This paper produces a large classifier pool by combining several different classification algorithms and lots of feature subsets. The aim of the coarse selection is to reduce the size of classifier pool with little sacrifice of recognition performance. The fine selection finds near-optimal ensemble using genetic algorithms. A hybrid genetic algorithm with improved searching capability is also proposed. The experimentation uses the worldwide handwritten numeral databases. The results showed that the proposed algorithm is superior to the conventional ones.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2015.05a
• /
• pp.411-411
• /
• 2015

유량예측의 가장 주된 목적은 가뭄과 홍수와 같은 수해방지를 위해 통합수자원관리를 수행하는데 있다. 이런 유량예측을 위해 다양한 기법들로 예측이 수행되고 있으며, 예측기간과 필요 정확도에 따라 초단기, 단기, 중 장기 예측 등으로 구분할 수 있다. 유량예측에 사용되는 기법들은 기후변화 시나리오와 같이 예측된 강우자료를 이용하여 유출량을 예측하는 방법이 있으며, 통계적인 방법으로 과거자료들을 활용하여 미래의 유량을 예측하는 방법이 있다. 본 연구에서는 ESP 기법을 이용하여 금호강 유역의 월 단위(30일) 유량을 예측하고자 한다. 앙상블 유량예측기법(ESP; Ensemble Streamflow Prediction)이란 현재의 유역상태를 초기조건으로 사용하고 과거의 온도나 강수 등의 시계열 앙상블을 강우-유출모형에 입력하여 유출량을 앙상블로 예측하는 기법이다. ESP는 결국 현재의 유역상태와 유역에서의 과거 강우 관측기록, 미래 강우예측에 대한 정보를 조합하여 그에 따른 유출 앙상블을 생산해내게 된다. 월 유량을 예측하기 위해서 금호강 유역의 1988년에서 2014년까지 27년간 대구, 영천, 포항 관측소의 기상자료를 수집하였으며, 금호강 표준유역에 해당하는 19개 유역으로 분할하여 모의에 이용하였다. 금호강 유역에 티센망을 적용하여 각 표준유역별로 강우량을 조합하여 2013년까지 모의에 적용하였으며, 이는 과거자료로 사용하였다. 유량예측에 사용되는 강우자료를 생성하기 위해서 26년간 일강우를 이용하였다. 예를 들어 2014년 12월을 예측한다면 11월까지 관측된 유역초기 조건을 가지는 수문모형의 12월 기상입력자료로써 현재 유역에서 발생 가능성이 있는 동일 유역의 과거 1988년부터 2013년까지의 12월 기상자료들을 사용하는 방법이다. 1988년부터 2013년까지 26개 12월 기상자료를 사용하므로 유량예측결과 또한 26개가 주워진다. 계산된 26개의 유량앙상블이 적용된 유역에서 12월에 발생 가능한 유출량의 모음이 된다. 시나리오결과를 수자원관리에 활용하기 위해서 초과확률로 분석하였으며, 이런 분석의 결과는 향후 가뭄과 홍수 같은 수해방지를 위해 수공구조물의 운영에도 활용할 수 있을 것으로 판단된다.