• Journal of the Korean Data and Information Science Society
• /
• 제28권2호
• /
• pp.461-471
• /
• 2017

In this paper we propose a feature selection method identifying important features in the semivarying coefficient model. One important issue in semivarying coefficient model is how to estimate the parametric and nonparametric components. Another issue is how to identify important features in the varying and the constant effects. We propose a feature selection method able to address this issue using generalized cross validation functions of the varying coefficient least squares support vector regression (LS-SVR) and the linear LS-SVR. Numerical studies indicate that the proposed method is quite effective in identifying important features in the varying and the constant effects in the semivarying coefficient model.

• Journal of the Korean Data and Information Science Society
• /
• 제14권4호
• /
• pp.845-852
• /
• 2003

Forecasting exchange rate movements is a challenging task since exchange rates impact world economy and determine value of international investments. In particular, Korean-U.S. exchange rate behavior is very important because of strong Korean and U.S. trading relationship. Neural networks models have been used for short-term prediction of exchange rate movements. Least squares support vector machine (LS-SVM) is used widely in real-world regression tasks. This paper describes the use of LS-SVM for short-term and long-term prediction of Korean-U.S. exchange rate.

• 한국지능시스템학회논문지
• /
• 제17권7호
• /
• pp.957-963
• /
• 2007

본 연구에서는 비선형 지속 모음 모델링을 위한 최소 제곱 서포트 벡터 회귀 기반 비선형 자귀회귀 방법을 소개하고 분석하였다. 비주기적인 파형 특성을 갖는 양성 후두 질환자 43명의 지속 모음을 대상으로 한 실험에서 제안된 비선형 합성기는 거의 완벽하게 혼란한 지속 모음을 생성하고 선형 예측 코딩은 할 수 없는 주파수 변동과 같은 자연스러운 음의 특성 또한 보존할 수 있었다. 하지만 일부 모음의 합성 결과 실제 원음과 다른 차이점을 보였다. 이러한 결과들은 단일 밴드 모델이 음의 고주파 성분을 조정, 분해 못하기 때문에 발생한 것이라 가정된다. 그러므로 웨이블릿 필터 뱅크를 이용한 멀티 밴드 모델을 단일 밴드 모델과 대치하여 실험을 수행한 결과 향상된 안정성을 보였다. 결과적으로 최소 제곱 서포트 벡터 회귀 기반 비선형 자귀회귀 방법은 성공적으로 원음에 가까운 합성음을 생성할 수 있다는 것을 확인 할 수 있었다.

• Computers and Concrete
• /
• 제18권6호
• /
• pp.1065-1082
• /
• 2016

The main aim of this study is to predict the compressive and flexural strengths of self-compacting mortar (SCM) containing $nano-SiO_2$, $nano-Fe_2O_3$ and nano-CuO using wavelet-based weighted least squares-support vector machines (WLS-SVM) approach which is called WWLS-SVM. The WWLS-SVM regression model is a relatively new metamodel has been successfully introduced as an excellent machine learning algorithm to engineering problems and has yielded encouraging results. In order to achieve the aim of this study, first, the WLS-SVM and WWLS-SVM models are developed based on a database. In the database, nine variables which consist of cement, sand, NS, NF, NC, superplasticizer dosage, slump flow diameter and V-funnel flow time are considered as the input parameters of the models. The compressive and flexural strengths of SCM are also chosen as the output parameters of the models. Finally, a statistical analysis is performed to demonstrate the generality performance of the models for predicting the compressive and flexural strengths. The numerical results show that both of these metamodels have good performance in the desirable accuracy and applicability. Furthermore, by adopting these predicting metamodels, the considerable cost and time-consuming laboratory tests can be eliminated.

• Communications for Statistical Applications and Methods
• /
• 제24권3호
• /
• pp.317-324
• /
• 2017

An influence measure known as Cook's distance has been used for judging the influence of each observation on the least squares estimate of the parameter vector. The distance does not reflect the distributional property of the change in the least squares estimator of the regression coefficients due to case deletions: the distribution has a covariance matrix of rank one and thus it has a support set determined by a line in the multidimensional Euclidean space. As a result, the use of Cook's distance may fail to correctly provide information about influential observations, and we study some reasons for the failure. Three illustrative examples will be provided, in which the use of Cook's distance fails to give the right information about influential observations or it provides the right information about the most influential observation. We will seek some reasons for the wrong or right provision of information.

• 한국통계학회:학술대회논문집
• /
• 한국통계학회 2004년도 학술발표논문집
• /
• pp.67-72
• /
• 2004

Support vector machine (SVM) has been very successful in pattern recognition and function estimation problems for crisp data. This paper proposes a new method to evaluate interval linear and nonlinear regression models combining the possibility and necessity estimation formulation with the principle of SVM. For data sets with crisp inputs and interval outputs, the possibility and necessity models have been recently utilized, which are based on quadratic programming approach giving more diverse spread coefficients than a linear programming one. SVM also uses quadratic programming approach whose another advantage in interval regression analysis is to be able to integrate both the property of central tendency in least squares and the possibilistic property In fuzzy regression. However this is not a computationally expensive way. SVM allows us to perform interval nonlinear regression analysis by constructing an interval linear regression function in a high dimensional feature space. In particular, SVM is a very attractive approach to model nonlinear interval data. The proposed algorithm here is model-free method in the sense that we do not have to assume the underlying model function for interval nonlinear regression model with crisp inputs and interval output. Experimental results are then presented which indicate the performance of this algorithm.

• 한국통계학회:학술대회논문집
• /
• 한국통계학회 2003년도 추계 학술발표회 논문집
• /
• pp.137-141
• /
• 2003

LS-SVM(least squares support vector machine) is a widely applicable and useful machine learning technique for classification and regression analysis. LS-SVM can be a good substitute for statistical method but computational difficulties are still remained to operate the inversion of matrix of huge data set. In modern information society, we can easily get huge data sets by on line or batch mode. For these kind of huge data sets, we suggest an on line pruning regression method by LS-SVM. With relatively small number of pruned support vectors, we can have almost same performance as regression with full data set.

• Korean Chemical Engineering Research
• /
• 제45권1호
• /
• pp.32-38
• /
• 2007

통계적인 공정 제어 기법을 회분식 공정에 적용하여, 일반적인 회분식 공정의 데이터를 통해 보다 빠르고, 손쉽게 공정의 상태를 진단할 수 있는 시스템을 구현해 보았다. 대표적인 회분식 공정의 하나인 반도체 식각공정과 반회분식 스타이렌-부타디엔 고무 생산 공정의 데이터를 이용하여 공정 변수와 공정의 상태간의 연관 관계를 규명할 수 있는 모델을 수립하였으며, 이 모델의 출력(output) 결과를 이용해 통계적 공정 제어 차트를 구성하고, 시간에 따른 공정의 추이를 분석해 이상을 판별해 보았다. 회분식 공정의 다축(multi-way) 데이터를 두개의 축으로 만드는 펼치기(unfolding) 과정을 거쳤으며, 모델링 방법으로는 Support Vector Regression 및 Partial Least Square 등의 다변량 회귀분석 방법을 이용하였다. 또한 에러차트 및 변수 기여도 차트(variable contribution chart)를 이용해 이상의 세기, 형태 및 이상 데이터에 대한 각 변수들의 기여도를 계산해 보았으며, 그 결과 이상의 발생 유무 및 발생시점 뿐만아니라 이상의 세기 및 원인 까지 진단해 볼 수 있는 우수한 성능을 보이는 것을 확인할 수 있었다.

• 한국전자파학회논문지
• /
• 제29권11호
• /
• pp.868-877
• /
• 2018

본 논문에서는 SVR(Support Vector Regression)을 이용한 컨포멀 배열 안테나의 빔 형성 알고리즘을 제안한다. 기존의 최소자승법 기반 알고리즘은 모든 샘플의 오차를 고려하는 반면에, SVR은 정해진 오차 한계를 벗어나는 샘플들을 통해 가중치를 결정하여 희소(sparse)한 해를 가지며 과적합(over-fitting) 문제를 최소화하는 장점을 갖고 있다. 제안된 알고리즘의 성능을 검증하기 위해 실험적으로 측정된 컨포멀 배열 안테나 능동 소자 패턴을 SVR에 적용하여 목적 빔 배턴으로 근사시키는 가중치를 구하였으며, SVR로 얻은 가중치와 최소자승법을 통해 얻은 가중치를 실측한 소자패턴에 적용하여 빔 형성 성능을 비교하였다.

• Journal of the Korean Data and Information Science Society
• /
• 제20권6호
• /
• pp.1093-1101
• /
• 2009

분위수 회귀모형은 확률변수들 사이에 확률적인 관계구조를 포함한 함수 모형을 좀 더 완벽하게 추정하도록 제공한다. 본 논문에서는 함수 추정에 로버스트하다고 알려져 있는 서포트벡터기계 기법과 이중벌칙커널기계를 이용하여 분위수 회귀모형을 추정하고자 한다. 이중벌칙커널기계는 고차원의 입력변수에 대한 분위수 회귀가 요구될 때 분위수 회귀모형을 잘 추정한다고 알려져 있다. 또한 본 논문에서는 광범위한 형태의 분위수 회귀모형 추정을 위해서 정규분포보다 비대칭 라플라스 분포를 이용한다. 본 논문에서 제안한 모형은 분위수 회귀모형 추정을 위해서 서포트벡터기계 기법에 이중벌칙커널기계를 이용하여 각각의 평균과 분산을 동시에 추정한다. 평균과 분산함수 추정을 위해 사용된 커널함수의 모수들은 최적의 값을 찾기 위해 일반화근사 교차타당성을 이용한다.