• 제목/요약/키워드: Radial Basis Kernel

검색결과 43건 처리시간 0.025초

SVM을 이용한 비선형 화학공정 모델링: pH 중화공정에의 적용 예 (Nonlinear Chemical Plant Modeling using Support Vector Machines: pH Neutralization Process is Targeted)

  • 김동원;유아림;양대륙;박귀태
    • 제어로봇시스템학회논문지
    • /
    • 제12권12호
    • /
    • pp.1178-1183
    • /
    • 2006
  • This paper is concerned with the modeling and identification of pH neutralization process as nonlinear chemical system. The pH control has been applied to various chemical processes such as wastewater treatment, chemical, and biochemical industries. But the control of the pH is very difficult due to its highly nonlinear nature which is the titration curve with the steepest slope at the neutralization point. We apply SVM which have become an increasingly popular tool for machine teaming tasks such as classification, regression or detection to model pH process which has strong nonlinearities. Linear and radial basis function kernels are employed and each result has been compared. So SVH based on kernel method have been found to work well. Simulations have shown that the SVM based on the kernel substitution including linear and radial basis function kernel provides a promising alternative to model strong nonlinearities of the pH neutralization but also to control the system.

암진단시스템을 위한 Weighted Kernel 및 학습방법 (Weighted Kernel and it's Learning Method for Cancer Diagnosis System)

  • 최규석;박종진;전병찬;박인규;안인석;하남
    • 한국인터넷방송통신학회논문지
    • /
    • 제9권2호
    • /
    • pp.1-6
    • /
    • 2009
  • 많은 양의 데이터로부터 유용성있는 정보의 추출, 진단 및 예후에 대한 결정, 질병 치료의 응용 등은 바이오 인포머틱스(Bioinformatics)분야에서 매우 중요한 문제들이다. 본 논문에서는 암진단시스템에 적용하기위해 support vector machine을 위한 weogjted lernel fuction과 빠른 수렴성과 좋은 분류성능을 갖는 학습방법을 제안하였다. 제안된 kernel function에서 기본적인 kernel fuction의 weights는 암진단 학습단계에서 결정되고 분류단계에서 파리미터로 사용된다. 대장암 데이터와 같은 임상 데이터에 대한 실험결과에서 제안된 방법은 기존의 다른 kernel fuction들 보다 더 우수하고 안정적인 분류성능을 보여주었다.

  • PDF

A Novel Kernel SVM Algorithm with Game Theory for Network Intrusion Detection

  • Liu, Yufei;Pi, Dechang
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제11권8호
    • /
    • pp.4043-4060
    • /
    • 2017
  • Network Intrusion Detection (NID), an important topic in the field of information security, can be viewed as a pattern recognition problem. The existing pattern recognition methods can achieve a good performance when the number of training samples is large enough. However, modern network attacks are diverse and constantly updated, and the training samples have much smaller size. Furthermore, to improve the learning ability of SVM, the research of kernel functions mainly focus on the selection, construction and improvement of kernel functions. Nonetheless, in practice, there are no theories to solve the problem of the construction of kernel functions perfectly. In this paper, we effectively integrate the advantages of the radial basis function kernel and the polynomial kernel on the notion of the game theory and propose a novel kernel SVM algorithm with game theory for NID, called GTNID-SVM. The basic idea is to exploit the game theory in NID to get a SVM classifier with better learning ability and generalization performance. To the best of our knowledge, GTNID-SVM is the first algorithm that studies ensemble kernel function with game theory in NID. We conduct empirical studies on the DARPA dataset, and the results demonstrate that the proposed approach is feasible and more effective.

SVR을 이용한 이동로봇의 실내환경 인식 (Indoor Environment Recognition of Mobile Robot Using SVR)

  • 심준홍;최정원
    • 조명전기설비학회논문지
    • /
    • 제24권8호
    • /
    • pp.119-125
    • /
    • 2010
  • 본 논문에서는 초음파를 이용하여 자율 운행을 하는 이동로봇이 가지는 물리적인 문제점을 해결하기 위한 방안을 제시 한다. 이동 로봇이 주변 환경을 인지함에 있어서 각종 센서를 사용한다. 그러한 센서들은 항상 올바른 값을 주지 않는다. 센서값에는 항상 노이즈가 포함되어 있는데 이것을 해결하기 위해서 학습 알고리즘인 SVR(Support Vector Regression)을 사용하여 주변 환경을 센싱한 초음파 값을 토대로 주변 환경을 추정할 수 있다. SVR을 사용하기 위해서는 SVR의 요소인 parameter와 커널을 선정해야 한다. SVR의 요소를 선정함에 있어서 정해진 값이 존재하지 않기 때문에 실험을 통해서 가장 적합한 parameter 값을 선정해야 한다. 또한 커널을 선정함에 있어서는 일반화가 가장 잘 되어 있는 RBF(Radial Basis Function)커널을 사용하였다. 본 논문에서는 세가지 환경에서의 실험을 통하여 SVR을 이용하여 센서값의 오류를 개선할 수 있음을 나타내었다.

Self-adaptive Online Sequential Learning Radial Basis Function Classifier Using Multi-variable Normal Distribution Function

  • ;김형중
    • 한국정보통신설비학회:학술대회논문집
    • /
    • 한국정보통신설비학회 2009년도 정보통신설비 학술대회
    • /
    • pp.382-386
    • /
    • 2009
  • Online or sequential learning is one of the most basic and powerful method to train neuron network, and it has been widely used in disease detection, weather prediction and other realistic classification problem. At present, there are many algorithms in this area, such as MRAN, GAP-RBFN, OS-ELM, SVM and SMC-RBF. Among them, SMC-RBF has the best performance; it has less number of hidden neurons, and best efficiency. However, all the existing algorithms use signal normal distribution as kernel function, which means the output of the kernel function is same at the different direction. In this paper, we use multi-variable normal distribution as kernel function, and derive EKF learning formulas for multi-variable normal distribution kernel function. From the result of the experience, we can deduct that the proposed method has better efficiency performance, and not sensitive to the data sequence.

  • PDF

IKPCA-ELM-based Intrusion Detection Method

  • Wang, Hui;Wang, Chengjie;Shen, Zihao;Lin, Dengwei
    • KSII Transactions on Internet and Information Systems (TIIS)
    • /
    • 제14권7호
    • /
    • pp.3076-3092
    • /
    • 2020
  • An IKPCA-ELM-based intrusion detection method is developed to address the problem of the low accuracy and slow speed of intrusion detection caused by redundancies and high dimensions of data in the network. First, in order to reduce the effects of uneven sample distribution and sample attribute differences on the extraction of KPCA features, the sample attribute mean and mean square error are introduced into the Gaussian radial basis function and polynomial kernel function respectively, and the two improved kernel functions are combined to construct a hybrid kernel function. Second, an improved particle swarm optimization (IPSO) algorithm is proposed to determine the optimal hybrid kernel function for improved kernel principal component analysis (IKPCA). Finally, IKPCA is conducted to complete feature extraction, and an extreme learning machine (ELM) is applied to classify common attack type detection. The experimental results demonstrate the effectiveness of the constructed hybrid kernel function. Compared with other intrusion detection methods, IKPCA-ELM not only ensures high accuracy rates, but also reduces the detection time and false alarm rate, especially reducing the false alarm rate of small sample attacks.

가우시언 과정의 회귀분석과 금융수학의 응용 (Gaussian Process Regression and Its Application to Mathematical Finance)

  • 임현철
    • 한국수학사학회지
    • /
    • 제35권1호
    • /
    • pp.1-18
    • /
    • 2022
  • This paper presents a statistical machine learning method that generates the implied volatility surface under the rareness of the market data. We apply the practitioner's Black-Scholes model and Gaussian process regression method to construct a Bayesian inference system with observed volatilities as a prior information and estimate the posterior distribution of the unobserved volatilities. The variance instead of the volatility is the target of the estimation, and the radial basis function is applied to the mean and kernel function of the Gaussian process regression. We present two types of Gaussian process regression methods and empirically analyze them.

Support Vector Machine을 이용한 플라즈마 공정 모델링 (Modeling of Plasma Process Using Support Vector Machine)

  • 김민재;김병환
    • 대한전기학회:학술대회논문집
    • /
    • 대한전기학회 2006년 학술대회 논문집 정보 및 제어부문
    • /
    • pp.211-213
    • /
    • 2006
  • In this study, plasma etching process was modeled by using support vector machine (SVM). The data used in modeling were collected from the etching of silica thin films in inductively coupled plasma. For training and testing neural network, 9 and 6 experiments were used respectively. The performance of SVM was evaluated as a function of kernel type and function type. For the kernel type, Epsilon-SVR and Nu-SVR were included. For the function type, linear, polynomial, and radial basis function (RBF) were included. The performance of SVM was optimized first in terms of kernel type, then as a function of function type. Five film characteristics were modeled by using SVM and the optimized models were compared to statistical regression models. The comparison revealed that statistical regression models yielded better predictions than SVM.

  • PDF

에지 정보와 SVM의 결합을 통한 눈 검출 (Eye Detection using Edge Information and SVM)

  • 지형근;이경희;정용화
    • 대한전자공학회:학술대회논문집
    • /
    • 대한전자공학회 2002년도 하계종합학술대회 논문집(4)
    • /
    • pp.347-350
    • /
    • 2002
  • This paper describes eye detection algorithm using edge information and Support Vector Machine (SVM). We adopt an edge detection and labelling algorithm to detect isolated components. Detected candidate eye pairs finally verified by SVM using Radial Basis Function (RBF) kernel. A detection rate over the test set has been achieved more than 90%, and compared with template matching method. this proposed method significantly reduced FAR.

  • PDF

VRIFA: LRBF 커널과 Nomogram을 이용한 예측 및 비선형 SVM 시각화도구 (VRIFA: A Prediction and Nonlinear SVM Visualization Tool using LRBF kernel and Nomogram)

  • 김성철;유환조
    • 한국멀티미디어학회논문지
    • /
    • 제13권5호
    • /
    • pp.722-729
    • /
    • 2010
  • 예측 문제를 해결하기 위한 데이타마이닝 기법은 다양한 분야에서 주목받고 있다. 이것에 대한 한 예로 컴퓨터-기반의 질병의 예측 혹은 진단은 CDSS(Clinical Decision support System)에서 가장 중요한 요소이기도 하다. 이러한 예측 문제를 해결하기 위해서 RBF커널 같은 비선형 커널을 사용한 SVM이 가장 널리 사용되고 있는데, 이는 비선형 SVM이 어떠한 다른 분류기법보다 정확한 성능을 보이기 때문이다. 하지만 비선형 SVM을 사용한 경우에는 모델내부를 시각화하는 일이 어려워서 예측결과에 대한 직관적인 이해가 힘들고, 의학 전문가들은 이러한 비선형 SVM의 사용을 기피하고 있는 실정이다. Nomogram은 SVM을 시각화하기 위해 제안된 기법이다. 하지만 이는 선형 SVM의 경우에만 사용이 가능하고. 이 문제를 해결하기 위해서 LRBF 커널이 제안된 바 있다. LRBF 커널은 기존의 RBF 커널을 사용한 SVM과 대등한 결과를 보이면서도 예측결과의 선형적 분석도 가능하게 한다. 본 논문에서는 노모그램(Nomogram)과 LRBF 커널을 사용한 SVM이 통합되어 있는 예측 툴 VRIFA를 제안한다. 이 툴은 사용자와 상호작용하며 비선형 SVM 모델의 내부구조를 데이타의 각 속성별로 보여주는 방법으로 사용자가 예측결과를 직관적으로 이해하도록 도와준다. VRIFA는 Nomogram기반의 피쳐선택(feature selection) 기능도 포함하고 있는데, 이 기능은 예측결과에 부정적인 영향을 끼치거나 중복된 연관성을 보이는 속성을 제거함으로써 모델의 정확도를 높이는 데 기여한다. 그리고 데이터에 포함된 클래스의 비율이 한 쪽으로 치우쳐져 있는 경우에는 ROC 곡선 넓이(AUC)를 예측결과를 평가하기 위한 측도로 사용할 수 있다. 이 툴은 컴퓨터-기반의 질병 예측 혹은 질병의 위험 요소 분석에 대해 연구하는 연구자들에게 유용하게 사용될 것으로 전망하는 바이다.