• Journal of the Korean Institute of Telematics and Electronics C
• /
• v.36C no.12
• /
• pp.78-89
• /
• 1999

Previous wavelet network structures are determined by considering the relationship between wavelet windows distribution of training patterns that are transformed into time-frequency space. Because it is separated two algorithms that determines wavelet network structure and that modifies parameters of network, learning process that minimizes output error of network is executed after the network structure is determined. But this method has some weakness that training patterns must be transformed into time-frequency space by additional preprocessing and the network structure should be fixed during learning process. In this paper, we propose a new constructing method for wavelet network structure by using differences between the output and the desired response without preprocessing. Because the algorithm perform network construction and error minimizing process simultaneously, it can determine the number of hidden nodes adaptively as with the complexity of problems. In addition, the network structure is optimized by inserting new hidden nodes in the area that has maximum error and extracting hidden nodes that has no effect to the output of network. This algorithm has no constraint condition that all training patterns must be known, because it removes preprocessing procedure for training patterns and it can be applied effectively to systems that has time varying outputs.

• Proceedings of the KIEE Conference
• /
• 2011.07a
• /
• pp.1962-1963
• /
• 2011

본 연구에서는 패턴분류를 위해 최적화된 방사형 기저 함수 신경회로망(Radial Basis Function Neural Networks) 분류기를 제안한다. RBFNN은 입력층, 은닉층, 출력층의 3층 구조로 되어 있으며 Multi Dimension, Predictive ability, Robustness한 특징이 있다. RBFNN의 은닉층에는 기존의 활성함수가 아닌 Fuzzy C-means 클러스터링 알고리즘을 사용하여 입력 데이터의 특성을 고려한 적합도를 사용하였다. RBFNN은 은닉층의 노드수와 FCM 클러스터링의 퍼지화 계수, 연결가중치의 다항식 타입이 모델의 성능의 향상에 영향을 미치기 때문에 최적화가 필요하며 본 논문에서는 Differential Evolution(DE) 알고리즘을 사용하여 모델의 구조 및 파라미터를 최적화시켜 모델의 성능을 향상시켰다. 제안된 모델을 평가하기 위해 패턴분류에 많이 사용되는 Iris 데이터와 Wine 데이터를 이용하였다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2019.05a
• /
• pp.467-469
• /
• 2019

딥러닝에서는 기본 층을 겹겹이 쌓아 올려 구성한 신경망이라는 모델을 사용하여 데이터를 학습한다. 신경망 모델에서 층(layer)은 신경망의 핵심 구성 요소로서 입력된 데이터로부터 주어진 문제에 더 의미 있는 표현을 추출하고 표현할 수 있다. 이러한 층의 개수와 층 내에 노드의 개수는 신경망 설계에서 가장 기본적인 문제 중에 하나이다. 본 논문에서는 층의 개수와 노드의 개수가 신경망 학습에 어떠한 영향을 미치는지 실험을 통하여 평가해본다.

• The Korean Journal of Applied Statistics
• /
• v.26 no.5
• /
• pp.847-856
• /
• 2013

We propose a modified learning process for generalized neural network using a learning algorithm by Liu et al. (2001). We consider the effect of initial weights, training results and learning errors using a modified learning process. We employ an incremental training procedure where training patterns are learned systematically. Our algorithm starts with a single training pattern and a single hidden layer neuron. During the course of neural network training, we try to escape from the local minimum by using a weight scaling technique. We allow the network to grow by adding a hidden layer neuron only after several consecutive failed attempts to escape from a local minimum. Our optimization procedure tends to make the network reach the error tolerance with no or little training after the addition of a hidden layer neuron. Simulation results with suitable initial weights indicate that the present constructive algorithm can obtain neural networks very close to minimal structures and that convergence to a solution in neural network training can be guaranteed. We tested these algorithms extensively with small training sets.

• Journal of Biomedical Engineering Research
• /
• v.20 no.6
• /
• pp.555-560
• /
• 1999

간질은 신경세포의 일부가 짧은 시간동안 과도한 전기를 발생시킴으로써 일어나는 신경계의 발작적 증상으로 배경 활동파와는 구별되는 극파, 예파, 예파와 서파를 동반한 극서파 복합(sharp and slow complexes)의 뇌파 특징파를 갖는다. 장시간의 뇌파기록에서 시간의 절약과, 정량화를 위해 컴퓨터를 이용한 간질 파형의 자동 검출은 객관성을 높이고 정량적인 해석을 위해 필수적이다. 본 연구에서는 간질 뇌파를 검출하기 위해 웨이브렛 변환과 신경망을 사용하였다. 웨이브렛 변환은 잡음을 제거하고 간질 뇌파의 특징을 강조하며 신경망의 입력노드수를 줄였다. 전문가에 의해서 분류된 간질특성과 정상뇌파를 신경망에 입력시켜 최적의 신경망구조를 선택하였고, 검출 문턱치를 설정하였다. 신경망은 200ms(26개의 데이터포인트)신호의 웨이브렛 결과와 웨이브렛 변환후 데이터 상의 최대, 최소 기울기가 입력되어 전체 28개의 입력 노드로 구성하였다. 은닉층은 18노드, 문턱치값은 민감도와 선택도가 일치하는 0.65가 사용되었다. 결과로 임상 환자 데이터에 입력되어 78.54% 의 검출률을 보였다.

• Proceedings of the KIEE Conference
• /
• 2009.07a
• /
• pp.1873_1874
• /
• 2009

본 논문에서는 대표적인 시스템 모델링 도구중의 하나인 RBF 뉴럴 네트워크(Radial Basis Function Neural Network)를 설계한다. 제안된 RBF 뉴럴 네트워크는 은닉층의 활성함수로서 Fuzzy C-Means 클러스터링을 사용하며 더 나아가 모델의 최적화를 위해 PSO 알고리즘을 사용하여 은닉층의 노드 수와 다수의 입력을 가질 경우 입력의 종류를 동정한다. 제안한 모델의 성능을 평가하기 위해 NOx 데이터를 적용하였으며 제안된 모델의 근사화와 일반화 능력을 분석한다.

• Proceedings of the Korean Information Science Society Conference
• /
• 2011.06a
• /
• pp.477-479
• /
• 2011

본 논문에서는 1차원 은닉 마코프 모델을 2차원으로 확장하기 위하여 노드들의 마코프 특성이 인과적인 관계를 갖는 마코프 메쉬 모델을 이용하여 완전한 2차원 HMM의 구조를 갖는 모델을 제안한다. 마코프메쉬 모델은 이웃시스템을 통하여 이전의 시점을 정의하고, 인과적인 관계를 통하여 전이확률의 계산을 가능하게 한다. 또한 영상의 최적의 분할을 위하여 계층적 디리슐레 과정을 사전분포로 두어 고정된 상태의 수가 아닌 무한의 상태 수를 갖는 2차원 HMM을 제안한다. HDP로 정의된 사전분포와 관측된 표본 자료의 정보를 갖는 우도함수를 결합한 사후분포의 베이스 추정은 깁스샘플링 알고리즘을 이용하여 계산된다.

• Proceedings of the IEEK Conference
• /
• 2009.05a
• /
• pp.381-383
• /
• 2009

본 논문에서는 대표적인 시스템 모델링 도구중의 하나인 RBF 뉴럴 네트워크(Radial Basis Function Neural Network)를 설계하고 모델을 최적화하기 위하여 최적화 알고리즘인 PSO(Particle Swarm Optimization) 알고리즘을 이용하였다. 즉, 모델의 최적화에 주요한 영향을 미치는 모델의 파라미터들을 PSO 알고리즘을 이용하여 동정한다. 제안된 RBF 뉴럴 네트워크는 은닉층에서의 활성함수로서 일반적으로 많이 사용되어지는 가우시안 커널함수를 사용한다. 더 나아가 모델의 최적화를 위하여 각 커널함수의 중심값은 HCM 클러스터링에 기반을 두어 중심값을 결정하고, PSO 알고리즘을 통하여 가우시안 커널함수의 분포상수, 은닉층에서의 노드 수 그리고 다수의 입력을 가질 경우 입력의 종류를 동정한다. 제안한 모델의 성능을 평가하기 위해 Mackey-Glass 시계열 공정 데이터를 적용하였으며 제안된 모델의 근사화와 일반화 능력을 분석한다.

• The Journal of the Korea institute of electronic communication sciences
• /
• v.15 no.3
• /
• pp.433-438
• /
• 2020

Nodes on a data communication path in a wireless network emit electro-magnetic waves whenever they transmit packets; thus, the path can be exposed and identified with capturing and analyzing a sequence of the signals emitted there. One of countermeasures against a malicious eavesdropper is to let certain nodes mimic the nodes on the data path in sending dummy packets. In this paper we propose a packet transfer protocol which establishes the shortest path between source-destination pair a time and restricts heavy generation of dummy packets. We verify the location-privacy of a node on the communication paths through simulation.

• Journal of KIISE:Software and Applications
• /
• v.29 no.5
• /
• pp.289-294
• /
• 2002

It is known that restructuring feed-forward neural network affects generalization capability and efficiency of the network. In this paper, we introduce a new approach to restructure a neural network using abstraction of the hidden knowledge that the network has teamed. This method involves extracting local rules from non-input nodes and aggregation of the rules into global rule base. The extracted local rules are used for pruning unnecessary connections of local nodes and the aggregation eliminates any possible redundancies arid inconsistencies among local rule-based structures. Final network is generated by the global rule-based structure. Complexity of the final network is much reduced, compared to a fully-connected neural network and generalization capability is improved. Empirical results are also shown.