• Journal of the Korean Institute of Intelligent Systems
• /
• v.6 no.4
• /
• pp.39-48
• /
• 1996

비선형 동적 시스템을 제어하기에 적합한 귀환 신경망에 대한 연구는 안정성(stability) 유도와 학습 알고리듬(learning algorithm) 개발의 두가지 방향으로 지금까지 많은 연구가 이루어져 왔다. 본 논문에서는 비선형 동적 시스템 제어시 온라인(on-line) 학습이 가능하고 안정성을 보장하도록 귀환 신경망의 학습 알고리듬에 VSS이론을 도입하여 개발한다. 또한 개발한 학습 알고리듬을 사용한 귀환 신경망을 전형적인 비선형 동적 시스템인 로보트 매니퓰레이터의 제어 시스템에 적용하고 기존의 학습 방법의 적용 결과와 비교하여 개발한 제어 알고리듬의 효용성을 입증한다.

• The KIPS Transactions:PartB
• /
• v.8B no.4
• /
• pp.327-334
• /
• 2001

본 논문에서는 기울기하강과 동적터널링이 조합된 학습알고리즘의 다층신경망을 이용한 고신회성의 회귀분석 모델을 제안하였다. 기울기하강은 빠른 수렴속도의 최적화가 가능하도록 하기 위함이고, 동적터널링은 국소최적해를 만났을 때 이를 벗어난 새로운 연결가중치를 설정하여 전역최적해로 수렴되도록 하기 위함이다. 또한 대용량의 입력 데이터를 통계적으로 독립인 특징들의 집합으로 변환시키는 주요성분분석 기법의 속성을 살려 학습데이터의 차원을 감소시킴으로서 고차원의 학습데이터에 따른 회귀분석 모델의 제약도 동시에 해결하였다. 제안된 기법의 신경망을 3개의 독립변수 패턴을 가진 암모니아 제조공정문제와 10개의 독립변수 패턴을 가진 자동차 연비문제에 각각 적용하여 시뮬레이션한 결과, 기존의 역전과 알고리즘의 신경망이나 주요성분분석에 의한 차원을 감소시키지 않은 학습패턴을 이용한 신경망보다 각각 더욱 우수한 학습성능과 회귀성능이 있음을 확인할 수 있었다. 또한 학습패턴의 영평균 정규화로 회귀용 신경망의 성능을 더욱 더 개선하였다.

• Journal of the Institute of Convergence Signal Processing
• /
• v.4 no.3
• /
• pp.41-48
• /
• 2003

This paper presents an indirect adaptive neuro controller using modified chaotic neural networks(MCNN) for nonlinear dynamic system. A modified chaotic neural networks model is presented for simplifying the traditional chaotic neural networks and enforcing dynamic characteristics. A new Dynamic Backpropagation learning method is also developed. The proposed MCNN paradigm is applied to the system identification of a MIMO system and the indirect adaptive neuro controller. The simulation results show good performances, since the MCNN has robust adaptability to nonlinear dynamic system.

• Proceedings of the Korea Institute of Convergence Signal Processing
• /
• 2000.08a
• /
• pp.153-156
• /
• 2000

본문에서는 예측형 회귀신경망과 HMM의 하이브리드 네트워크인 회귀신경망 예측 HMM을 구성하였다. 회귀신경망 예측 HMM은 예측형 회귀신경망을 HMM의 각 상태마다 예측기로 정의하여 일정치인 평균벡터 대신에 과거의 특징벡터의 영향을 받아 동적으로 변화하는 신경망에 의한 예측치를 이용하므로 학습패턴 설정자체가 시변성을 반영하는 동적 네트워크의 특성을 가진다. 따라서 음성과 같은 시계열 패턴의 인식에 유리하다. 회귀신경망 예측 HMM은 예측형 회귀신경망의 구조에 따라 Elman망 예측 HMM과 Jordan망 예측 HMM으로 구분하였다. 실험에서는 회귀신경망 예측 HMM의 상태수를 4, 5, 6으로 증가시켜 각 상태 수별로 예측차수 및 중간층 유니트 수의 변화에 따른 인식성능을 조사하였다. 실험결과 평가용. 데이터에 대하여 Elman망예측 HMM은 상태수가 6이고, 예측차수가 3차, 중간층 유니트의 수가 15차원일 때, Jordan망 예측 HMM의 경우 상태수가 5이고, 예측차수가 3차, 중간층 유니트의 수가 10차원일 때 각각 99.5%로 우수한 결과를 얻었다.

• Journal of the Korean Institute of Intelligent Systems
• /
• v.7 no.4
• /
• pp.65-73
• /
• 1997

This paper proposes a new method of the structure pruning of dynamic recurrent neural networks (DRNN) using evolutionary computations. In general, evolutionary computations are population-based search methods, therefore it is very useful when several different properties of neural networks need to be optimized. In order to prune the structure of the DRNN in this paper, we used the evolutionary programming that searches the structure and weight of the DRNN and evolution strategies which train the weight of neuron and pruned the net structure. An addition or elimination of the hidden-layer's node of the DRNN is decided by mutation probability. Its strategy is as follows, the node which has mhnimum sum of input weights is eliminated and a node is added by predesignated probability function. In this case, the weight is connected to the other nodes according to the probability in all cases which can in- 11:ract to the other nodes. The proposed pruning scheme is exemplified on the stabilization and position control of the inverted-pendulum system and visual servoing of a robot manipulator and the effc: ctiveness of the proposed method is demonstrated by numerical simulations.

• Journal of KIISE:Software and Applications
• /
• v.29 no.6
• /
• pp.386-395
• /
• 2002

In this paper, we suggest dynamic genetic tree-maps(DGTM) using optimal features on recognizing data. The DGTM uses the genetic algorithm about the importance of features rarely considerable on conventional neural networks and introduces GTM(genetic tree-maps) using tree structure according of the priority of features. Hence, we propose the extended formula, DGTM(dynamic GTM) has dynamic functions to separate and merge the neuron of neural network along the similarity of features.

• Journal of Korea Multimedia Society
• /
• v.12 no.2
• /
• pp.290-299
• /
• 2009

Evolutionary Artificial Neural Networks (EANNs) has been highly effective in Artificial Intelligence (AI) and in training NPCs in video games. When EANNs is applied to design game NPCs' smart AI which can make the game more interesting, there always comes two important problems: the more complex situation NPCs are in, the more complex structure of neural networks needed which leads to large operation cost. In this paper, the Dynamic State Evolutionary Neural Networks (DSENNs) is proposed based on EANNs which deletes or fixes the connection of the neurons to reduce the operation cost in evolution and evaluation process. Darwin Platform is chosen as our test bed to show its efficiency: Darwin offers the competitive team game playing behaviors by teams of virtual football game players.

• The KIPS Transactions:PartB
• /
• v.8B no.2
• /
• pp.130-136
• /
• 2001

본 논문에서는 새로운 학습알고리즘의 비선형 주요성분분석 신경망을 이용한 영상데이터의 효율적인 특징추출에 대하여 제안한다. 제안된 학습알고리즘에서는 최적해로 수렴하는 과정에서 발생할 수도 있는 진동을 억제하여 빠른 속도의 수렴이 가능하도록 하기 위해 모멘트를 이용하였고, 국소최적해를 만났을 때 이를 벗어난 전역최적해로의 수렴을 위한 새로운 연결가중치의 설정을 위하여 동적터널링을 이용함으로써 빠른 수렴속도로 전역최적해에 수렴되도록 학습시킬 수 있다. 제안된 학습알고리즘을 이용한 신경망을 256$\times$256 픽셀의 간암영상과 128$\times$128 픽셀의 얼굴영상을 대상으로 실험한 결과, 기울기하강의 학습알고리즘을 이용한 기존 비선형 주요성분분석 신경망보다 우수한 수렴성능과 특징추출성능이 있음을 확인 할 수 있었다.

• Proceedings of the Korea Information Processing Society Conference
• /
• 2006.11a
• /
• pp.35-38
• /
• 2006

다층 퍼셉트론(MLP) 학습 이론인 오류 역전파 알고리즘은 델타룰과 최급 하강법을 사용하기 때문에 학습시 많은 시간이 소요된다는 단점을 가지고 있다. 때문에 신경망에서의 잘못된 초기 가중치 선택은 오류 역전파 알고리즘을 사용하는 신경망에서의 현격한 학습 성능저하를 발생시키게 된다. 본 논문에서는 학습시 오류 역전파 알고리즘의 수렴시간을 개선하기 위한 신경망의 동적 초기 가중치 선택 알고리즘을 제안한다. 이 알고리즘은 학습전 기존의 선택 가중치와 모든 가중치가 1.0 또는 -1.0 값을 가지는 가중치 집합에서 가중치 변동률을 선측정하여 이들 중 가장 변동률이 큰 경우를 초기 가중치 집합으로 선정하게 된다. 즉, 초기의 가중치 변동률을 차후 성능을 판단하는 지표로 사용하여 잘못된 가중치 선택으로 인한 최악의 학습효율의 가능성을 배제시키고 다층 신경망의 학습특성상 평균 이상의 학습효율을 보장하는 초기 가중치 선택방법이다.

• Proceedings of the Korea Water Resources Association Conference
• /
• 2010.05a
• /
• pp.779-783
• /
• 2010

최근 들어 그 심각성을 더하고 있는 이상기후 현상으로 가용 수자원의 변동이 커지고 있으며, 이에 따라 수자원의 효율적인 운영이 요구되고 있다. 그러나 효율적인 운영을 위해서는 미래 유입량의 불확실성의 고려하고, 홍수 조절용량의 확보하면서도, 용수공급을 위한 저수량을 확보하고, 수력 발전을 해야 하는 복잡한 상황을 모두 고려하여야한다. 이러한 복잡한 시스템에서 하나의 최적화 기법으로는 모든 고려사항들을 만족시키는 최적해를 찾는 것은 사실상 불가능에 가깝다. 그러므로 저수지 운영의 최적화를 위한 연구에서 한 가지 이상의 기법을 조합하는 기법을 사용하게 되었다. 이러한 기법은 각 기법의 장점을 취하고 각각의 한계를 극복하기 위해 주로 사용되었다. 본 연구에서는 저수지 운영 최적화를 모의하기 위하여 대청댐에서의 저수위, 유입량, 용수이용량 등을 고려하여 방류량의 예측을 동적 계획법(Dynamic Programming Model)으로부터 동적 신경망(Dynamic Neural Network Model)과 적응 퍼지 제어기법(Adaptive Neuro-Fuzzy Inference System)을 개발하여 실제 방류량과 세 가지 최적화 방법에 의한 결과를 비교 검정하였다. 본 연구의 수행으로 인해 얻어진 결과를 요약하면 다음과 같다. 첫째, 동적 신경망과 적응 퍼지 제어기법에 의한 최적화 모의가 동적 계획법에 비해 시스템의 구축이 쉽고 유연하다. 둘째, 퍼지추론의 Membership 함수의 구축에 따라 단시간에 많은 양의 강우가 발생하는 국지성 강우에 대해서도 최적 방류량을 예측할 수 있다. 셋째, 저수지 운영 과거자료의 부족과 불확실성을 해결하면, 보다 용이하고 양호한 예측결과를 얻을 수 있을 것이다.