이진화된 결합하중을 갖는 순환결합형 신경회로망의 동적 상태천이 해석

Analysis of Dynamical State Transition of Cyclic Connection Neural Networks with Binary Synaptic Weights

신경회로망을 동적 정보처리에 응용하기 위해서는 비대칭 결합 신경회로망에서 생성되는 동적 상태천이에 관한 직관적 이해가 필요하다. 본 논문에서는 각 뉴런이 최근접 뉴런에만 이진화된 결합하중 +1 및 -1로 연결된 순환결합형 신경회로망의 동적인 상태천이 특성을 해석하였다. 상태천이 해석 알고리즘을 이용한 시뮬레이션 결과, 네트워크는 고정점, 베이슨을 갖는 리미트사이클 및 베이슨이 없는 리미트사이클의 3가지 어트랙터를 가진다. 또한, 네트워크에서 생성되는 리미트사이클의 수와 주기를 이론적으로 해석하여 정식화하고, 리미트사이클을 구성하는 상태벡터의 필요조건을 나타내었다. 이론 해석의 결과는 네트워크에서 생성되는 리미트사이클의 수가 뉴런(소자)의 수 n에 대해서 지수 함수적으로 증가함을 보여준다. 따라서 순환 결합형 신경회로망은 많은 동적 정보를 저장할 수 있는 메모리 시스템으로 이용할 수 있다.

The intuitive understanding of the dynamic pattern generation in asymmetric networks may be useful for developing models of dynamic information processing. In this paper, dynamic behavior of the cyclic connection neural network, in which each neuron is connected only to its nearest neurons with binary synaptic weights of $\pm$ 1, has been investigated. Simulation results show that dynamic behavior of the network can be classified into only three categories: fixed points, limit cycles with basin and limit cycles with no basin. Furthermore, the number and the type of limit cycles generated by the networks have been derived through analytical method. The sufficient conditions for a state vector of $n$-neuron network to produce a limit cycle of $n$- or 2$n$-period are also given. The results show that the estimated number of limit cycles is an exponential function of $n$. On the basis of this study, cyclic connection neural network may be capable of storing a large number of dynamic information.