• 제목/요약/키워드: Hebbian learning rule

검색결과 13건 처리시간 0.018초

성능개선과 하드웨어구현을 위한 다층구조 양방향연상기억 신경회로망 모델 (A Multi-layer Bidirectional Associative Neural Network with Improved Robust Capability for Hardware Implementation)

  • 정동규;이수영
    • 전자공학회논문지B
    • /
    • 제31B권9호
    • /
    • pp.159-165
    • /
    • 1994
  • In this paper, we propose a multi-layer associative neural network structure suitable for hardware implementaion with the function of performance refinement and improved robutst capability. Unlike other methods which reduce network complexity by putting restrictions on synaptic weithts, we are imposing a requirement of hidden layer neurons for the function. The proposed network has synaptic weights obtainted by Hebbian rule between adjacent layer's memory patterns such as Kosko's BAM. This network can be extended to arbitary multi-layer network trainable with Genetic algorithm for getting hidden layer memory patterns starting with initial random binary patterns. Learning is done to minimize newly defined network error. The newly defined error is composed of the errors at input, hidden, and output layers. After learning, we have bidirectional recall process for performance improvement of the network with one-shot recall. Experimental results carried out on pattern recognition problems demonstrate its performace according to the parameter which represets relative significance of the hidden layer error over the sum of input and output layer errors, show that the proposed model has much better performance than that of Kosko's bidirectional associative memory (BAM), and show the performance increment due to the bidirectionality in recall process.

  • PDF

Hebb의 학습 법칙과 화소당 가중치 최소화 기법에 의한 적응학습 및 그의 전기광학적 구현 (Adaptive Learning Based on Bit-Significance Optimization with Hebbian Learning Rule and Its Electro-Optic Implementation)

  • 이수영;심창섭;고상호;장주석;신상영
    • 대한전자공학회논문지
    • /
    • 제26권6호
    • /
    • pp.108-114
    • /
    • 1989
  • Hopfield 모델에 화소당 가주치를 도입하고 이를 최적화하여, 서로간에 상관관계가 높은 "0"에서 "9"까지의 10가지 숫자를 성공적으로 기억, 재생시킬 수 있는 $6{}8$ nodes 연상기억 시스템을 소개한다. 다른 많은 신경회로와는 달리, 이 모델은 "6","8","3","9"와 같이 상관관계가 매우 큰 영상에 대해서도 높은 오차 교정 능력을 가짐을 볼 수 있다. 화소당 가중치의 최적화 무제는 최소자승평균 오차 알고리듬에 기초한 적응학습 과정으로 볼 수 있으며, 이는 또한 Widrow-Hoff 신경회로로 구현 할 수 있다. 가중치 최적화 회로의 전기 . 광학적 구현을 위한 설계도 소개한다.

  • PDF

셀룰라 신경회로망의 연상메모리를 이용한 영상 패턴의 분류 및 인식방법 (Image Pattern Classification and Recognition by Using the Associative Memory with Cellular Neural Networks)

  • 신윤철;박용훈;강훈
    • 한국지능시스템학회논문지
    • /
    • 제13권2호
    • /
    • pp.154-162
    • /
    • 2003
  • 셀룰라 신경회로망의 연상 메모리를 이용하여 시각적인 입력 데이터의 연산을 통하여 영상 패턴의 분류와 인식을 수행한다. 셀룰라 신경회로망은 일반적인 신경회로망과 같이 비선형 데이터의 실시간 처리가 가능하고, 세포자동자와 같이 이 격자구조의 셀로 이루어져 인접한 셀과 직접 정보를 주고받는다. 응용 분야로는 최적화, 선형/비선형화, 연상 메모리, 패턴인식, 컴퓨터 비전 등에 적용할 수 있다. 영상의 이미지 픽셀을 셀룰라 신경회로망의 셀에 대응하여 전체 이미지 영상을 모든 셀룰라 신경회로망의 셀에서 동시에 병렬로 처리할 수 있어 2-D 이미지 처리에 적합하다. 본 논문은 셀룰라 신경회로망에 의한 연상 메모리 구조를 설계하고, 학습된 하중값 메모리에서 가장 적당한 하중값을 선택하여 학습된 영상과 정확히 일치하는 출력을 얻는 방법을 제시한다. 학습을 통한 연상 메모리 구현에는 각각의 뉴런에서 일정하지 않은 다른 템플릿을 사용한다. 각각의 템플릿은 뉴런들 간의 연결 하중값을 나타내고 학습에 따라 갱신된다. 학습방법으로는 템플릿 하중값 학습에 뉴런들 간의 연결 하중값을 조정하는 가장 단순한 규칙인 Hebb의 학습방법이 사용되었고 분류값 학습에 LMS 알고리즘이 사용되었다.