• 제목/요약/키워드: Weightless Neural Network

검색결과 5건 처리시간 0.018초

RAM 기반 신경망을 이용한 필기체 숫자 분류 연구 (A Study on Handwritten Digit Categorization of RAM-based Neural Network)

  • 박상무;강만모;엄성훈
    • 한국인터넷방송통신학회논문지
    • /
    • 제12권3호
    • /
    • pp.201-207
    • /
    • 2012
  • RAM 기반 신경망은 2진 신경망(Binary Neural Network, BNN)에 복수개의 정보 저장 비트를 두어 교육의 반복 횟수를 누적하도록 구성된 가중치를 가지지 않는(weightless) 신경회로망으로서 한 번의 교육만으로 학습이 이루어지는 효율성이 뛰어난 신경회로망이다. 지도 학습에 기반을 둔 RAM 기반 신경망은 패턴 인식 분야에는 우수한 성능을 보이는 반면, 비지도 학습에 의해 패턴을 구분해야 하는 범주화 연구에는 적합하지 않은 모델로 분류된다. 본 논문에서는 비지도 학습 알고리즘을 제안하여 RAM 기반 신경망으로 패턴 범주화를 수행한다. 제안된 비지도 학습 알고리즘에 의해 RAM 기반 신경망은 입력 패턴에 따라 자율 학습하여 스스로 범주를 생성할 수 있으며, 이를 통해 RAM 기반 신경망이 지도 학습과 비지도 학습이 모두 가능한 복합 모델임을 증명한다. 실험에 사용한 학습 패턴으로는 0에서 9까지의 오프라인 필기체 숫자로 구성된 MNIST 데이터베이스를 사용하였다.

RAM을 이용한 경험유관축적 신경망 모델 (Experience Sensitive Cumulative Neural Network Using RAM)

  • 김성진;권영철;이수동
    • 전자공학회논문지CI
    • /
    • 제41권2호
    • /
    • pp.95-102
    • /
    • 2004
  • 제안된 경험 유관 축적 신경회로망은 입력 패턴의 교육 회수를 누적시킬 수 있는 구조를 가지고 있어, 누적된 교육을 통한 공통된 경험에 대해서는 강한 반응을 보이는 주의 집중 기능을 가진다. 그리고 잡음이 많은 패턴에 대하여 선행처리 과정을 거치지 않고 바로 교육을 시켜도 상대적으로 유용한 정보를 누적시켜 일반화 패턴을 추출할 수 있다 본 논문에서는 추가 교육 뿐만 아니라 반복 교육도 가능한 경험 유관 축적 신경회로망 모델을 제안하고, 이 신경회로망이 가지는 기본 특성인 망각 및 주의 집중기능에 대하여 기술하였으며, 또한 교육된 정보로부터 일반화 패턴의 추출 과정과 일반화 패턴의 생성 및 반복교육에 관한 것을 기술하였다.

다중 판별자를 가지는 동적 삼차원 뉴로 시스템 (A Dynamic Three Dimensional Neuro System with Multi-Discriminator)

  • 김성진;이동형;이수동
    • 한국정보과학회논문지:소프트웨어및응용
    • /
    • 제34권7호
    • /
    • pp.585-594
    • /
    • 2007
  • 오류역전파 방법을 이용하는 신경망들은 패턴들의 학습시간이 매우 오래 걸리고 또한 추가학습과 반복학습의 한계를 가지며, 이런 단점을 보완할 수 있는 이진신경망(Binary Neural Network, BNN)이 Aleksander에 의해 제안되었다. 그러나 BNN도 반복학습에 있어서는 단점을 가지고 있으며, 일반화 패턴을 추출하기 어렵다. 본 논문에서는 BNN의 구조를 개선하여 반복학습과 추가학습이 가능할 뿐 아니라, 특징점들까지 추출할 수 있는 다중 판별자를 가지는 삼차원 뉴로 시스템을 제안한다. 제안된 모델은 기존의 BNN을 기반으로 하여 만들어진 이차원 특징을 가지는 Single Layer Network(SLN)에 귀환회로가 추가되어 특징점들을 누적할 수 있는 삼차원 신경망이다. 학습을 통해 누적된 정보는 판별자의 각 신경세포에 임계치를 조정함으로써 일반화 패턴을 추출할 수 있다. 그리고 생성된 일반화 패턴을 인식에 재사용함으로써 반복학습의 효율성을 높였다. 최종 판정 단계에서는 Maximum Response Detector(MRD)를 이용하였다. 본 논문에서 제안한 시스템을 평가하기 위하여 NIST에서 제공하는 숫자 자료를 이용하였으며, 99.3%의 인식률을 얻었다.

RAM 기반 신경망의 비지도 학습에 관한 연구 (A Study on Unsupervised Learning Method of RAM-based Neural Net)

  • 박상무;김성진;이동형;이수동;옥철영
    • 한국컴퓨터정보학회논문지
    • /
    • 제16권1호
    • /
    • pp.31-38
    • /
    • 2011
  • RAM 기반 3-D 신경망은 2진 신경망(Binary Neural Network, BNN)에 복수개의 정보 저장 비트를 두어 교육의 반복 횟수를 누적하도록 구성된 가중치를 가지지 않는 신경회로망으로서 한 번의 교육만으로 학습이 이루어지는 효율성이 뛰어난 신경회로망이다. MRD(Maximum Response Detector) 기법을 이용한 3-D 신경망의 인식 방법은 지도 학습에 기반을 둔 것으로서 학습을 통해 신경망 스스로가 범주를 구분할 수 없으며 잘 구분된 범주의 학습 데이터를 통해서만 성능을 발휘할 수 있다. 본 논문에서는 기존 3-D 신경 회로망에 학습 데이터의 구분 없이 신경망 자체가 입력 패턴에 따라 학습하여 범주를 구분하는 비지도 학습 알고리즘을 제안한다. 제안된 비지도 학습 알고리즘에 의해 신경회로망은 판별자의 수를 스스로 조절할 수 있는 구조를 가지게 되며 이는 망의 유연한 확장성을 보장한다. 0에서 9까지의 다중 패턴으로 구성된 오프라인 필기체 숫자를 무작위로 추출하여 학습 패턴으로 인식 실험을 수행하였으며 실험을 통해 신경망이 스스로 비지도 학습에 의해 판별자의 수를 결정하게 되며 이것은 신경망이 각각의 필기체 숫자에 대한 개념을 가지게 되는 것으로 해석할 수 있다.

순차 램 기반 누적 신경망을 이용한 수화 인식 (Sign Language recognition Using Sequential Ram-based Cumulative Neural Networks)

  • 이동형;강만모;김영기;이수동
    • 한국인터넷방송통신학회논문지
    • /
    • 제9권5호
    • /
    • pp.205-211
    • /
    • 2009
  • 가중치가 없는 램 기반 신경망은 가중치를 재조정하는 기존 신경망에 비해 계산량 및 인식 시간이 적은 장점을 가지고 있다. 특히 연속적인 연관성을 갖는 제스처와 같은 행위 정보는 각각의 정보들이 시계열적 상관관계를 갖는다. 이와 같은 행위 정보를 인식하려면 일반적으로 많은 계산량과 처리 시간이 요구된다. 이런 문제점을 해결하기 위해 일반적으로 전처리 과정의 삽입 및 하드웨어 인터페이스 활용 등을 이용한다. 본 논문에서는 이와 같은 추가적인 방법 없이 순차 램 기반 누적 신경망으로 연속적인 행위 정보인 한글 복합어 수화 인식 시스템을 구현하였다. 제안된 모델의 성능을 검증하기 위하여 카메라로부터 입력받은 연속적인 복합어 수화 영상을 최소한의 이미지 처리인 경계선 검출만으로 수화 인식을 실험하였다. 경계선 검출 후 이진 영상을 전처리 과정 없이 제안된 순차 램 기반 누적 신경망 시스템으로 처리된 결과는 93%의 인식률을 얻었다.

  • PDF