• 한국통계학회:학술대회논문집
• /
• 한국통계학회 2000년도 추계학술발표회 논문집
• /
• pp.17-22
• /
• 2000

시계열 자료를 분석할 때 쉽게 접근하는 통계적 방법은 ARMA 모형이며 신경망 학습 방법 중에서는 다층 퍼셉트론에서의 Back-propagation 알고리즘이 일반적이다. Back-propagation을 비롯한 신경망 학습의 구조는 자료의 특성에 따라 경험적으로 결정하는 것으로 알려져 있다. 그러나 바로 이 점이 신경망 학습방법의 이용을 어렵게 하는 요인이기도 하다. 본 연구는 ARMA 모형 중 몇 개 유형의 자료에 대하여 Back-propagation 알고리즘을 적용함에 있어 어떠한 구조로 학습하는 것이 효율적인가를 입력층과 은닉층의 크기, 활성화 함수를 중심으로 검토하였다.

• 정보처리학회논문지B
• /
• 제9B권5호
• /
• pp.673-680
• /
• 2002

이 논문은 진화 프로그래밍과 개선된 역전파 알고리즘을 이용한 에지 검출 방법을 제안한다. 진화 프로그래밍은 알고리즘의 성능저하와 계산비용을 고려하여 교차 연산은 수행하지 않고, 선택연산자와 돌연변이 연산자를 사용한다. 개선된 역전파 알고리즘은 학습단계에서 연결강도를 변화시킬 때 이전학습단계의 연결강도를 보조적으로 활용하는 방법이다. 이 개선된 역전파 알고리즘은 학습률 $\alpha$를 작은값으로 설정하기 때문에 각 학습단계에서의 연결강도 변화량이 기존의 방법에 비해 상대적으로 줄어들게 되어 학습이 느려지는 문제점을 해결하였다. 실험결과 학습시간과 검출률에 있어서 GA-BP(GA : Genetic Algorithm BP : Back-Propagation)를 이용한 방법보다 제안한 EP-MBP(EP : Evolutionary Programming, MBP :Momentum Back-Propagation)를 이용하여 학습시킨 방법이 학습시간의 단축과 효율적인 에지 검출 결과를 얻을 수 있었다.

• 정보학연구
• /
• 제5권2호
• /
• pp.55-67
• /
• 2002

본 논문에서는 학습계수를 발생한 오차에 따라서 적응적으로 갱신할 수 있는 학습알고리즘에 은닉 노드의 수를 다양하게 변화시킬 수 있는 적응 역 전파(Back Propagation) 알고리즘을 제안하였다. 제안한 알고리즘은 국소점을 벗어날 수 있는 것으로 기대되고, 수렴환경에 알맞은 은닉 노드의 수를 설정할 수 있다. 모의실험에서는 두 가지의 학습패턴을 가지고 실험하였다. 하나는 X-OR 문제에 대한 학습과 또 다른 하나는 $7{\times}5$ 도트 영문자 폰트에 에 대한 학습이다. 두 모의실험에서 국소 점으로 안주할 확률은 감소하였다. 또한, 영문자 폰트 학습에서의 신경회로망은 기존의 역 전파 알고리즘과 HNAD 알고리즘에 비하여 약 41.56%~58.28%정도 학습효율이 향상됨을 고찰하였다.

• 대한전자공학회논문지TE
• /
• 제39권2호
• /
• pp.66-75
• /
• 2002

본 논문에서는 역전파 신경회로망의 학습능률을 향상시키기 위한 방법으로 발생한 오차에 따라서 학습파라미터와 은닉층의 수를 적응적으로 변경시킬 수 있는 적응 역 전파 학습알고리즘을 제안하였다. 제안한 알고리즘은 역전파 신경회로망이 국소점으로 수렴하는 문제를 해결할 수 있고 최적의 수렴환경을 만들 수 있다. 제안된 알고리즘을 평가하기 위하여 배타적 논리합, 3-패리티 및 7${\times}$5 영문자 폰트의 학습을 이용하였다. 실험결과, 기존에 제안된 알고리즘들에 비하여 국소점에 빠지게 되는 경우가 감소하였고 약 17.6%~64.7%정도 학습능률이 향상하였다.

• 한국정보통신학회:학술대회논문집
• /
• 한국해양정보통신학회 1999년도 춘계종합학술대회
• /
• pp.370-374
• /
• 1999

본 논문에서는 역전파 알고리즘과 헵 학습규칙의 장점을 최대한 살려 이용하고, 역전파 알고리즘의 문제점인 지역 최소점에 빠지는 경우와 학습시간이 느린 단점과 헵 학습규칙의 문제점인 학습 패턴의 저장능력이 매우 제한되고 선형적 분리가 되지 않는 복잡한 문제에는 적용할 수 없다는 단점등을 개선하기 위하여 혼합형 학습규칙을 제안한다. 제안하는 학습규칙은 입력층과 은닉층에 흔합형 학습규칙과 은닉층과 출력층에 역전파(Back-Propagation) 학습규칙을 적용한 혼합형이다. 제안한 혼합형 학습규칙을 이용한 신경회로망의 유용성을 확인하기 위하여 단일관절 매니플레이터를 이용하여 추종제어에 대한 시뮬레이션을 하여 기존의 역전파 알고리즘을 이용한 직접적응 제어 방식과 제어성능을 비교 검토한 결과 다음과 같은 특성을 확인하였다.

• 한국멀티미디어학회:학술대회논문집
• /
• 한국멀티미디어학회 1998년도 추계학술발표논문집
• /
• pp.254-259
• /
• 1998

오늘날 컨테이너의 과다한 물동량 증가로 인하여 수작업으로 이루어지는 컨테이너 식별자를 처리하는데 어려움을 겪고 있는 가운데, 이를 자동으로 인식하고 그 결과를 항만 물류 처리 자동화 시스템에 적용하고자 하는 필요성이 대두되고 있다. 이에 본 논문에서는 컨테이너의 인식 처리를 자동화하기 위한 방안으로 컨테이너의 식별자 인식에 신경망 알고리즘의 하나인 Back-propagation을 적용하였으며, BP 알고리즘을 적용하기 위해서 적절한 scaling 비율을 구하고, 학습 DB를 구축하여 기존의 식별자 인식보다 신속하고 정확한 처리가 가능하도록 구현하였다.

• 한국정보처리학회논문지
• /
• 제5권11호
• /
• pp.3010-3023
• /
• 1998

유전자 알고리즘은 염색체 집단을 이용하는 탐색이므로 전역적인 최적해의 탐색 성능은 우수하여 최적해에 근접한 한점까지의 수렴속도는 빠르지만 탐색 메카니즘이 없기 때문에 최적해 근처의 탐색에서는 수렴 속도가 떨어지는 단점이 있고, 역전파 알고리즘은 개체 수준의 탐색이므로 지역적 미세조정의 탐색능력은 우수하지만 전역적 탐색기능이 없어 지역적 최적해로 수렴하는 경우가 있다. 본 논문에서는 수렴 속도가 향상된 윤곽선 추출을 위하여 유전자와 역전파 알고리즘을 병행해서 실행하는 윤곽선 추출방법을 제안하였다. 윤곽선 추출 방법은 먼저 유전자 알고리즘을 이용하여 최적의 연결강도와 오프셋 값을 계산한다. 다음으로 이 값을 역전파 학습 알고리즘 학습의 파라미터의 초기값으로 한 반복 학습으로 최적의 윤곽선 구조를 추출하였다. 제안된 알고리즘은 유전자 알고리즘 또는 역전파 알고리즘 단독으로 실행한 경우보다 수렴속도가 향상된 결과를 보여 주었다.

• 한국지능시스템학회논문지
• /
• 제5권3호
• /
• pp.83-91
• /
• 1995

본 연구에서는 종래에 학습법으로 널리 이용되고 있는 역전파학습법의 문제점으로 지적되어 온 학습에 많은 시간이 걸리는 점과 국소적 최적해에 해가 수렴하여 오차가 충분히 작게 되지 않는 등의 문제점을 해결하기 위해, Hu에 의해 고안된 random tabu 탐색법을 이용하여 신경회로망의 연결강도를 최적화하는 학습알고리즘을 새로이 제안하였다. 그리고 이 방법을 배타적 논리합 문제에 적용하여 기존의 역전파학습법과 학습상수 $, $에 tabu탐색법을 이용한 결과와 비교 검토하여 본 방법이 국소적 최적해에 수렴하지 않고 수렴정도를 개선할 수 있음을 확인하였다.

• 정보학연구
• /
• 제4권1호
• /
• pp.71-79
• /
• 2001

본 논문에서는 역 전파 신경회로망의 학습파라미터를 발생한 오차에 따라서 유동성 있게 갱신할 수 있고 이 학습알고리즘의 효율을 향상시킬 수 있는 초기연결강도 설정 방법을 제안하였다. 제안한 알고리즘은 국소 점을 벗어날 수 있는 것으로 기대되고, 수렴환경에 알맞은 초기 연결강도 발생을 설정할 수 있다. 모의실험에서는 세 가지의 학습패턴을 가지고 실험하였다. 첫 번째 3-패리티 문제에 대한 학습을 수행하였고, 두 번째는 $7{\times}5$ 알파벳 영문자 폰트에 대한 학습이고 세 번째는 필기체 숫자 및 한글의 기본 획에 적용하였다. 모의실험결과, 제안된 방법은 기존의 표준 역 전파 알고리즘에 비하여 약 27%~57.2%정도 학습효율이 향상됨을 고찰하였다

• 한국차세대컴퓨팅학회논문지
• /
• 제15권2호
• /
• pp.7-16
• /
• 2019

신경 회로망을 구현하기 위해 다양한 시도들이 이루어지고 있으며, 하드웨어적인 개선을 위해 전용 칩 개발이 이루어지고 있다. 이러한 신경 회로망을 웨어러블 디바이스에 적용하기 위해서는 소형화와 저전력 동작이 필수적이다. 이러한 관점에서 적합한 구현 방법은 FPGA (field programmable gate array)를 사용한 디지털 회로 설계이다. 이 시스템을 구현하기 위해서는 성능 향상을 위해 신경 회로망의 많은 부분을 차지하는 학습 알고리즘을 FPGA 내에 구현하여야 한다. 본 논문에서는 FPGA를 이용하여 다양한 학습 알고리즘 중 역전파 알고리즘을 구현하였으며, 구현 된 신경 회로망은 OR 게이트 연산을 통해 검증되었다. 또한 이러한 신경 회로망을 활용하여 다양한 사용자의 생체 신호 측정 결과를 분석할 수 있음을 확인하였다.