• 한국멀티미디어학회논문지
• /
• 제6권5호
• /
• pp.788-796
• /
• 2003

본 논문에서는 순차적 학습 방법에서의 동적 모멘트를 제안한다. 동적 모멘트에서의 가변적인 모멘트를 이용하여 수렴 속도와 학습 성능을 향상시키며 회귀율에서도 이를 확인할 수 있다 제안된 학습 방법은 기존의 정적모멘트와는 달리 수렴 정도에 따라 현재의 학습에 과거의 학습률을 달리 반영하는 방법이다. 기존의 정적 상수로 정의된 모멘트가 전체 학습에 동등하게 영향을 주는 반면 제안된 동적모멘트를 이용한 학습 방법은 학습 수행에 따라 동적으로 모멘트를 변경함으로써 수렴 속도와 학습 성능을 효과적으로 제어할 수 있다. 이전의 분류문제와 회귀문제의 분리확인과는 달리 본 논문에서는 제안된 동적모멘트의 성능과 회귀율을 동시에 확인한다. 본 논문에서 사용한 회귀방법은 RMS 오류율을 사용하였으며 제안된 학습방법인 동적모멘트를 SVM(Support Vector Machine)의 순차 학습방법인 KA(Kernel Adatron)과 KR(Kernel Relaxation)에 적용하여 RMS 오류율을 확인하였다. 공정한 학습 성능 평가를 위해 신경망 분류기표준평가데이터인 SONAR 데이터를 이용하였으며 실험 결과 동적모멘트를 이용한 학습 성능과 수렴 속도 및 RMS 오류율이 정적모멘트를 이용한 학습방법보다 향상되었음을 확인하였다.

• 전자공학회논문지B
• /
• 제32B권3호
• /
• pp.503-511
• /
• 1995

A batch-mode algorithm is proposed to increase the speed of learning in the error backpropagation algorithm with variable learning rate and variable momentum parameters in classification problems. The objective function is normalized with respect to the number of patterns and output nodes. Also the gradient of the objective function is normalized in updating the connection weights to increase the effect of its backpropagated error. The learning rate and momentum parameters are determined from a function of the gradient norm and the number of weights. The learning rate depends on the square rott of the gradient norm while the momentum parameters depend on the gradient norm. In the two typical classification problems, simulation results demonstrate the effectiveness of the proposed algorithm.

• 정보처리학회논문지B
• /
• 제9B권6호
• /
• pp.735-744
• /
• 2002

본 논문에서는 커널완화법과 동적모멘트를 이용한 support vector machines의 학습성능 개선을 제안하였다. 제안된 학습 방법은 기존의 정적모멘트와는 달리 수렴 정도에 따라 현재의 학습에 과거의 학습 속성을 반영하는 동적모멘트 방법이다. 기존의 정적 상수로 정의된 모멘트가 전체 학습에 동등하게 영향을 주는 반면 제안된 동적모멘트를 이용한 학습방법은 학습 수행에 따라 동적으로 모멘트를 변경함으로써 수렴속도와 학습 성능을 효과적으로 제어할 수 있다. 제안된 학습법을 support vector machine의 새로운 순차 학습 방법인 커널완화법에 적용하였다. 신경망 분류기 표준 평가 데이터인 SONAR 데이터를 이용하여 실험한 곁과 동적모멘트를 이용한 방법이 수렴속도와 학습 성능면에서 기존의 커널완화법과 정적모멘트를 이용한 학습법에 비해 향상된 성능을 보이는 것을 확인하였다.

• 센서학회지
• /
• 제8권1호
• /
• pp.45-52
• /
• 1999

이 논문에서는 오차 역전파 학습 알고리듬의 학습 속도를 향상시키기 위한 새로운 학습 방법을 제안한다. 제안하고자 하는 방법은 시그모이드 형태를 갖는 신경회로망의 활성화 함수(activation function) 자체에 고차항(higher order)을 적절히 이용하여 초기 학습 단계에서 발생할 수 있는 조기 포화(premature saturation) 현상을 계산량의 큰 증가 없이 효과적으로 대처할 수 있다. 고차항을 이용함으로써 은닉층 활성화 함수의 도합수가 작은 값으로 감소함에 따라 신경망의 연결 강도를 학습시키는 학습율은 적응적으로 큰 값을 갖게 된다. 또한, 은닉층에 고차항을 이용하는 제안한 방법에 모멘텀(momentum) 학습 알고리듬을 결합하는 새로운 hybrid 학습 방법을 제안한다. 컴퓨터 모의 실험을 통해 제안하고자 하는 학습 방법과 기존의 방법들과의 학습 속도 성능을 비교한다.

• 정보처리학회논문지B
• /
• 제9B권5호
• /
• pp.673-680
• /
• 2002

이 논문은 진화 프로그래밍과 개선된 역전파 알고리즘을 이용한 에지 검출 방법을 제안한다. 진화 프로그래밍은 알고리즘의 성능저하와 계산비용을 고려하여 교차 연산은 수행하지 않고, 선택연산자와 돌연변이 연산자를 사용한다. 개선된 역전파 알고리즘은 학습단계에서 연결강도를 변화시킬 때 이전학습단계의 연결강도를 보조적으로 활용하는 방법이다. 이 개선된 역전파 알고리즘은 학습률 $\alpha$를 작은값으로 설정하기 때문에 각 학습단계에서의 연결강도 변화량이 기존의 방법에 비해 상대적으로 줄어들게 되어 학습이 느려지는 문제점을 해결하였다. 실험결과 학습시간과 검출률에 있어서 GA-BP(GA : Genetic Algorithm BP : Back-Propagation)를 이용한 방법보다 제안한 EP-MBP(EP : Evolutionary Programming, MBP :Momentum Back-Propagation)를 이용하여 학습시킨 방법이 학습시간의 단축과 효율적인 에지 검출 결과를 얻을 수 있었다.

• 한국산업융합학회 논문집
• /
• 제3권4호
• /
• pp.361-367
• /
• 2000

This paper proposes an efficient feature extraction of the image data using nonlinear principal component analysis neural networks of a new learning algorithm. The proposed method is a learning algorithm with momentum for reflecting the past trends. It is to get the better performance by restraining an oscillation due to converge the global optimum. The proposed algorithm has been applied to the cancer image of $256{\times}256$ pixels and the coin image of $128{\times}128$ pixels respectively. The simulation results show that the proposed algorithm has better performances of the convergence and the nonlinear feature extraction, in comparison with those using the backpropagation and the conventional nonlinear PCA neural networks.

• 한국산학기술학회:학술대회논문집
• /
• 한국산학기술학회 2003년도 Proceeding
• /
• pp.84-87
• /
• 2003

This paper proposes the enhanced REF network, which arbitrates learning rate and momentum dynamically by using the fuzzy system, to arbitrate the connected weight effectively between the middle layer of REF network and the output layer of REF network. ART2 is applied to as the learning structure between the input layer and the middle layer and the proposed auto-turning method of arbitrating the learning rate as the method of arbitrating the connected weight between the middle layer and the output layer. The enhancement of proposed method in terms of learning speed and convergence is verified as a result of comparing it with the conventional delta-bar-delta algorithm and the REF network on the basis of the ART2 to evaluate the efficiency of learning of the proposed method.

• 한국과학교육학회지
• /
• 제12권1호
• /
• pp.11-21
• /
• 1992

This study tried to find out the effect to types of test items upon the momentum effect. The previous studies showed that the momentum effect is influenced by stduents' congnitive levels and the abstractness of test items. In this study focused on the types of test items The test items are divided into 4 different types of quantitative and qualitative, verbal and image. The result showed that qualitative items showed a longer momentum effect than quantitative ones. The image items and verbal items did not show significant difference in the duration of momentum effect. The interpretation of this would need a careful psychological analysis. Anyhow, this result reconfirmed the existence of the momentum effect and showed that the study on the momentum effect could be a Significant research paradigm.

• 디지털융복합연구
• /
• 제20권4호
• /
• pp.389-396
• /
• 2022

딥러닝(Deep Learning)은 퍼셉트론을 기반으로 하고 있으며 현재에는 이미지 인식, 음성 인식, 객체 검출 및 약물 개발 등과 같은 다양한 영역에서 사용되고 있다. 이에 따라 학습 알고리즘이 다양하게 제안되었고 신경망을 구성하는 뉴런수도 연구자마다 많은 차이를 보이고 있다. 본 연구는 현재 대표적으로 사용되고 있는 확률적 경사하강법(SGD), 모멘텀법(Momentum), AdaGrad, RMSProp 및 Adam법의 뉴런수에 따른 학습 특성을 분석하였다. 이를 위하여 1개의 입력층, 3개의 은닉층, 1개의 출력층으로 신경망을 구성하였고 활성화함수는 ReLU, 손실 함수는 교차 엔트로피 오차(CEE)를 적용하였고 실험 데이터셋은 MNIST를 사용하였다. 그 결과 뉴런수는 100~300개, 알고리즘은 Adam, 학습횟수(iteraction)는 200회가 딥러닝 학습에서 가장 효율적일 것으로 결론을 내렸다. 이러한 연구는 향후 새로운 학습 데이터가 주어졌을 경우 개발될 알고리즘과 뉴런수의 기준치에 함의를 제공할 것이다.

• 한국정보통신학회논문지
• /
• 제12권9호
• /
• pp.1682-1688
• /
• 2008

CP(Counterpropagation) 알고리즘은 Kohonen의 경쟁 네트워크와 Grossberg의 아웃스타(Outstar) 구조의 결합으로 이루어진 것으로 패턴 매칭, 패턴 분류, 통계적인 분석 및 데이터 압축 등 활용분야가 다양하고, 다른 신경망 모델에 비해 학습이 매우 빠르다는 장점이 있다. 그러나 CP 알고리즘은 충분한 경쟁층의 수가 설정되지 않아 경쟁층에서 학습이 불안정하고, 다양한 패턴으로 구성된 경우에는 패턴들을 정확히 분류할 수 없는 경우가 발생한다. 그리고 CP 알고리즘은 출력층에서 연결 강도를 조정할 때, 학습률에 따라 학습 및 인식 성능이 좌우된다. 본 논문에서는 효과적인 패턴인식을 위해 다수 경쟁층을 설정하고, 입력 벡터와 승자 뉴런의 대표 벡터간의 차이와 승자 뉴런의 빈도수를 학습률 조정에 반영하고 학습률을 동적으로 조정하여 경쟁층에서 안정적으로 학습되도록 하고, 출력층의 연결강도를 조정할 때 모멘텀(Momentum) 방법을 적용한다. 제안된 CP 학습 성능을 확인하기 위해서 실제 여권에서 추출된 개별 코드를 대상으로 실험한 결과, 개선된 CP 알고리즘이 기존의 CP 알고리즘보다 학습 성능, 분류의 정확성 및 인식 성능이 개선된 것을 확인하였다.