• 한국정보통신학회논문지
• /
• 제11권7호
• /
• pp.1387-1393
• /
• 2007

기존의 단층 퍼셉트론은 출력 노드가 선형 분리 가능한 패턴들만을 분류할 수 있고 XOR과 같은 비선형 문제에 대해서는 분류할 수 없는 단점이 있다. 퍼지 단층 퍼셉트론은 퍼지 소속 함수(Fuzzy Membership Function)를 적용하여 단층 구조로 XOR 문제와 같은 고전적인 문제를 개선하였다. 그러나 퍼지 단층 퍼셉트론은 기존의 단층 퍼셉트론과 마찬가지로 결정 경계선이 진동하는 경우가 생기며 초기 가중치의 범위와 학습률에 따라 수렴성이 매우 낮아지는 단점이 있다. 따라서 본 논문에서는 바이어스항을 도입하여 결정 경계선이 진동하는 것을 방지하여 수렴성을 개선시키고 선형 활성화 함수를 제안하고 학습률과 모멘텀 개념을 도입 한 개선된 델타규칙을 적용함으로써 학습 시간을 단축시키는 개선된 퍼지 단층 퍼셉트론 알고리즘을 제안한다. 제안된 방법과 퍼지 단층 퍼셉트론간의 학습 성능을 분석하기 위하여 인공 신경망에서 벤치마크로 사용되는 XOR 문제와 패턴 분류에 적용하여 Epoch 수와 수렴성을 비교한 결과, 제안된 방법이 기존의 퍼지 단층 퍼셉트론보다 학습 시간이 적게 소요되고 수렴성이 개선된 것을 확인하였다.

• 한국컴퓨터정보학회논문지
• /
• 제10권5호
• /
• pp.11-16
• /
• 2005

최근에 퍼지 이론을 인공 신경망에 접목하여 개선된 성능을 보이려는 경향이 많다. Goh는 퍼지단층 퍼셉트론 알고리즘과 일반적인 델타 규칙(Generalized delta rule)에 기반한 개선된 퍼지 퍼셉트론을 제안하여 Exclusive-OR(XOR) 문제 등을 해결하였다 그러나 이 방법은 계산량의 증가와 복잡한 영상인식에 적응하기에는 어려움이 있다. 논문에서는 동적 역치조정에 의한 개선된 퍼지 단층 퍼셉트론을 제안한다. 제안된 방법은 페턴인식의 벤치마크로 사용되는 XOR문제에 적용된다. 또한 영상 응용영역으로서 디지털 영상의 인식에 적용한다. 실험결과에서 항상 수렴하지는 않지만 그러나 제안된 모델은 학습시간의 개선과 높은 수렴율을 보였다.

• Journal of information and communication convergence engineering
• /
• 제2권1호
• /
• pp.36-39
• /
• 2004

In this paper, a method of improving the learning speed and convergence rate is proposed to exploit the advantages of artificial neural networks and neuro-fuzzy systems. This method is applied to the XOR problem, n bit parity problem, which is used as the benchmark in the field of pattern recognition. The method is also applied to the recognition of digital image for practical image application. As a result of experiment, it does not always guarantee convergence. However, the network showed considerable improvement in learning time and has a high convergence rate. The proposed network can be extended to any number of layers. When we consider only the case of the single layer, the networks had the capability of high speed during the learning process and rapid processing on huge images.

• 대한전기학회논문지:시스템및제어부문D
• /
• 제52권5호
• /
• pp.277-282
• /
• 2003

In this paper we propose Using Higher Order Neuron on the Supervised Learning Machine of the Kohonen Feature Map. The architecture of proposed model adopts the higher order neuron in the input layer of Kohonen Feature Map as a Supervised Learning Machine. It is able to estimate boundary on input pattern space because or the higher order neuron. However, it suffers from a problem that the number of neuron weight increases because of the higher order neuron in the input layer. In this time, we solved this problem by placing the second order neuron among the higher order neuron. The feature of the higher order neuron can be mapped similar inputs on the Kohonen Feature Map. It also is the network with topological mapping. We have simulated the proposed model in respect of the recognition rate by XOR problem, discrimination of 20 alphabet patterns, Mirror Symmetry problem, and numerical letters Pattern Problem.

• 한국지능시스템학회논문지
• /
• 제11권6호
• /
• pp.505-509
• /
• 2001

본 연구에서는 학습기근을 갖는 결정론적 볼츠만 머신의 은닉충 뉴런에 비단조 활성화 함수를 적요한 경위의 학습성능을 XOR 문제와 ADD 학습에 대하여 수지 시뮬레이션을 통하여분석한다. 단조 활성화함수를 사용한 경우와 비교하여 학습 수렴률, 학습안정도, 및 학습 속도에 있어서 성능이 크게 향상됨을 확인하였다. 또한 네트워크의 막전위 분포를 조사함으로서 end-cut-off 타입의 비단조 함수를 이용한 경우에 나타는 다음 층의 뉴런에 영향을 주지 않는 뉴런의 출현, 즉, 신경회로망에 있어서 은닉층 뉴런늬 수을 자율적으로 조정하는것을 확인하였따. 이것은 학습문제에 대하여 네트워크 은닉층 뉴런의 수를 명확하게 결정할수 없는 현재의 상황에 있어서는 새로운 돌파구가 될것으로 기대된다.

• 한국정보통신학회논문지
• /
• 제8권2호
• /
• pp.464-470
• /
• 2004

본 논문에서는 역전파 알고리즘의 성능 개선을 위해 퍼지 제어 시스템을 적용하여 학습률을 자동으로 조정하는 개선된 역전파 알고리즘을 제안한다. 제안된 방법은 목표값과 출력값의 차이에 대한 절대값이 $\varepsilon$ 보다 적거나 같으면 정확성으로 분류하고 크면 부정확성으로 분류한다. 정확성과 부정확성의 개수를 퍼지 제어 시스템에 적용하여 학습률을 동적으로 조정한다. 제안된 방법을 XOR 문제와 숫자 패턴 분류에 적용하여 실험한 결과, 기존의 역전파 알고리즘, 모멘텀 방식, Jacob의 delta-bar-delta 방식보다 성능이 개선됨을 확인하였다.

• 한국지능시스템학회논문지
• /
• 제9권5호
• /
• pp.490-495
• /
• 1999

본 논문에서는 보로노이 다이아그램을 이용하여 오류 역전파 신경망의 초기값을 결정할수 있는 VoD_EBP를 제안하였다. VoD_EBP는 초기 연결 가중치와 임계값을 공학적 계산방법으로 결정함으로써 기존의 EBP에서 자주 발생하는 학습 마비 현상을 피할수 있고 초기부터 빠른 속도로 학습이 진행되므로 학습횟수를 단축시킬수 있다, 또한 VoD_EBP는 은닉층의 노드 수를 보로노이 다각형으로 구분된 클러스터들의 개수로 정할 수있어 신경망 설계에 신뢰성을 향상시켰다. 제시된 VoD_EBP의 효율성을 입증하기 위해 간단한 실험으로 2차원 입력벡터를 갖는 XOR 문제와 3차원 패리티 코드 검출 문제에 대하여 적용하여 보았다. 그 결과 임의의 초기값으로 설정하였던 EBP보다 훨씬 빠르게 학습이 종료되었고, 지역 최소치에 빠져 학습이 진행되지 못하는 현상이 발생하지 않았다.

• 제어로봇시스템학회:학술대회논문집
• /
• 제어로봇시스템학회 1993년도 한국자동제어학술회의논문집(국내학술편); Seoul National University, Seoul; 20-22 Oct. 1993
• /
• pp.842-846
• /
• 1993

Because of complexity, neural network is difficult to learn. So if internal representation[1] can be performed successfully, it is possible to use perceptron learning rule. As a result, learning is easier. Therefore the method of internal representations applied to the "XOR" problem, and the "spirals" problem. And then using the above results, the structure of neural network for computing is embodied.mputing is embodied.

• 한국컴퓨터정보학회논문지
• /
• 제19권12호
• /
• pp.369-384
• /
• 2014

우리나라 영재교육은 2002년 시작된 이후 이제 교육지원체계가 확립되었고, 양적 측면에서 충분한 성장을 이루었다. 반면에 교육의 질적인 측면에서는 미흡한 점이 있다는 보고가 많다. 즉, 대부분의 영재교육이 선행학습에 의한 단순 지식확대 위주로 이루어진다는 것이다. 영재 교육의 질을 높이기 위해서는 간학문적 원리와 현상을 문제해결에 적용할 수 있는 비판적 사고력 및 창의력 배양 교육이 되어야 한다. 이 연구에서는 통합교육 개념에 근거하여 AND/OR/XOR 등의 기본 논리 연산이 컴퓨터의 세포 역할을 하게 되는 과정을 탐구하는 융합형 교수 학습 자료를 설계하고 개발하였다. 설문 조사 결과 기존의 다른 학습 주제보다 학생들의 만족도(유익성, 이해도, 흥미도)가 크게 높은 것으로 평가되어 설계 취지에 부합된 것으로 나타났다.

• 한국컴퓨터정보학회논문지
• /
• 제14권8호
• /
• pp.11-18
• /
• 2009

본 논문은 Levenberg-Marquardt 알고리즘에서 Jacobian 행렬의 주부분 행렬을 이용하여 학습속도를 개선하는 방법을 제안한다. Levenberg-Marquardt 학습은 오차함수에 대한 2차 도함수를 계산하기 위해 Hessian 행렬을 사용하는 대신 Jacobian 행렬을 이용한다. 이런 Jacobian 행렬을 가역행렬로 만들기 위해, Levenberg-Marquardt 학습은 ${\mu}$값을 증가시키거나 감소시키는 과정을 수행하고 ${\mu}$값의 변경에 따른 역행렬의 재계산이 필요하다. 따라서 본 논문에서는 ${\mu}$값의 설정을 위해 Jacobian 행렬의 주부분 행렬을 생성하고 주부분 행렬의 고유값 합을 이용하여 ${\mu}$값을 설정한다. 이와 같은 방법은 추가적인 역행렬 계산을 하지 않으므로 학습속도를 개선할 수 있다. 제안된 방법은 일반화된 XOR 문제와 필기체 숫자인식 문제를 대상으로 실험하여 학습속도의 향상을 검증하였다.