• 정보처리학회논문지B
• /
• 제9B권5호
• /
• pp.673-680
• /
• 2002

이 논문은 진화 프로그래밍과 개선된 역전파 알고리즘을 이용한 에지 검출 방법을 제안한다. 진화 프로그래밍은 알고리즘의 성능저하와 계산비용을 고려하여 교차 연산은 수행하지 않고, 선택연산자와 돌연변이 연산자를 사용한다. 개선된 역전파 알고리즘은 학습단계에서 연결강도를 변화시킬 때 이전학습단계의 연결강도를 보조적으로 활용하는 방법이다. 이 개선된 역전파 알고리즘은 학습률 $\alpha$를 작은값으로 설정하기 때문에 각 학습단계에서의 연결강도 변화량이 기존의 방법에 비해 상대적으로 줄어들게 되어 학습이 느려지는 문제점을 해결하였다. 실험결과 학습시간과 검출률에 있어서 GA-BP(GA : Genetic Algorithm BP : Back-Propagation)를 이용한 방법보다 제안한 EP-MBP(EP : Evolutionary Programming, MBP :Momentum Back-Propagation)를 이용하여 학습시킨 방법이 학습시간의 단축과 효율적인 에지 검출 결과를 얻을 수 있었다.

• 디지털콘텐츠학회 논문지
• /
• 제5권3호
• /
• pp.245-249
• /
• 2004

본 논문은 기존의 코드작곡 프로그램을 신경망 역 전파 방법을 통해 재구성 하였다. 대중성을 인정받은 기존의 대중가요들의 코드진행을 기대치로 부여하고 역전파 학습방법을 통해 그 기대치에 상웅하는 결과 값을 학습시켰다. 가중치 값을 변화시켜가면서 작곡 프로그램을 구현함으로써 기존의 작곡 방법을 더욱 유연하게 대중성의 코드진행 패턴에 가까운 결과를 낼 수 있도록 하였다.

• 한국지능시스템학회:학술대회논문집
• /
• 한국퍼지및지능시스템학회 2002년도 추계학술대회 및 정기총회
• /
• pp.162-165
• /
• 2002

Q-learning은 강화학습의 한 방법으로서, 여러 분야에 널리 응용되고 있는 기법이다. 최근에는 Linear Quadratic Regulation(이하 LQR) 문제에 성공적으로 적용된 바 있는데, 특히, 시스템모델의 파라미터에 대한 구체적인 정보가 없는 상태에서 적절한 입력과 출력만을 가지고 학습을 통해 문제를 해결할 수 있어서 상황에 따라서 매우 실용적인 대안이 될 수 있다. Neural Q-learning은 이러한 Q-learning의 Q-value를 MLP(multilayer perceptron) 신경망의 출력으로 대치시킴으로써, 비선형 시스템의 최적제어 문제를 다룰 수 있게 한 방법이다. 그러나, Neural Q방식은 신경망의 구조를 먼저 결정한 후 역전파 알고리즘을 이용하여 학습하는 절차를 취하기 때문에, 시행착오를 통하여 신경망 구조를 결정해야 한다는 점, 역전파 알고리즘의 적용으로 인해 신경망의 연결강도 값들이 지역적 최적해로 수렴한다는 점등의 문제점을 상속받는 한계가 있다. 따라서, 본 논문에서는 Neural-0 학습의 도구로, 역전파 알고리즘으로 학습되는 MLP 신경망을 사용하는 대신 최근 들어 여러 분야에서 그 성능을 인정받고 있는 서포트 벡터 학습법을 사용하는 방법을 택하여, $\varepsilon$-SVR(Epsilon Support Vector Regression)을 이용한 Q-value 근사 기법을 제안하고 관련 수식을 유도하였다. 그리고, 모의 실험을 통하여, 제안된 서포트 벡터학습 기반 Neural-Q 방법의 적용 가능성을 알아보았다.

• 지능정보연구
• /
• 제16권3호
• /
• pp.1-14
• /
• 2010

역전파 알고리즘은 오랫동안 부도예측모형 관련한 연구에 많이 적용되어왔다. 역전파 알고리즘을 사용하기전에 필히 고려해야 할 중요한 요소들로는 네트워크 구조, 학습요소, 정규화 방법 등이다. 하지만 신경망 성과를 향상시키기 위한 네트워크 구조 및 학습요소 최적화 관련한 연구는 기존의 연구들에서 많이 이루어 졌지만 데이터 정규화와 관련한 연구는 아직 많이 이루어지지 않았다. 따라서 본 연구에서는 유전자 알고리즘을 기반으로 하는 정규화 기법을 제시하였다. 최적의 입력데이터 정규화를 위하여 본 연구에서는 우선 각각의 서로 다른 정규화 기법들을 동일 가중치를 두어 일반화 시켰으며 유전자 알고리즘을 이용하여 최적의 가중치를 찾음으로써 최적화된 입력변수 정규화가 이루어지도록 하였다. 제안한 방법론을 검증하기 위하여 부도예측 데이터를 이용하여 실험을 하였으며 제안하는 방법과 기존 다른 방법들간의 비교를 통하여 그 타당성을 검증하였다.

• Asia pacific journal of information systems
• /
• 제5권1호
• /
• pp.36-51
• /
• 1995

본 논문에서는 비구조적인 의사결정문제를 효과적으로 해결하기 위하여 감독학습 인공신경망 모형과 비감독학습 인공신경망 모형을 결합한 하이브리드 인공신경망 모형인 HYNEN(HYbrid NEural Network) 모형을 제안한다. HYNEN모형은 주어진 자료를 클러스터화 하는 CNN(Clustering Neural Network)과 최종적인 출력을 제공하는 ONN(Output Neural Network)의 2단계로 구성되어 있다. 먼저 CNN에서는 주어진 자료로부터 적정한 퍼지규칙을 찾기 위하여 클러스터를 구성한다. 그리고 이러한 클러스터를 지식베이스로하여 ONN에서 최종적인 의사결정을 한다. CNN에서는 SOFM(Self Organizing Feature Map)과 LVQ(Learning Vector Quantization)를 클러스터를 만든 후 역전파학습 인공신경망 모형으로 이를 학습한다. ONN에서는 역전파학습 인공신경망 모형을 이용하여 각 클러스터의 내용을 학습한다. 제안된 HYNEN 모형을 우리나라 기업의 도산자료에 적용하여 그 결과를 다변량 판별분석법(MDA:Multivariate Discriminant Analysis)과 ACLS(Analog Concept Learning System) 퍼지 ARTMAP 그리고 기존의 역전파학습 인공신경망에 의한 실험결과와 비교하였다.

• 한국정보과학회:학술대회논문집
• /
• 한국정보과학회 2002년도 가을 학술발표논문집 Vol.29 No.2 (2)
• /
• pp.328-330
• /
• 2002

본 논문에서는 역전파 신경망(Backpropagation Neural Network)을 시계열 데이터인 주가 데이터를 이용한 주가 예측의 정확도를 향상시키기 위한 학습 방법으로 적용하였다. 실제 증권거래소의 종목 데이터에서 비교적 등락폭이 안정적인 각 산업분야별 5개 기업의 5일 이동평균선 데이터 240개를 훈련 데이터로, 20개는 테스트 데이터로 이용하였다. 선정된 입력 데이터를 은닉층의 개수와 은닉 노드의 개수 등을 달리 하면서 10,000번의 훈련을 통해서 실험 하였으며, 그 결과 1개의 은닉층을 사용한 네트워크1은 20개의 테스트 데이터 사이의 19개의 신호 중 14개를 예측하였고, 2개의 은닉층을 사용한 네트워크 2는 16개를 예측하였다. 시험 결과를 통해서 보듯이 은닉층을 2개 사용하였을 때 보다 좋은 실험 결과를 얻을 수 있었으며, 역전파 신경망 모델이 주가 예측에 적합하다는 것이 증명되었다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2006년도 추계학술발표대회
• /
• pp.35-38
• /
• 2006

다층 퍼셉트론(MLP) 학습 이론인 오류 역전파 알고리즘은 델타룰과 최급 하강법을 사용하기 때문에 학습시 많은 시간이 소요된다는 단점을 가지고 있다. 때문에 신경망에서의 잘못된 초기 가중치 선택은 오류 역전파 알고리즘을 사용하는 신경망에서의 현격한 학습 성능저하를 발생시키게 된다. 본 논문에서는 학습시 오류 역전파 알고리즘의 수렴시간을 개선하기 위한 신경망의 동적 초기 가중치 선택 알고리즘을 제안한다. 이 알고리즘은 학습전 기존의 선택 가중치와 모든 가중치가 1.0 또는 -1.0 값을 가지는 가중치 집합에서 가중치 변동률을 선측정하여 이들 중 가장 변동률이 큰 경우를 초기 가중치 집합으로 선정하게 된다. 즉, 초기의 가중치 변동률을 차후 성능을 판단하는 지표로 사용하여 잘못된 가중치 선택으로 인한 최악의 학습효율의 가능성을 배제시키고 다층 신경망의 학습특성상 평균 이상의 학습효율을 보장하는 초기 가중치 선택방법이다.

• 한국지능정보시스템학회:학술대회논문집
• /
• 한국지능정보시스템학회 2003년도 춘계학술대회
• /
• pp.469-473
• /
• 2003

다층 구조 신경망에서 널리 사용되는 오류 역전파 알고리즘은 초기 가중치와 불충분한 은닉층의 노드수로 인하여 지역 최소화에 빠질 가능성이 있다. 따라서 본 논문에서는 오류 역전파 알고리즘에서 은닉층의 노드 수를 설정하는 문제와 ARTI에서 경계 변수의 설정에 따라 인식률이 저하되는 문제점을 개선하기 위하여 ARTI과 Max-Min 신경망을 결합한 퍼지 다층 퍼셉트론을 제안한다. 제안된 자가 생성을 이용한 퍼지 다층 퍼셉트론은 입력층에서 은닉층으로 노드를 생성시키는 방식은 ARTI을 적용하였고, 가중치 조정은 특정 패턴에 대한 저장 패턴을 수정하도록 하는 winner-take-all 방식을 적용하였다. 제안된 학습 방법의 성능을 평가하기 위하여 학생증 영상을 대상으로 실험한 결과, 기존의 오류 역전파 알고즘보다 연결 가중치들이 지역 최소화에 위치할 가능성이 줄었고 학습 속도 및 정체 현상이 개선되었다.

• 한국정보통신학회:학술대회논문집
• /
• 한국해양정보통신학회 2001년도 추계종합학술대회
• /
• pp.226-229
• /
• 2001

전파신호의 추적은 국방을 비롯한 다양한 분야에서 여러 가지 기술 발전을 이루고 있다. 특히 시간의 경과에 따라 변경되는 PRI 및 주파수를 갖는 전파에 대해서는 Adaptable한 추적 능력을 필요로 한다. 본 논문에서는 다양하게 변하는 PRI 및 주파수 변경 신호들에 대해 지능적으로 적응해 가면서 추적할 수 있는 추적 방식을 제안하고 이를 실험하였다. 제안된 방식은 신경회로망의 오차 역전과 알고리즘을 이용한 방법으로, 모의 전파 신호를 시간 구간으로 나누어 학습하였고 이에 대한 성능 테스트를 한 결과 제안된 방법이 전파 신호를 효율적으로 추적할 수 있음을 확인하였다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2006년도 추계학술발표대회
• /
• pp.3-6
• /
• 2006

멀티레벨의 feed-forward 네트워크에 대한 학습 방법은 기울기 방법과 전역 최적화방법으로 나눌 수 있다. 역전파 또는 그 변형적인 방법들과 같은 기울기 하강 방법은 편리하기 때문에 여러 분야에서 다양하게 사용되고 있다. 하지만, 역전파와 관련된 가장 큰 문제는 지역 최소점에 빠진다는 것이다. 따라서 본 논문에서 기울기 하강 방법의 단순성을 침범하지 않고 지역 최소점을 극복할 수 있는 개선된 기울기 하강 방법을 제안한다. 제안하는 방법은 상위 연결과 하위연결을 분리하여 훈련하고 평가하기 때문에 이원적인 기울기 하강 방법이라 칭한다. 그렇기 때문에, 은닉층 유닛의 목표 값들은 하위 연결의 평가 툴로써 사용한다. 논문에서 제안하는 방법의 성능은 다양한 실험을 통해서 검증된다.