• 전력전자학회논문지
• /
• 제4권2호
• /
• pp.184-191
• /
• 1999

일반적으로 시스템 인식과 제어를 위해 이용하는 다층망 신경회로망은 기존의 역전파알고리즘을 이용한다. 그러나 결선강도에 대한 오차의 기울기를 구하는 방법이기 때문에 국부적 최소점에 빠지기 쉽고, 수렴속도가 매우 늦으며 초기결선강도 값들이나 학습계수에 민감하게 반응한다. 이와 같은 단점을 개선하기 위해 본 논문에서는 칼만필터링 기법을 도입하여 수렴속도를 빠르게 하고 초기 결선강도의 영향을 받지 않도록 개선하였으며, 유도전동기의 속도추정과 제어에 적용하여 좋은 결과를 보였다.

• 한국정보과학회:학술대회논문집
• /
• 한국정보과학회 1998년도 가을 학술발표논문집 Vol.25 No.2 (2)
• /
• pp.333-335
• /
• 1998

에러 역전파 신경망에서 학습속도와 수렴률은 초기 가중의 분포에 따라 크게 영향을 받는다. 본 연구에서는 이를 위하여 비교사 학습 신경망(Hebbian learning rule)을 이용한 새로운 초기 가중치 결정 방법을 제안한다. 또는 비교사 학습 신경망이 에러 역전파 신경망 학습에 적당하도록 은닉층의 각 뉴런과 연결된 가중치의 norm을 이용하여 학습하였다. 시뮬레이션을 통하여 기존 에러 역전파 신경망 학습과 그 성능을 비교한 결과 제안한 초기 가중치 표현이 학습속도와 수렴능력에서 우수함을 나타낸다.

• 한국전자통신학회논문지
• /
• 제8권10호
• /
• pp.1451-1456
• /
• 2013

본 논문은 고유값분석을 이용하여 주파수영역 독립성분석(FDICA)의 수렴속도를 증가시키기 위한 기법을 제안한다. 소나 시스템 등에서는 지연정보를 획득하여 간섭신호원을 빠른 속도로 제거하는 알고리즘이 중요하다. 두 개의 독립신호가 $2{\times}2$ 지연 혼합된 경우에 대한 고유값 분석을 통하여, 초기값 파라미터로 사용할 지연정보를 획득할 수 있다. 본 알고리즘을 검증하기 위한 컴퓨터 시뮬레이션은 수렴속도와 잡음제거에서의 성능향상을 보여준다. 초기조건이 목표값에 근접하고 있기 때문에 3회 정도의 반복수렴 실험으로도 잡음제거에 상당한 성능을 나타낸다. 수렴 후에도 기존 알고리즘보다 1~3dB 더 나은 잡음제거 성능을 볼 수 있다.

• 한국멀티미디어학회:학술대회논문집
• /
• 한국멀티미디어학회 2004년도 춘계학술발표대회논문집
• /
• pp.179-182
• /
• 2004

무선통신분야에서 LMS5(Least Mean Square) 알고리즘은 식이 간단하고 계산량이 비교적 적기 때문에 널리 사용되고 있다. 그러나 시간영역에서 처리할 경우 입력신호의 고유치 변동폭이 넓게 분포되어 수렴속도가 저하하는 문제점이 있다. 이를 해결하기 위하여 신호를 FFT(Fast Fourier Trasnform)나 DCT(Discrete Cosine Transform)로 변환하여 신호간의 상관도를 제거함으로써 시간영역에서 LMS알고리즘을 적용할 때 보다 수렴속도를 크게 향강시킬 수 있다. 본 논문에서는 수렴속도 향상을 위해 시간영역의 적응 알고리즘을 직교변환인 고속웨이브렛(wavelet)변환을 이용하여 변환영역에서 수행하며, 짧은 필터계수를 가지는 DWT(Discrete Wavelet Transform)특성에 맞는 Fast running FIR 알고리즘을 이용하여 WTLMS(Wavelet Transform LMS)적응알고리즘을 통신시스템에 적용한다. 적응 알고리즘의 성능향상을 위하여 시간에 따라 적응상수의 크기를 가변시켜 수렴 초기에는 큰 적응상수로 따른 수렴이 가능하도록 하고 점차 적응상수의 크기를 줄여서 misadjustment도 줄이는 방법의 적응 알고리즘을 제안하였다. 제안한 알고리즘을 실제로 적응잡음제거기(adaptive noise canceler)에 적용하여 컴퓨터 시뮬레이션을 하였으며, 각 알고리즘들의 계산량, 수렴속도를 이용하여 각각 비교, 분서하여 그 성능이 우수함을 입증하였다.

• 한국통신학회논문지
• /
• 제27권3A호
• /
• pp.284-289
• /
• 2002

본 논문에서는 MRF(Markov Random field)를 이용해 영상을 분할할 때, 에너지 최적화를 위해 사용되는 simulated annealing의 수렴속도를 개선하는 방법을 제안하였다. Simulated annealing은 잡음이 포함된 영상이나, 텍스쳐 영상에서 좋은 분할 결과를 나타내지만, 수렴속도가 길다는 단점이 있다. 본 논문에서는 수렴속도를 개선하기 위해 픽셀 레이블의 초기값을 픽셀의 intensity에 따라 adaptive하게 부여하여 simulated annealing을 수행하였다. 이 방법으로 모의실험을 수행한 결과, 기존의 방법보다 수렴 속도를 크게 향상시킬 수 있었다.

• 한국통계학회:학술대회논문집
• /
• 한국통계학회 2002년도 춘계 학술발표회 논문집
• /
• pp.25-28
• /
• 2002

비선형모형분석의 초기 단계에서 초기값(starting value, initial parameter value)를 결정하는 문제는 비선형모형의 모수추정을 위한 반복기법의 수렴속도나 국소값(local minimum)문제에 영향을 주게 된다. 본 논문을 통하여 탐색적 자료분석이 초기값를 결정하는 데 도움을 줄 수 있음을 보이고자 한다.

• 전력전자학회논문지
• /
• 제5권2호
• /
• pp.131-139
• /
• 2000

일반적으로 시스템 인식과 제어에 이용하는 다층 신경회로망은 기존의 역전파 알고리즘을 이용한다. 그러나 결선강도에 대한 오차의 기울기를 구하는 방법이기 때문에 국부적 최소점에 빠지기 쉽고, 수렴속도가 매우 늦으며 초기 결선강도 값들이나 학습계수에 민감하게 반응한다. 이와 같은 단점을 개선하기 위하여 확장된 칼만 필터링 기법을 역전파 알고리즘에 결합하였으나 계산상의 복잡성 때문에 망의 크기가 증가하면 실제 적용할 수 없다. 최근 신경회로망을 선형과 비선형 구간으로 구분하고 칼만 필터링 기법을 도입하여 수렴속도를 빠르게 하고 초기 결선강도 값에 크게 영향을 받지 않도록 개선하였으나, 여전히 은닉층의 선형 오차값을 역전파 알고리즘에 의해서 계산하기 때문에 학습계수에 민감하다는 단점이 있다. 본 논문에서는 위에서 언급한 기존의 신경회로망 알고리즘의 문제점을 개선하기 위하여 은닉층의 목표값을 최적기법에 의하여 직접계산하고 각각의 결선강도 값은 반복최소 자승법으로 온라인 학습하는 알고리즘을 제안하고 이들 신경회로망 알고리즘과 비교하고자 한다. 여러 가지 시뮬레이션과 실험을 통하여 제안된 방법이 초기 결선강도에 크게 영향을 받지 않으며, 기존의 학습계수 선정에 따른 문제점을 해결함으로써 신경회로망 모델에 기초한 실시간 제어기 설계에 응용할 수 있도록 하였다. 또한, 유도전동기의 속도추정과 제어에 적용하여 좋은 결과를 보였다.

• 한국정보처리학회논문지
• /
• 제5권11호
• /
• pp.3010-3023
• /
• 1998

유전자 알고리즘은 염색체 집단을 이용하는 탐색이므로 전역적인 최적해의 탐색 성능은 우수하여 최적해에 근접한 한점까지의 수렴속도는 빠르지만 탐색 메카니즘이 없기 때문에 최적해 근처의 탐색에서는 수렴 속도가 떨어지는 단점이 있고, 역전파 알고리즘은 개체 수준의 탐색이므로 지역적 미세조정의 탐색능력은 우수하지만 전역적 탐색기능이 없어 지역적 최적해로 수렴하는 경우가 있다. 본 논문에서는 수렴 속도가 향상된 윤곽선 추출을 위하여 유전자와 역전파 알고리즘을 병행해서 실행하는 윤곽선 추출방법을 제안하였다. 윤곽선 추출 방법은 먼저 유전자 알고리즘을 이용하여 최적의 연결강도와 오프셋 값을 계산한다. 다음으로 이 값을 역전파 학습 알고리즘 학습의 파라미터의 초기값으로 한 반복 학습으로 최적의 윤곽선 구조를 추출하였다. 제안된 알고리즘은 유전자 알고리즘 또는 역전파 알고리즘 단독으로 실행한 경우보다 수렴속도가 향상된 결과를 보여 주었다.

• 한국통신학회논문지
• /
• 제22권11호
• /
• pp.2451-2458
• /
• 1997

학습 신호를 사용하지 않고 심볼간의 간섭을 제거하여 전송된 데이터를 복구하는 등화 방법을 블라인드 등화(blind equalization)라 한다. 본 논문에서는 수렴 속도와 정상상태오차를 줄이기 위하여 Sato 알고리듬과 결정-지향 알고리듬의 장점을 동시에 이용하는 다단계 결정-지향 알고리듬을 제안한다. 다단계 결정-지향 알고리듬은 초기 시작 모드에서는 수렴이 보장되는 Sato 알고리듬과 똑같이 동작을 한다. 이 후 등화기가 점점 수렴함에 따라, 블라인드 등화기에서 사용하는 양자화기의 레벨 수를 증가시켜 수렴속도를 빠르게 해준다. 양자화기의 레벨이 완전히 증가하였을 경우 다단계 결정-지향 알고리듬은 수렴 후 자승 평균 오차가 작은 결정-지향 알고리듬과 똑같이 동작하게 된다. 그러므로 다단계 결정-지향 알고리듬은 빠른 수렴 속도를 보이면서도, 정상상태에서 작은 오차값을 갖는다.

• 한국정보처리학회논문지
• /
• 제7권2호
• /
• pp.552-557
• /
• 2000

본 논문에서는 신경망의 초기 파라미터(가중치, 바이어스) 값을 최적화 시키는 GA-BP(Genetic Algorithm-Backpropagation Network) 혼합 알고리즘을 이용하여 얼굴을 인식하는 방법을 제안하였다. 입력 영상의 각 픽셀들을 신경망의 입력으로 사용하고 고정 소수점 실수값으로 이루어진 신경망의 초기 파리미터 값은 유전자 알고리즘의 개체로 사용하기 위해 비트 스트링으로 변환한다. 신경망의 오차가 최소가 되는 값을 적합도로 정의한 뒤 새롭게 정의된 적응적 재학습 연산자를 이용하여 이를 평가해 최적의 진환된 신경망을 구성한 뒤 얼굴을 인식하는 실험을 하였다. 실험 결과 학습 수렴 속도의 비교에서는 오류 역전과 알고리즘 단독으로 실행한 수렴 속도보다 제안된 알고리즘의 수렴 속도가 향상된 결과를 보였고 인식률에서 오류 역전과 알고리즘 단독으로 실행한 방법보다 2.9% 향상된 것으로 나타났다.