• 한국컴퓨터정보학회논문지
• /
• 제15권4호
• /
• pp.57-63
• /
• 2010

Levenberg-Marquardt 알고리즘에서 감쇠 파라미터는 오류역전파 학습과 Gauss-Newton 학습의 스위치 역할을 하며 학습 속도에 영향을 준다. 이런 감쇠 파라미터를 고정시키는 것은 오차 함수의 진동을 유발하고 학습 속도를 감소시킨다. 따라서 본 논문은 오차 함수의 변화 과정을 참조하여 감쇠 파라미터를 가변적으로 적용하는 방법을 제안한다. 제안된 방법은 오차의 변화량이 크면 감쇠 파라미터를 크게, 오차의 변화량이 작으면 감쇠 파라미터를 작게 조정한다. 이것은 모멘텀과 유사한 역할을 하여 학습 속도를 향상시킨다. 제안된 방법의 검증을 위한 실험으로는 iris 분류 문제와 wine 분류 문제를 사용하였다. 제안된 방법은 iris 분류 문제에서는 67% 학습에서, wine 분류 문제에서는 78% 학습에서 학습 속도가 향상되었으며 기존 방법과 비교하여 오차의 진동도 적은 것을 확인할 수 있었다.

• 한국게임학회 논문지
• /
• 제17권4호
• /
• pp.109-116
• /
• 2017

보드게임은 많은 수의 말들과 상태공간을 갖고 있다. 그러므로 게임은 학습을 오래하여야 한다. 그러나 강화학습은 학습초기에 학습속도가 느려지는 단점이 있다. 그러므로 학습 도중에 동일한 최선 값이 있을 때, 영향력분포도를 고려한 문제 영역 지식을 활용한 휴리스틱을 사용해 학습의 속도 향상을 시도하였다. 기존 구현된 말과 개선 구현된 말을 비교하기 위해 보드게임을 제작하였다. 그래서 일방공격형 말과 승부를 하게 하였다. 실험 결과 개선 구현된 말의 성능이 학습속도 측면에서 향상됨을 알 수 있었다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2023년도 춘계학술발표대회
• /
• pp.530-531
• /
• 2023

딥러닝에서 지식 증류 기법은 큰 모델의 지식을 작은 모델로 전달하여 작은 모델의 성능을 개선하는 방식이다. 지식 증류 기법은 모델 경량화, 학습 속도 향상, 학습 정확도 향상 등에 활용될 수 있는데, 교사 모델이라 불리는 큰 모델은 일반적으로 학습된 딥러닝 모델을 사용한다. 본 연구에서는 학습된 딥러닝 모델 대신에 수치 기반 시뮬레이션 모델을 사용함으로써 어떠한 효과가 있는지 검증하였으며, 수치 모델을 활용한 기상 예측 모델에서의 지식 증류는 기존 단독 딥러닝 모델 학습 대비 더 작은 학습 횟수(epoch)에서도 동일한 에러 수준(RMSE)까지 도달하여, 학습 속도 측면에서 이득이 있음을 확인하였다.

• 센서학회지
• /
• 제8권1호
• /
• pp.45-52
• /
• 1999

이 논문에서는 오차 역전파 학습 알고리듬의 학습 속도를 향상시키기 위한 새로운 학습 방법을 제안한다. 제안하고자 하는 방법은 시그모이드 형태를 갖는 신경회로망의 활성화 함수(activation function) 자체에 고차항(higher order)을 적절히 이용하여 초기 학습 단계에서 발생할 수 있는 조기 포화(premature saturation) 현상을 계산량의 큰 증가 없이 효과적으로 대처할 수 있다. 고차항을 이용함으로써 은닉층 활성화 함수의 도합수가 작은 값으로 감소함에 따라 신경망의 연결 강도를 학습시키는 학습율은 적응적으로 큰 값을 갖게 된다. 또한, 은닉층에 고차항을 이용하는 제안한 방법에 모멘텀(momentum) 학습 알고리듬을 결합하는 새로운 hybrid 학습 방법을 제안한다. 컴퓨터 모의 실험을 통해 제안하고자 하는 학습 방법과 기존의 방법들과의 학습 속도 성능을 비교한다.

• 한국정보처리학회:학술대회논문집
• /
• 한국정보처리학회 2020년도 춘계학술발표대회
• /
• pp.567-569
• /
• 2020

여러 악기가 섞여 있는 음원으로부터 원하는 악기 소리를 추출하는 음원 분리 기법 중 최근 신경망 기반 시스템이 활발히 연구되고 있다. 악기마다 고유의 음역대를 가진다는 사실에 감안하여, 연구진은 기존 음원 분리 신경망에 적은 수의 학습 파라미터를 추가하여 학습 속도를 대폭 향상시킬 수 있는 음역대 강조 기법을 제안한다.

• 한국게임학회 논문지
• /
• 제18권4호
• /
• pp.99-106
• /
• 2018

보드게임에서는 많은 경우의 수의 말들과 많은 상태공간들을 가지고 있다. 그러므로 게임은 학습을 오래 하여야 한다. 본 논문에서는 Q러닝 알고리즘을 이용했다. 그러나 강화학습은 학습초기에 학습속도가 느려지는 단점이 있다. 그러므로 학습을 하는 동안에 같은 최선의 값이 있을 때, 게임트리를 고려한 문제영역의 지식을 활용한 휴리스틱을 사용하여 학습의 속도향상을 시도하였다. 기존 구현된 말과 개선하여 구현된 말을 비교하기 위하여 보드게임을 제작했다. 그래서 일방적으로 공격하는 말과 승부를 겨루게 하였다. 개선된 말은 게임트리를 고려하여 상대방 말을 공격하였다. 실험결과 개선하여 구현된 말이 학습속도적인 면에서 향상됨 것을 알 수 있었다.

• 인터넷정보학회논문지
• /
• 제11권1호
• /
• pp.77-84
• /
• 2010

모국어나 외국어를 습득할 때 언어 처리의 '속도' 및 '정확도'가 적절하지 않으면 언어발달이 지연되거나 외국어 학습에 어려움을 보이게 되며, 실제 이를 통한 의사소통 상황에서 어려움을 겪게 된다. 따라서, 언어 학습 능력을 평가할 때 단순히 언어 처리의 정확도만이 아닌 '속도'와 '정확도'를 동시에 측정하는 것이 중요하며, 학습에 있어서도 이러한 처리의 효율성을 향상 시키는 것이 필요하다. 우리는 음성 및 시각 자극에 대한 '반응속도 측정기 플랫폼'을 개발함으로써 효율적인 언어 수행 능력을 평가하고 학습 향상에 적용하고자 하였다. 이 글에서는 먼저 이 플랫폼의 구성 및 내용 그리고 온라인 컨텐츠 구성 등의 개발 과정에 대하여 제시하였다. 또한, 이 플랫폼의 실제 적용 가능성을 검토하기 위하여 10명의 성인에게 '청각', '시각' 그리고 '시청각'의 3 가지 자극 조건을 제시하고, 각 조건에서 5회 이상 자극에 반응을 보이도록 하였다. 그리고 1회와 5회 반응의 반응 속도 및 정확도를 측정하여 비교하여 보았다. 이러한 결과 이 플랫폼이 정도의 차이는 있으나 자극의 종류에 상관없이 보다 빠르고 정확하게 언어를 처리할 수 있도록 능력을 향상시키는데 도움을 주고 있음을 알 수 있었다.

• 한국지능시스템학회:학술대회논문집
• /
• 한국퍼지및지능시스템학회 1998년도 추계학술대회 학술발표 논문집
• /
• pp.251-254
• /
• 1998

본 논문에서는 신경회로망의 수렴속도를 높이기 위한 알고리즘을 제안한다. 전형적인 역전파 학습방식은 느린 수렴속도가 단점으로 제기되는데 이는 비용함수의 계곡부근에서 가중치의 궤적이 심한 진동현상을 보이기 때문이다. 이 문제를 해결하기 위해서 본 논문에서는 경사법에서 사용되는 갱신방향을 계곡의 진행방향을 이용하여 변경한다. 모의실험을 통하여 제안된 방법으로 가중치의 궤적에 나타나는 진동을 줄이고 수렴속도를 향상시킬 수 있음을 보인다.

• 한국정보과학회:학술대회논문집
• /
• 한국정보과학회 2002년도 봄 학술발표논문집 Vol.29 No.1 (B)
• /
• pp.616-618
• /
• 2002

MLP(multilayer perceptron)는 다른 패턴인식 방법에 비해 몇 가지 이점이 있어 다양한 문제영역에서 사용되고 있다 그러나 MLP의 학습에 일반적으로 사용되는 EBP(error backpropagation) 알고리즘은 학습시간이 비교적 오래 걸린다는 단점이 있으며, 이는 실시간 처리를 요구하는 문제나 대규모 데이터 및 MLP 구조로 인해 학습시간이 상당히 긴 문제에서 제약으로 작용한다. 패턴인식에 사용되는 학습데이터는 풍부한 중복특성을 내포하고 있으므로 패턴마다 MLP의 내부변수를 갱신하는 은라인 계열의 학습방식이 속도의 향상에 상당한 효과가 있다. 일반적인 온라인 EBP 알고리즘에서는 내부 가중치 갱신시 고정된 학습률을 적용한다. 고정 학습률을 적절히 선택함으로써 패턴인식 응용에서 상당한 속도개선을 얻을 수 있지만, 학습률을 고정함으로써 온라인 방식에서 패턴별 갱신의 특성을 완전히 활용하지 못하는 비효율성이 발생한다. 또한, 학습도중 패턴군이 학습된 패턴과 그렇지 못한 패턴으로 나뉘고 이 가운데 학습된 패턴은 학습을 위한 계산에 포함될 필요가 없음에도 불구하고, 기존의 온라인 EBP에서는 에폭에 할당된 모든 패턴을 일률적으로 계산에 포함시킨다. 이 문제에 대해 본 논문에서는 학습이 진행됨에 따라 패턴마다 적절한 학습률을 적용하고 필요한 패턴만을 학습에 반영하는 패턴별 가변학습률 및 학습생략(COIL) 방댑을 제안한다. 제안한 COIL의 성능을 입증하기 위해 화자증명과 음성인식을 실험하고 그 결과를 제시한다.

• 한국게임학회 논문지
• /
• 제10권1호
• /
• pp.105-113
• /
• 2010

보드게임은 많은 수의 말들과 상태공간을 갖고 있다. 그래서 많은 시간동안 학습을 하여야 한다. 또한 상대방과의 대결이 1 대 1로 이루어지지 않고, 여러 말 대 여러 말로 이루어지므로 전략적인 사고가 필요하다. 그러므로 최적의 학습을 적용하여야 한다. 학습 도중에 동일한 최선 값이 있을 때, 줄고누의 문제 영역 지식을 활용한 휴리스틱을 사용해 학습의 속도 향상을 시도하였다. 강화학습을 이용한 말과 제안한 개선된 강화학습을 이용한 말을 비교하기 위해 줄고누게임을 제작하였다. 그래서 일방적으로 공격을 하는 말과 승부를 하게 하였다. 개선된 말은 거리를 고려하여 상대방 말을 공격하였다. 실험결과 개선된 강화학습을 이용한 말의 성능이 학습속도 측면에서 향상됨을 알 수 있었다.