• 디지털융복합연구
• /
• 제17권10호
• /
• pp.251-258
• /
• 2019

앞으로의 시대는 인공지능을 이용한 다양한 분야에 다양한 제품이2 생성될 것이다. 이러한 시대에 인공지능의 학습 방법의 동작 원리를 알고 이를 정확하게 활용하는 것은 상당히 중요한 문제이다. 이 논문은 지금까지 알려진 인공지능 학습 방법을 소개한다. 인공지능의 학습은 수학의 고정점 반복 방법(fixed point iteration method)을 기반으로 하고 있다. 이 방법을 기반으로 수렴 속도를 조절한 GD(Gradient Descent) 방법, 그리고 쌓여가는 양을 누적하는 Momentum 방법, 마지막으로 이러한 방법을 적절히 혼합한 Adam(Adaptive Moment Estimation) 방법 등이 있다. 이 논문에서는 각 방법의 장단점을 설명한다. 특히, Adam 방법은 조정 능력을 포함하고 있어 기계학습의 강도를 조정할 수 있다. 그리고 이러한 방법들이 디지털 신호에 어떠한 영향을 미치는 지에 대하여 분석한다. 이러한 디지털 신호의 학습과정에서의 변화는 앞으로 인공지능을 이용한 작업 및 연구를 수행함에 있어 정확한 활용과 정확한 판단의 기준이 될 것이다.

• 한국정보통신학회논문지
• /
• 제20권9호
• /
• pp.1679-1687
• /
• 2016

이동로봇은 유연한 생산시스템이 필요한 산업현장에서 유용하게 사용된다. 이동로봇이 생산부품과 같은 기계적 부하를 싣고 정해진 경로를 따라 정확히 이동하여야 하며 통상 기구학적 제어기가 사용되고 있다. 그러나 부하가 매우 크고 비선형 마찰도 클 경우, 기구학적 제어기로 만족할 만한 제어성능을 기대할 수 없어서 동적 제어기가 연구되고 있다. 기존의 동적 제어기는 부하의 무게와 위치를 정확히 알아야 한다는 조건이 있다. 그러나 실제 기계적 부하는 빈번히 변하고 정확히 알 수 없으므로 기존의 동적제어기 성능에 한계가 있다. 따라서 기계적 부하를 정확히 알지 못해도 이동로봇의 동적제어가 작동하도록 경사감소학습을 이용하여 적응 PD 제어 방법을 본 논문에서 제안하였다. 여러 가지 부하 변동 조건하에서 다양하게 시뮬레이션 하여 본 논문의 적응 PD 제어 방법이 기존의 방법보다 폭넓은 수렴영역을 가지고 있음을 확인하였다.

• 한국정보통신학회논문지
• /
• 제13권3호
• /
• pp.505-513
• /
• 2009

Z. cao는 Relation matrix를 사용한 정밀한 추론이 가능한 NFRM(New fuzzy reasoning method)을 제안하였다. 이는 추론의 규칙 수가 적음에도 불구하고 Mamdani의 퍼지 추론방식에 비하여 좋은 성능을 보였다. 그러나 대부분의 퍼지스템의 경우, MIMO 시스템에 적용 시 퍼지 추론규칙을 도출해 내기 힘들고 많은 규칙의 수가 요구되는 단점을 갖는다. 그러므로 본 연구자에 의하여 과거에 Z. Cao's의 퍼지 추론방법을 MIMO 시스템으로 확장된 MIMO 퍼지추론 방식이 제안되었다. 그러나 정밀한 추론을 위하여 relation matrix는 휴리 스틱 (heuristic)한 방법이나 시행착오법을 사용하여 구하였고, 이는 많은 시간과 노력이 필요하다. 본 연구에서는 이러한 relation matrix를 구하기 위하여 시행 착오법에 의해 소요되는 많은 시간과 노력을 줄이고, 더욱 정밀한 추론 성능의 개선을 위하여 경사감소학습법을 사용한 학습기 능을 갖는 MIMO 퍼지추론 방식을 제안하고자 한다. 모의실험은 2축 로봇의 역기구학 문제를 푸는데 적용하여 제안된 추론방식이 좋은 성능을 보였다.

• 한국통신학회논문지
• /
• 제19권12호
• /
• pp.2418-2425
• /
• 1994

기울기를 따라가는 방식(gradient descent method)에 바탕을 둔 오류 역전파(EBP : Error Back Propagation) 방법이 가장 널리 사용되는 신경회로망의 학습 방법에서 문제가 되는 지역 최소값(local minima), 느린 학습 시간, 신경망 구조(structure), 그리고 초기의 연결 강도(interconnection weight) 등을 기존의 다층 신경 회로망에 지역적인 학습 능력을 가진 가우시안 포텔샵 네트워크(GPFN : Gaussian Potential Function Networks)를 병렬적으로 부가하여 해결함으로써 지역화된 오류 학습 패턴들이 나타내는 문제에 대하여 학습 성능을 향상시킬 수 잇는 새로운 학습 방법을 제시한다. 함수 근사화 문제에서 기존의 EBP 학습 방법과의 비교 실험으로 제안된 학습 방법이 보다 개선된 일반화 능력과 빠른 학습 속도를 가짐을 보여 그 효율성을 입증한다.

• 한국음향학회지
• /
• 제39권6호
• /
• pp.505-514
• /
• 2020

심층 신경망(Deep Neural Network, DNN) 모델을 대량의 학습 데이터로 학습시키기 위해서는 많은 시간이 소요되기 때문에 병렬 학습 방법이 필요하다. DNN의 학습에는 일반적으로 Stochastic Gradient Descent(SGD) 방법이 사용되는데, SGD는 근본적으로 순차적인 처리가 필요하므로 병렬화하기 위해서는 다양한 근사(approximation) 방법을 적용하게 된다. 본 논문에서는 기존의 DNN 병렬 학습 알고리즘들을 소개하고 연산량, 통신량, 근사 방법 등을 분석한다.

• 대한전자공학회:학술대회논문집
• /
• 대한전자공학회 1999년도 하계종합학술대회 논문집
• /
• pp.1033-1036
• /
• 1999

This paper proposes an efficient fault diagnosis for digital circuits using multilayer neural networks. The efficient learning algorithm is also proposed for the multilayer neural network, which is combined the steepest descent for high-speed optimization and the dynamic tunneling for global optimization. The fault-diagnosis system using the multilayer neural network of the proposed algorithm has been applied to the parity generator circuit. The simulation results shows that the proposed system is higher convergence speed and rate, in comparision with system using the backpropagation algorithm based on the gradient descent.

• 한국정보통신학회:학술대회논문집
• /
• 한국해양정보통신학회 2008년도 춘계종합학술대회 A
• /
• pp.193-196
• /
• 2008

과거 Z. cao는 Relation matrix를 사용한 정밀한 추론이 가능한 NFRM(New fuzzy reasoning method)을 제안하였다. 이는 추론의 규칙 수가 적음에도 불구하고 Mamdani의 퍼지추론방식에 비하여 좋은 성능을 보였다. 그러나 정밀한 추론을 위하여 relation matrix는 시행착오법을 사용하여 구하고, 이는 많은 시간과 노력이 필요하다. 본 연구에서는 이러한 relation matrix를 구하기 위하여 시행착오법에 의해 소요되는 많은 시간과 노력을 줄이고, 더욱 정밀한 추론 성능의 개선을 위하여 경사감소학습법을 사유한 학습기능을 갖는 Z. Cao의 퍼지추론 방식을 제안하고자 한다.

• 제어로봇시스템학회:학술대회논문집
• /
• 제어로봇시스템학회 2003년도 ICCAS
• /
• pp.316-321
• /
• 2003

This paper presents a design method of the wavelet neural network based controller using direct adaptive control method to deal with a stable intelligent control of chaotic systems. The various uncertainties, such as mechanical parametric variation, external disturbance, and unstructured uncertainty influence the control performance. However, the conventional control methods such as optimal control, adaptive control and robust control may not be feasible when an explicit, faithful mathematical model cannot be constructed. Therefore, an intelligent control system that is an on-line trained WNN controller based on direct adaptive control method with adaptive learning rates is proposed to control chaotic nonlinear systems whose mathematical models are not available. The adaptive learning rates are derived in the sense of discrete-type Lyapunov stability theorem, so that the convergence of the tracking error can be guaranteed in the closed-loop system. In the whole design process, the strict constrained conditions and prior knowledge of the controlled plant are not necessary due to the powerful learning ability of the proposed intelligent control system. The gradient-descent method is used for training a wavelet neural network controller of chaotic systems. Finally, the effectiveness and feasibility of the proposed control method is demonstrated with application to the chaotic systems.

• 인지과학
• /
• 제4권2호
• /
• pp.181-200
• /
• 1994

다층 신경망의 학습에 있어서 역전파 알고리즘은 시스템이 지역적 최소치에 빠질수 있고,탐색공간의 피라미터들에 의해 신경망 시스템의 성능이 크게 좌우된다는 단점이 있다.이러한 단점을 보완하기 의해 유전자 알고리즘이 신경망의 학습에 도입도었다.그러나 유전자 알고리즘에는 역전파 알고리즘과 같은 미세 조정되는 지역적 탐색(fine-tuned local search) 을 위한 메카니즘이 존재하지 않으므로 시스템이 전역적 최적해로 수렴하는데 많은 시간을 필요로 한다는 단점이 있다. 따라서 본 논문에서는 역전파 알고리즘의 기울기 강하 기법(gradient descent method)을 교배나 돌연변이와 같은 유전 연산자로 둠으로써 유전자 알고리즘에 지역적 미세 조정(local fine-tuning)을 위한 메카니즘을 제공해주는 새로운 형태의 GA-BP 방법을 제안한다.제안된 방법의 유용성을 보이기 위해 3-패러티 비트(3-parity bit) 문제에 실험하였다.

• Journal of the Korean Data and Information Science Society
• /
• 제28권5호
• /
• pp.1125-1132
• /
• 2017

가뭄의 심도와 빈도가 강해지는 상황에서 가뭄예측을 위한 연구가 지속적으로 이루어지고 있으나 가뭄현상의 시간적 변동이 비선형적이며 복잡하여 단일 모형만으로 예측하기에는 한계가 있다. 이 연구에서는 기상가뭄지수인 표준강수지수 (SPI)와 세계기후지수, 날씨 관련 변수 등과 같은 다양한 설명변수들 사이의 관계를 설명할 선행 모형과 가법 모형을 먼저 구축한 후 앙상블 기법 중 확률 기울기 하강 (stochastic gradient descent; SGD) 방법을 이용하여 가중치를 설정하는 결합모형을 구축하였다. 우리나라 14개 지역에 대한 1954년 ~ 2013년 자료를 이용하여 모형을 구축하고 2014년 ~ 2015년 자료를 이용하여 모형의 성능을 비교하였다. 그 결과 14개 지역 중 8개 지역에 대하여 개별 모형에 비해 결합모형의 성능이 좋았으며 가뭄 예측이 개선되었다.