• 제목/요약/키워드: Steepest Descent Algorithm

검색결과 83건 처리시간 0.026초

새로운 성능지수 함수에 대한 직강하 적응필터 (Novel steepest descent adaptive filters derived from new performance function)

  • 전병을;박동조
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 1992년도 한국자동제어학술회의논문집(국내학술편); KOEX, Seoul; 19-21 Oct. 1992
    • /
    • pp.823-828
    • /
    • 1992
  • A novel steepest descent adaptive filter algorithm, which uses the instantaneous stochastic gradient for the steepest descent direction, is derived from a newly devised performance index function. The performance function for the new algorithm is improved from that for the LMS in consideration that the stochastic steepest descent method is utilized to minimize the performance index iterativly. Through mathematical analysis and computer simulations, it is verified that there are substantial improvements in convergence and misadjustments even though the computational simplicity and the robustness of the LMS algorithm are hardly sacrificed. On the other hand, the new algorithm can be interpreted as a variable step size adaptive filter, and in this respect a heuristic method is proposed in order to reduce the noise caused by the step size fluctuation.

  • PDF

MOTION VECTOR DETECTION ALGORITHM USING THE STEEPEST DESCENT METHOD EFFECTIVE FOR AVOIDING LOCAL SOLUTIONS

  • Konno, Yoshinori;Kasezawa, Tadashi
    • 한국방송∙미디어공학회:학술대회논문집
    • /
    • 한국방송공학회 2009년도 IWAIT
    • /
    • pp.460-465
    • /
    • 2009
  • This paper presents a new algorithm that includes a mechanism to avoid local solutions in a motion vector detection method that uses the steepest descent method. Two different implementations of the algorithm are demonstrated using two major search methods for tree structures, depth first search and breadth first search. Furthermore, it is shown that by avoiding local solutions, both of these implementations are able to obtain smaller prediction errors compared to conventional motion vector detection methods using the steepest descent method, and are able to perform motion vector detection within an arbitrary upper limit on the number of computations. The effects that differences in the search order have on the effectiveness of avoiding local solutions are also presented.

  • PDF

The Optimal Control of an Absorption Air Conditioning System by Using the Steepest Descent Method

  • Han Doyoung;Kim Jin
    • International Journal of Air-Conditioning and Refrigeration
    • /
    • 제12권3호
    • /
    • pp.123-130
    • /
    • 2004
  • Control algorithms for an absorption air conditioning system may be developed by using dynamic models of the system. The simplified effective dynamic models, which can predict the dynamic behaviors of the system, may help to develop effective control algorithms for the system. In this study, control algorithms for an absorption air conditioning system were developed by using a dynamic simulation program. A cooling water inlet temperature control algorithm, a chilled water outlet temperature control algorithm, and a supply air temperature control algorithm, were developed and analyzed. The steepest descent method was used as an optimal algorithm. Simulation results showed energy savings and the effective controls of an absorption air conditioning system.

최속 강하법을 이용한 흡수식 냉동공조시스템 제어 (Control of the Absorption Air Conditioning System by Using Steepest Descent Method)

  • 한도영;김진
    • 설비공학논문집
    • /
    • 제15권6호
    • /
    • pp.495-501
    • /
    • 2003
  • Control algorithms for the absorption air conditioning system may be developed by using dynamic models of the system. The simplified effective dynamic models, which can predict the dynamic behaviors of the system, may help to develop effective control algorithms for the system. In this study, control algorithms for an absorption air conditioning system were developed by using a dynamic simulation program. A cooling water inlet temperature control algorithm, a chilled water outlet temperature control algorithm, and a supply air temperature control algorithm, were developed and analyzed. The steepest descent method was used as an optimal algorithm. The simulation results showed energy savings and the effective controls of an absorption air conditioning system.

MOS 센서어레이를 이용한 냄새 분류 및 농도추정을 위한 LM-BP 알고리즘 응용 (LM-BP algorithm application for odour classification and concentration prediction using MOS sensor array)

  • 최찬석;변형기;김정도
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 2000년도 제15차 학술회의논문집
    • /
    • pp.210-210
    • /
    • 2000
  • In this paper, we have investigated the properties of multi-layer perceptron (MLP) for odour patterns classification and concentration estimation simultaneously. When the MLP may be has a fast convergence speed with small error and excellent mapping ability for classification, it can be possible to use for classification and concentration prediction of volatile chemicals simultaneously. However, the conventional MLP, which is back-Propagation of error based on the steepest descent method, was difficult to use for odour classification and concentration estimation simultaneously, because it is slow to converge and may fall into the local minimum. We adapted the Levenberg-Marquardt(LM) algorithm [4,5] having advantages both the steepest descent method and Gauss-Newton method instead of the conventional steepest descent method for the simultaneous classification and concentration estimation of odours. And, We designed the artificial odour sensing system(Electronic Nose) and applied LM-BP algorithm for classification and concentration prediction of VOC gases.

  • PDF

기울기하강과 동적터널링에 기반을 둔 학습알고리즘의 신경망을 이용한 영상데이터의 주요특징추출 (Principal Feature Extraction on Image Data Using Neural Networks of Learning Algorithm Based on Steepest Descent and Dynamic tunneling)

  • 조용현
    • 한국정보처리학회논문지
    • /
    • 제6권5호
    • /
    • pp.1393-1402
    • /
    • 1999
  • 본 논문에서는 새로운 학습알고리즘의 3층 전향 신경망을 이용한 입력데이터의 주요 특징추출에 대해서 제안하였다. 제안된 학습알고리즘에서에서는 빠른 수렴속도의 최적화가 가능하도록 하기 위하여 기울기하강의 역전파 알고리즘을 이용하고, 국소최적해를 만났을 때 이를 벗어난 새로운 연결가중치의 설정을 위하여 동적터널링의 역전파 알고리즘을 이용함으로써 빠른 수렴속도로 전역최적해로에 수렴되도록 학습시킬 수 있다. 제안된 학습 알고리즘을 이용한 다층신경망을 $12{\times}12$ 픽셀의 영상 데이터들과 $128{\times}128$ 픽셀의 Lenna 영상데이터를 대상으로 시뮬레이션한 결과, 단층신경망을 이용하는 Sanger 방법이나 측면연결을 가지는 단충신경망을 이용하는 Foldiak 방법 및 기울기하강에 기초를 둔 기존의 역전파 알고리즘을 이용한 다층신경망에 의한 결과와 비교할 때 더욱 우수한 수렴성능과 추출성능이 있음을 확인할 수 있었다.

  • PDF

AN ALGORITHM FOR CIRCLE FITTING IN ℝ3

  • Kim, Ik Sung
    • 대한수학회논문집
    • /
    • 제34권3호
    • /
    • pp.1029-1047
    • /
    • 2019
  • We are interested in the problem of determining the best fitted circle to a set of data points in space. This can be usually obtained by minimizing the geometric distances or various approximate algebraic distances from the fitted circle to the given data points. In this paper, we propose an algorithm in such a way that the sum of the squares of the geometric distances is minimized in ${\mathbb{R}}^3$. Our algorithm is mainly based on the steepest descent method with a view of ensuring the convergence of the corresponding objective function Q(u) to a local minimum. Numerical examples are given.

제약조건을 갖는 최소자승 추정기법과 최급강하 알고리즘을 이용한 동적 베이시안 네트워크의 파라미터 학습기법 (Parameter Learning of Dynamic Bayesian Networks using Constrained Least Square Estimation and Steepest Descent Algorithm)

  • 조현철;이권순;구경완
    • 전기학회논문지P
    • /
    • 제58권2호
    • /
    • pp.164-171
    • /
    • 2009
  • This paper presents new learning algorithm of dynamic Bayesian networks (DBN) by means of constrained least square (LS) estimation algorithm and gradient descent method. First, we propose constrained LS based parameter estimation for a Markov chain (MC) model given observation data sets. Next, a gradient descent optimization is utilized for online estimation of a hidden Markov model (HMM), which is bi-linearly constructed by adding an observation variable to a MC model. We achieve numerical simulations to prove its reliability and superiority in which a series of non stationary random signal is applied for the DBN models respectively.

피드포워드 증폭기의 적응형 제어 방법 (Adaptive Control Method for a Feedforward Amplifier)

  • Kang, Sang-Gee;Yi, Hui-Min;Hong, Sung-Yong
    • 한국전자파학회논문지
    • /
    • 제15권2호
    • /
    • pp.127-133
    • /
    • 2004
  • 피드포워드 증폭기는 선형화 성능이 우수하고 선형화 대역폭이 넓은 장점이 있다. 그러나 피드포워드 증폭기는 다양한 소자들로 구성되는 개루프 시스템이기 때문에 주변 환경의 변화에 의해서 성능 저하가 일어나기 쉽다. 따라서 피드포워드 증폭기가 허용하는 범위 내에서 원하는 성능을 유지하기 위해서는 선형화 루프의 이득과 위상을 조정하기 위한 제어 방법이 필요하다. 본 논문에서는 steepest descent 알고리즘을 이용한 새로운 적응형 제어 방법을 제안하였다. 제안한 방법은 기존의 제어 방법에 비해 수렴 속도가 빠르고 구현하기가 쉬운 장점이 있음을 시뮬레이션을 통해 확인하였다.

Adam Optimizer를 이용한 음향매질 탄성파 완전파형역산 (Acoustic Full-waveform Inversion using Adam Optimizer)

  • 김수윤;정우근;신성렬
    • 지구물리와물리탐사
    • /
    • 제22권4호
    • /
    • pp.202-209
    • /
    • 2019
  • 본 연구에서는 Adam 최적화 기법을 이용한 음향매질에서의 탄성파 파형역산 방법을 제안하였다. 탄성파 파형역산에서 최적화에 사용되는 기본적인 최대 경사법은 계산이 빠르고 적용이 간편하다는 장점이 있다. 하지만 속도 모델의 갱신에 일정한 갱신 크기를 사용함에 따라 오차가 정확하게 수렴하지 않는다. 이에 대한 대안으로 제시된 다양한 최적화 기법들의 경우 정확성은 높지만 많은 계산 시간을 필요로 한다는 한계가 있다. Adam 최적화 기법은 최근 딥 러닝 분야에서 학습 모델의 최적화를 위해 사용되는 기법으로 다양한 형태의 모델에 대한 최적화 문제에서 가장 효율적인 성능을 보이고 있다. 따라서 Adam 최적화 기법을 이용한 파형역산 방법을 개발하여 탄성파 파형역산에서의 오차가 빠르고 정확하게 수렴하도록 하였다. 제안된 역산 기법의 성능을 검증하기 위해, 일정한 갱신 크기를 가지는 최대 경사법을 이용하여 수행된 역산 결과와 제안된 Adam 최적화 기반 파형역산을 수행하여 갱신된 P파 속도 모델을 비교하였다. 그 결과 제안된 기법을 통해 빠른 오차 수렴 속도와 높은 정확도의 결과를 확인할 수 있었다.