• 제목/요약/키워드: recursive gradient

검색결과 36건 처리시간 0.027초

Control of Chaos Dynamics in Jordan Recurrent Neural Networks

  • Jin, Sang-Ho;Kenichi, Abe
    • 제어로봇시스템학회:학술대회논문집
    • /
    • 제어로봇시스템학회 2001년도 ICCAS
    • /
    • pp.43.1-43
    • /
    • 2001
  • We propose two control methods of the Lyapunov exponents for Jordan-type recurrent neural networks. Both the two methods are formulated by a gradient-based learning method. The first method is derived strictly from the definition of the Lyapunov exponents that are represented by the state transition of the recurrent networks. The first method can control the complete set of the exponents, called the Lyapunov spectrum, however, it is computationally expensive because of its inherent recursive way to calculate the changes of the network parameters. Also this recursive calculation causes an unstable control when, at least, one of the exponents is positive, such as the largest Lyapunov exponent in the recurrent networks with chaotic dynamics. To improve stability in the chaotic situation, we propose a non recursive formulation by approximating ...

  • PDF

클러스터 생성을 이용한 자기구성 퍼지 모델링 (Self-Organizing Fuzzy Modeling Using Creation of Clusters)

  • 고택범
    • 한국지능시스템학회논문지
    • /
    • 제12권4호
    • /
    • pp.334-340
    • /
    • 2002
  • 본 논문에서는 상대적으로 큰 퍼지 엔트로피를 갖는 입력-출력 데이터 집단에 다중 회귀 분석을 적용하여 다차원 평면 클러스터를 생성하고, 이 클러스터를 새로운 퍼지 모델의 규칙으로 추가한 후 모델 파라미터의 개략 동조와 정밀 동조를 반복 수행하는 자기구성 퍼지 모델링을 제안한다 Weighted recursive least squared 알고리즘과 fuzzy C-regression model 클러스터링에 의해 퍼지 모델의 파라미터를 개략적으로 동조한 후 gradient descent 알고리즘에 의해 파라미터를 정밀 동조하면서 감수분열 유전 알고리즘을 이용하여 최적의 학습률을 탐색한다. 그리고, 자기구성 퍼지 모델링 기법을 이용하여 Box-Jenkins의 가스로 데이터, 비선형 다변수 정적 함수의 데이터, 하수처리 활성오니 공정과 Mackey-Glass 시계열 데이터의 모델링을 수행하고, 기존의 방법에 의한 모델링 결과와 비교하여 그 성능을 입증한다.

ASIC을 이용한 자동영상 추적기 구현 (Realization of automatic video tracker using ASIC)

  • 강재열;윤상로
    • 한국통신학회논문지
    • /
    • 제21권8호
    • /
    • pp.1885-1896
    • /
    • 1996
  • This paper describes the implementation of the AVT(Automatic video Tracker) using ASIC. The basic tracking algorithm is based on the spatio-temporal gradient method, and adaptive window sizing, track state decision algorithm were also realized. Newly developed ASIC performs recursive image filtering, extraction of spatio-temporal gradient/gradient functions of image in field rate. Using the FPGA/ASIC, the tracker was simply realized in one board type which can be easily applied to various image system. We conformed ASIC operation by computer simulation and tested the system in real tracking situations. From the result, the system can track the moving target which has a velocity of 2-3 pixel/field and a size of varying from 2 to 128 pixes. Also fast refresh rateof motion estimation(60Hz) improves the characteristics of servoing system which forms feedback loop with the tracker.

  • PDF

확률적 통행배정하에서 기종점 통행량추정 모형의 개발 (Solution Methods for OD Trip Estimation in Stochastic Assignment)

  • 임용택
    • 대한교통학회지
    • /
    • 제24권4호
    • /
    • pp.149-159
    • /
    • 2006
  • 본 연구에서는 관측 링크통행량을 이용하여 기종점(OD) 통행량을 추정하는 두 가지 방법을 제시하며, 기존 연구들과는 달리 확률적 통행배정(stochastic traffic assignment)모형을 이용한다 확률적 통행배정모형을 이용할 경우, 운전자들이 갖고 있는 경로 대안간의 인지오차(perceived error)를 모형에 반영할 수 있으며, 링크통행량과 OD 통행량사이에 명시적인 함수관계가 존재하여 쉽게 OD 통행량을 구할 수 있다는 장점이 있다. 본 연구에서는 이런 관계식을 이용하여 두 가지의 OD통행량 추정모형을 개발하며 이를 풀기 위한 알고리듬을 제시한다. 첫 번째 모형식은 관측교통량과 추정교통량간의 차이를 최소화시키는 미분값에서 도출되며 OD통행량 추정과 관련된 변수들과의 민감도(sensitivity)값도 도출한다. 두 번째 모형식은 관측교통량에 접근하는 추정교통량의 동적과정(dynamic process)을 통하여 도출된다. 본 연구에서 제시된 OD통행량 추정모형들은 가상 예제 교통망을 대상으로 평가하며 각 모형의 장단점을 기술한다. 또한, OD통행량 추정문제가 갖는 다수의 해(multiple solutions)에 대해서도 간단히 살펴본다.

재귀호출 알고리듬 기반의 홍수전파 특성 분석 (The Analysis of Flood Propagation Characteristics using Recursive Call Algorithm)

  • 이근상;장영운;최연웅
    • Spatial Information Research
    • /
    • 제21권5호
    • /
    • pp.63-72
    • /
    • 2013
  • 본 연구에서는 무주 남대천을 대상으로 재귀호출 알고리듬을 이용하여 제방 파제시 홍수위별 홍수전파 특성을 분석하였다. 먼저 벙구보와 차산보를 파제 지점으로 설정하여 재귀호출 알고리듬에 의한 홍수위별 홍수전파 차수를 분석하였으며, 홍수전파 차수별 격자수와 누계 침수면적을 계산하였다. 또한 홍수전파 차수와 DEM 격자크기를 기준으로 홍수위별로 홍수가 전파되는 시간을 계산하였다. 재귀호출 알고리듬에 의한 홍수전파 차수의 분포특성을 통해 홍수 전파 과정을 파악할 수 있었으며, 홍수전파 차수별 누계 침수면적 그래프의 기울기 패턴을 통해 홍수에 취약한 지역을 선정함으로써 수재해 업무에 기초자료로 제공할 수 있었다. 또한 홍수위별로 홍수전파 시간을 계산함으로써 홍수시 주민들의 대피경로 및 대피시간과 같은 계획을 수립하는데 매우 효과적인 정보를 제공해 줄 수 있을 것으로 판단된다.

평균 제곱 투영 오차의 기울기에 기반한 가변 망각 인자 FAPI 알고리즘 (Mean Square Projection Error Gradient-based Variable Forgetting Factor FAPI Algorithm)

  • 서영광;신종우;서원기;김형남
    • 전자공학회논문지
    • /
    • 제51권5호
    • /
    • pp.177-187
    • /
    • 2014
  • 본 논문에서는 고속 부공간 추적 기법인 FAPI (Fast Approsimated Power Iteration)에 GVFF RLS (Gradient-based Variable Forgetting Factor Recursive Least Square Error)를 적용한 GVFF FAPI 를 제안한다. 기존의 FAPI는 신호의 공분산 행렬을 추정하기 위해 고정 망각 인자를 사용하기에, 부공간이 지속적으로 변하는 비정재 환경에 적용하기 여려운 단점이 있다. 이러한 문제점을 해결하기 위해, GVFF FAPI는 개선된 MSE (Mean Square Error)의 분석으로부터 유도된 MSE의 기울기 기반의 시변 망각 인자를 사용한다. 또한 GVFF RLS의 망각 인자 업데이트 식을 개선하여 부공간이 지속적으로 변하는 비정재 환경에서 부공간 에러를 줄인다. 개선된 망각 인자 업데이트 식은 MSE의 기울기가 양수이면 망각 인자를 빠르게 감소하게 하고 MSE의 기울기가 음수이면 망각 인자를 천천히 증가시킨다. 모의실험을 통해서 도래각이 지속적으로 변하는 환경에서 GVFF FAPI 알고리즘이 기존의 FAPI 알고리즘보다 작은 부공간 에러를 가지는 것을 보이고, 추적된 부공간을 도래각 추정기법에 적용하였을 때 추적된 도래각의 RMSE (Root Mean Square Error)가 더 작은 것을 확인한다.

RNN을 활용한 도시철도 역사 부하 패턴 추정 (Estimation of Electrical Loads Patterns by Usage in the Urban Railway Station by RNN)

  • 박종영
    • 전기학회논문지
    • /
    • 제67권11호
    • /
    • pp.1536-1541
    • /
    • 2018
  • For effective electricity consumption in urban railway station such as peak load shaving, it is important to know each electrical load pattern by various usage. The total electricity consumption in the urban railway substation is already measured in Korea, but the electricity consumption for each usage is not measured. The author proposed the deep learning method to estimate the electrical load pattern for each usage in the urban railway substation with public data such as weather data. GRU (gated recurrent unit), a variation on the LSTM (long short-term memory), was used, which aims to solve the vanishing gradient problem of standard a RNN (recursive neural networks). The optimal model was found and the estimation results with that were assessed.

Blind Signal Processing for Wireless Sensor Networks

  • Kim, Namyong;Byun, Hyung-Gi
    • 센서학회지
    • /
    • 제23권3호
    • /
    • pp.158-164
    • /
    • 2014
  • In indoor sensor networks equalization algorithms based on the minimization of Euclidean distance (MED) for the distributions of constant modulus error (CME) have yielded superior performance in compensating for signal distortions induced from optical fiber links, wireless-links and for impulsive noise problems. One main drawback of MED-CME algorithms is a heavy computational burden hindering its implementation. In this paper, a recursive gradient estimation for weight updates of the MED-CME algorithm is proposed for reducing the operations $O(N^2)$ of the conventional MED-CME to O(N) at each iteration time for N data-block size. From the simulation results of the proposed recursive method producing exactly the same results as the conventional method, the proposed estimation method can be considered to be a reliable candidate for implementation of efficient receivers in indoor sensor networks.

CTD Data Processing for CREAMS Expeditions: Thermal-lag Correction of Sea-Bird CTD

  • Kim, Kuh;Cho, Yang-Ki;Ossi, Hyong;Kim, Young-Gyu
    • Journal of the korean society of oceanography
    • /
    • 제35권4호
    • /
    • pp.192-199
    • /
    • 2000
  • Standard CTD data processing recommended by Sea-Bird Electronics produced thermal-lag corrections larger than 0.1 psu for the data taken during the CREAMS expeditions in the northern part of the East/Japan Sea where a vertical temperature gradient frequently exceeds 1.0$^{\circ}$C/m in the upper 100 m near the sea surface. As the standard processing is based upon a recursive filter which was introduced by Lueck and Pickle (1990), coefficients of the recursive filter have been newly derived for the CREAMS data by minimizing the difference between salinities of downcast and upcast in temperature-salinity domain. The new coefficients are validated by comparison with salinities measured by a salinometer, AUTOSAL 8400B. An accurate correction for the thermal-lag is critical in identifying water masses at intermediate depth in the East/japan Sea.

  • PDF

RLS 기반 Actor-Critic 학습을 이용한 로봇이동 (Robot Locomotion via RLS-based Actor-Critic Learning)

  • 김종호;강대성;박주영
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 2005년도 추계학술대회 학술발표 논문집 제15권 제2호
    • /
    • pp.234-237
    • /
    • 2005
  • 강화학습을 위한 많은 방법 중 정책 반복을 이용한 actor-critic 학습 방법이 많은 적용 사례를 통해서 그 가능성을 인정받고 있다. Actor-critic 학습 방법은 제어입력 선택 전략을 위한 actor 학습과 가치 함수 근사를 위한 critic 학습이 필요하다. 본 논문은 critic의 학습을 위해 빠른 수렴성을 보장하는 RLS(recursive least square)를 사용하고, actor의 학습을 위해 정책의 기울기(policy gradient)를 이용하는 새로운 알고리즘을 제안하였다. 그리고 이를 실험적으로 확인하여 제안한 논문의 성능을 확인해 보았다.

  • PDF