• Transactions on Control, Automation and Systems Engineering
• /
• 제1권1호
• /
• pp.8-15
• /
• 1999

One of the main reason advocating redundant manipulators' superiority in application is that they can afford to optimize a dexterity measure, for example the manipulability measure. However, to obtain the gradient of the manipulability is not an easy task in case of general manipulator with high degrees of redundancy. This article proposes a method to compute the gradient of the manipulability, based on recursive algorithm to compute the Jacobian and its derivative using Denavit-Hartenberg parameters only. To characterize the null motion of redundant manipulators, the null space matrix using square minors of the Jacobian is also proposed. With these capabilities, the inverse kinematics of a redundant manipulator system can be done automatically. The result is easily extended to dual manipulator system using the relative kinematics.

• 한국산학기술학회논문지
• /
• 제15권5호
• /
• pp.3132-3138
• /
• 2014

많은 통신 시스템에서 심볼간 간섭, 직류성 및 충격성 잡음은 해결하기 어려운 문제로 남아있다. 이러한 간섭신호들을 제거하기 위하여 확률분포 상관도 개념이 블라인드 Equalization에 사용되었다. 그러나 이 알고리듬은 과다한 계산량이 문제로 남아 있다. 이 논문에서는 확률분포 상관도에 기반한 블라인드 알고리듬의 반복적 계산 방법을 제안하였다. 비용함수의 기울기 계산에 쓰이는 합산 계산을 반복적 방식으로 기울기를 계산하도록 바꾸었다. 이 방식은 M 개의 송신 심볼에 대해 N 개의 블록 샘플들을 가지고 계산하는 기존 알고리듬의 계산량 O(NM)으로부터 O(M)으로 그 계산량을 획기적으로 줄인다. 따라서 현실적 구현의 장점을 가지면서 동시에 잡음 및 간섭에 대한 강인성을 그대로 유지한다. 시뮬레이션 결과에서도 제안한 방식은 줄여진 계산량으로 동일한 학습 성능을 보였다.

• International Journal of Fuzzy Logic and Intelligent Systems
• /
• 제13권3호
• /
• pp.186-199
• /
• 2013

We pose pattern classification as a density estimation problem where we consider mixtures of generative models under partially labeled data setups. Unlike traditional approaches that estimate density everywhere in data space, we focus on the density along the decision boundary that can yield more discriminative models with superior classification performance. We extend our earlier work on the recursive estimation method for discriminative mixture models to semi-supervised learning setups where some of the data points lack class labels. Our model exploits the mixture structure in the functional gradient framework: it searches for the base mixture component model in a greedy fashion, maximizing the conditional class likelihoods for the labeled data and at the same time minimizing the uncertainty of class label prediction for unlabeled data points. The objective can be effectively imposed as individual mixture component learning on weighted data, hence our mixture learning typically becomes highly efficient for popular base generative models like Gaussians or hidden Markov models. Moreover, apart from the expectation-maximization algorithm, the proposed recursive estimation has several advantages including the lack of need for a pre-determined mixture order and robustness to the choice of initial parameters. We demonstrate the benefits of the proposed approach on a comprehensive set of evaluations consisting of diverse time-series classification problems in semi-supervised scenarios.

• 한국음향학회지
• /
• 제38권3호
• /
• pp.283-289
• /
• 2019

RLS(Recursive-least-squares) 알고리즘은 수렴성이 좋고, 수렴 후 오차 수준도 우수한 것으로 알려져 있다. 그러나 알고리즘 내에 역행렬 계산이 포함되어 수치적 불안정성을 나타내는 단점도 있다. 본 논문에서는 언급한 불안정성을 회피하기 위해서 역행렬이 없지만 수렴성이 유사한 알고리즘을 제안한다. 이를 위해서 기울기 평균 벡터를 사용한 가변 스텝 최소 자승 알고리즘을 사용한다. 또 시변 채널 추정에 우수한 성능을 내기 위해서 계산량이 적은 가변 망각인자를 도입한다. 시뮬레이션을 통해서 기존 RLS와의 성능을 비교하고 그 유사성을 보인다. 또 시변 채널에서 가변 망각인자의 우수성도 보인다.

• 제어로봇시스템학회논문지
• /
• 제7권12호
• /
• pp.985-992
• /
• 2001

This paper proposes a self-organizing fuzzy modeling(SOFUM)which an create a new hyperplane shaped cluster and adjust parameters of the fuzzy model in repetition. The suggested algorithm SOFUM is composed of four steps: coarse tuning. fine tuning cluster creation and optimization of learning rates. In the coarse tuning fuzzy C-regression model(FCRM) clustering and weighted recursive least squared (WRLS) algorithm are used and in the fine tuning gradient descent algorithm is used to adjust parameters of the fuzzy model precisely. In the cluster creation, a new hyperplane shaped cluster is created by applying multiple regression to input/output data with relatively large fuzzy entropy based on parameter tunings of fuzzy model. And learning rates are optimized by utilizing meiosis-genetic algorithm in the optimization of learning rates To check the effectiveness of the suggested algorithm two examples are examined and the performance of the identified fuzzy model is demonstrated via computer simulation.

• 한국통신학회논문지
• /
• 제40권2호
• /
• pp.247-252
• /
• 2015

영확률을 성능기준으로 하는 적응 알고리듬은 충격성 잡음에 강인함을 나타내며 그 결정 궤환 알고리듬은 심각한 다경로 채널 왜곡을 효과적으로 보상하는 것으로 알려져 있다. 그러나 이러한 결정 궤환 영확률 알고리듬은 각 필터 구역에 대해 매 샘플시간마다 여러 합산 동작을 계산해야하는데 이것이 실제 구현에 장애가 되고 있다. 이 논문에서는 반복적 기울기 추정 방식을 가진 결정 궤환 영확률 알고리듬을 제안하며 이 알고리듬은 기존 계산량 O(N)을 샘플 사이즈 N에 무관한 상수량으로 줄일 수 있음을 보인다. 또한 초기상태와 안정상태의 가중치 갱신이 연속적인 과정으로 이루어져 결정 궤환에서 어떤 기울기 추정 오류 전파도 일으키지 않음을 보인다.

• Transactions on Control, Automation and Systems Engineering
• /
• 제4권2호
• /
• pp.124-129
• /
• 2002

This paper demonstrates that the largest Lyapunov exponent λ of recurrent neural networks can be controlled efficiently by a stochastic gradient method. An essential core of the proposed method is a novel stochastic approximate formulation of the Lyapunov exponent λ as a function of the network parameters such as connection weights and thresholds of neural activation functions. By a gradient method, a direct calculation to minimize a square error (λ - λ$\^$obj/)$^2$, where λ$\^$obj/ is a desired exponent value, needs gradients collection through time which are given by a recursive calculation from past to present values. The collection is computationally expensive and causes unstable control of the exponent for networks with chaotic dynamics because of chaotic instability. The stochastic formulation derived in this paper gives us an approximation of the gradients collection in a fashion without the recursive calculation. This approximation can realize not only a faster calculation of the gradient, but also stable control for chaotic dynamics. Due to the non-recursive calculation. without respect to the time evolutions, the running times of this approximation grow only about as N$^2$ compared to as N$\^$5/T that is of the direct calculation method. It is also shown by simulation studies that the approximation is a robust formulation for the network size and that proposed method can control the chaos dynamics in recurrent neural networks efficiently.

• 한국산학기술학회논문지
• /
• 제16권3호
• /
• pp.2172-2177
• /
• 2015

상수 모듈러스 오차의 확률을 영으로 줄이는 등화 알고리듬에 결정 궤환 방식이 도입된 DF-MZEP-CME (decision feedback - maximum zero-error probability for constant modulus errors) 알고리듬은 채널 왜곡 보상에서 보다 향상된 성능을 보인다. 그러나 이 DF-MZEP-CME 알고리듬은 기울기 계산에서 샘플 사이즈에 비례하는 계산량을 가지게 되어 구현상 장애요인으로 작용한다. 이 논문에서는 DF-MZEP-CME 알고리듬의 기울기를 반복적으로 추정하도록 하여 계산량이 샘플 사이즈와 무관하게 함으로서 계산량 문제를 해결한다. 샘플 사이즈 N 에 대해 기존 알고리듬이 10N 의 곱셈량을 가지지만 제안한 방식은 샘플 사이즈와 무관하게 단지 20 번의 곱셈을 수행한다. 또한 제안한 방식의 기울기 계산이 초기상태로부터 안정 상태로 넘어갈 때 연속성을 유지하는 것으로 나타나 오차 전파에 예민한 결정 궤환 방식에 매우 적합한 알고리듬으로 판단된다.

• 한국산학기술학회논문지
• /
• 제16권5호
• /
• pp.3434-3439
• /
• 2015

정보이론적 학습의 한 성능기준인 두 오차확률분포간 유클리드거리(MEDE)는 비선형 (결정 궤환, DF) 등화 알고리듬에 채택되었고 심각한 채널 왜곡과 충격성 잡음이 있는 환경에서 탁월한 성능을 보였다. 그러나 이 MEDE-DF 알고리듬은 과중한 계산 복잡성이라는 문제를 지니고 있다. 이 논문에서는 MEDE-DF 알고리듬을 위한 반복적 ED를 먼저 유도하고 그 다음 전후방 영역에 대해 가중치 기울기를 반복적으로 추정하는 식을 유도하였다. MEDE-DF 알고리듬의 반복적 기울기 추정방식의 효과를 입증하기위해 곱셈 계산량을 비교하였고 충격성 잡음과 수중 통신 환경에서 모의 실험한 MSE 성능 결과를 비교하였다. 제안한 DF 방식과 기존의 MEDE-DF 알고리듬의 곱셈 계산량 비는 샘플사이즈 N 에 대해 $2(9N+4):2(3N^2+3N)$로 나타나면서도 충격성 잡음과 수중통신 채널환경에서 동일한 MSE 학습 성능을 유지하였다.

• 방송공학회논문지
• /
• 제24권4호
• /
• pp.633-642
• /
• 2019

최근, 단일 이미지 초해상도 복원 기법(super-resolution)에서 컨볼루션 신경망 모델은 매우 성공적이다. 잔여 학습 기법은 컨볼루션 신경망 훈련의 안전성과 성능을 향상시킬 수 있다. 본 논문은 저해상도 입력 이미지에서 고해상도 목표 이미지로 비선형 매핑 학습을 위해 고밀도 스킵 연결(dense skip-connection)을 통한 재귀 잔차 구조를 이용한 단일 이미지 초해상도 복원 기법을 제안한다. 제안하는 단일 이미지 초해상도 복원 기법은 고밀도 스킵 연결 방식을 통해 재귀 잔차 학습 방법을 채택해서 깊은 신경망에서 학습이 어려운 문제를 완화하고 더 쉽게 최적화하기 위해 신경망 안에 불필요한 레이어를 제거한다. 제안하는 방법은 매우 깊은 신경망의 사라지는 변화도(vanishing gradient) 문제를 완화할 뿐만 아니고 낮은 복잡성으로 뛰어난 성능을 얻음으로써 단일 이미지 초해상도 복원 기법의 성능을 향상시킨다. 실험 결과를 통해 제안하는 알고리듬이 기존의 알고리듬 보다 결과가 더 우수함을 보인다.