• 제목/요약/키워드: Recurrent neural networks

검색결과 286건 처리시간 0.023초

2차원 학습 회귀적 신경망을 이용한 전기.유압 서보시스템의 실시간 추종 (Real-time Approximation of a Hydraulic Servo System Using a Recurrent Neural Network with 2-D Learning Algorithm)

  • 정봉호;곽동훈;이춘태;이진걸
    • 한국정밀공학회지
    • /
    • 제20권8호
    • /
    • pp.94-100
    • /
    • 2003
  • This paper presents the experiments on the approximation of a hydraulic servo system using a real time recurrent neural networks (RTRN) with time varying weights. In order to verify the effectiveness of the RTRN algorithm in hydraulic servo system, we design the experimental hydraulic system and implemented the real time approximation of system output. Experimental results show that approximated output of the RTRN well follows the position trajectory of the electro-hydraulic servo system. And also it is verified that the 2-D RNN can be implemented in sampling time even though high sampling frequency experimentally.

Recurrent Based Modular Neural Network

  • Yon, Jung-Heum;Park, Woo-Kyung;Kim, Yong-Min;Jeon, Hong-Tae
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 2003년도 ISIS 2003
    • /
    • pp.694-697
    • /
    • 2003
  • In this paper, we propose modular network to solve difficult and complex problems that are seldom solved with Multi-Layer Neural Network(MLNN). The structure of Modular Neural Network(MNN) in researched by Jacobs and jordan is selected in this paper. Modular network consists of several Expert Networks(EN) and a Gating Network(CN) which is composed of single-layer neural network(SLNN) or multi-layer neural network. We propose modular network structure using Recurrent Neural Network(RNN), since the state of the whole network at a particular time depends on aggregate of previous states as well as on the current input. Finally, we show excellence of the proposed network compared with modular network.

  • PDF

감정평가에 기반한 환경과 행동패턴 학습을 위한 궤환 모듈라 네트워크 (Learning for Environment and Behavior Pattern Using Recurrent Modular Neural Network Based on Estimated Emotion)

  • 김성주;최우경;김용민;전홍태
    • 한국지능시스템학회논문지
    • /
    • 제14권1호
    • /
    • pp.9-14
    • /
    • 2004
  • 감정은 지능을 지닌 존재의 이성판단에 영향을 준다. 그래서 주변 환경정보에 의해 평가된 기본적이고 보편적인 감정을 로봇에 가미하면 더욱 인간과 가까운 지능 로봇이 될 것이다. 그러나 인간의 감정을 학습하기 위해서는 다양한 감각정보의 학습과 패턴 분류가 선행되어야 하고 이를 위해서 적합한 네트워크 구조가 요구된다. 신경망은 시스템의 특징을 추출하는데 매우 우수한 능력을 발휘하고 있다. 그러나 임시적 혼선현상과 지역 최소치에 수렴하는 단점이 있다. 그래서 복잡한 문제를 단순한 여러 개의 부분적인 문제로 나누어 해결하는 모듈라 설계방법이 관심의 대상이 되고 있다. 본 논문에서는 수많은 감정평가와 학습 데이터 패턴들을 학습하기 위해서 재결합과 재구성에 탁월한 성능을 지닌 Jacobs와 Jordan이 제안한 모듈라 네트워크와 상황의 재 표현이 가능하고 예측값과 모델링에 적합한 특징을 지닌 궤환 신경망을 결합하였다. 구성된 구조는 기존의 모듈라 네트워크의 학습결과와 비교 검토하였다.

청각 장애인용 홈 모니터링 시스템을 위한 다채널 다중 스케일 신경망 기반의 사운드 이벤트 검출 (Sound event detection based on multi-channel multi-scale neural networks for home monitoring system used by the hard-of-hearing)

  • 이기용;김형국
    • 한국음향학회지
    • /
    • 제39권6호
    • /
    • pp.600-605
    • /
    • 2020
  • 본 논문에서는 청각 장애인을 위한 소리 감지 홈 모니터링을 위해 다채널 다중 스케일 신경망을 사용한 사운드 이벤트 검출 방식을 제안한다. 제안하는 시스템에서는 홈 내의 여러 무선 마이크 센서들로부터 높은 신호 품질을 갖는 두 개의 채널을 선택하고, 그 신호들로부터 도착신호 지연시간, 피치 범위, 그리고 다중 스케일 합성 곱 신경망을 로그멜 스펙트로그램에 적용하여 추출한 특징들을 양방향 게이트 순환 신경망 기반의 분류기에 적용함으로써 사운드 이벤트 검출의 성능을 더욱 향상시킨다. 검출된 사운드 이벤트 결과는 선택된 채널의 센서 위치와 함께 텍스트로 변환되어 청각 장애인에게 제공된다. 실험결과는 제안한 시스템의 사운드 이벤트 검출 방식이 기존 방식보다 우수하며 청각 장애인에게 효과적으로 사운드 정보를 전달할 수 있음을 보인다.

Nonlinear Backstepping Control of SynRM Drive Systems Using Reformed Recurrent Hermite Polynomial Neural Networks with Adaptive Law and Error Estimated Law

  • Ting, Jung-Chu;Chen, Der-Fa
    • Journal of Power Electronics
    • /
    • 제18권5호
    • /
    • pp.1380-1397
    • /
    • 2018
  • The synchronous reluctance motor (SynRM) servo-drive system has highly nonlinear uncertainties owing to a convex construction effect. It is difficult for the linear control method to achieve good performance for the SynRM drive system. The nonlinear backstepping control system using upper bound with switching function is proposed to inhibit uncertainty action for controlling the SynRM drive system. However, this method uses a large upper bound with a switching function, which results in a large chattering. In order to reduce this chattering, a nonlinear backstepping control system using an adaptive law is proposed to estimate the lumped uncertainty. Since this method uses an adaptive law, it cannot achiever satisfactory performance. Therefore, a nonlinear backstepping control system using a reformed recurrent Hermite polynomial neural network with an adaptive law and an error estimated law is proposed to estimate the lumped uncertainty and to compensate the estimated error in order to enhance the robustness of the SynRM drive system. Further, the reformed recurrent Hermite polynomial neural network with two learning rates is derived according to an increment type Lyapunov function to speed-up the parameter convergence. Finally, some experimental results and a comparative analysis are presented to verify that the proposed control system has better control performance for controlling SynRM drive systems.

A SE Approach for Machine Learning Prediction of the Response of an NPP Undergoing CEA Ejection Accident

  • Ditsietsi Malale;Aya Diab
    • 시스템엔지니어링학술지
    • /
    • 제19권2호
    • /
    • pp.18-31
    • /
    • 2023
  • Exploring artificial intelligence and machine learning for nuclear safety has witnessed increased interest in recent years. To contribute to this area of research, a machine learning model capable of accurately predicting nuclear power plant response with minimal computational cost is proposed. To develop a robust machine learning model, the Best Estimate Plus Uncertainty (BEPU) approach was used to generate a database to train three models and select the best of the three. The BEPU analysis was performed by coupling Dakota platform with the best estimate thermal hydraulics code RELAP/SCDAPSIM/MOD 3.4. The Code Scaling Applicability and Uncertainty approach was adopted, along with Wilks' theorem to obtain a statistically representative sample that satisfies the USNRC 95/95 rule with 95% probability and 95% confidence level. The generated database was used to train three models based on Recurrent Neural Networks; specifically, Long Short-Term Memory, Gated Recurrent Unit, and a hybrid model with Long Short-Term Memory coupled to Convolutional Neural Network. In this paper, the System Engineering approach was utilized to identify requirements, stakeholders, and functional and physical architecture to develop this project and ensure success in verification and validation activities necessary to ensure the efficient development of ML meta-models capable of predicting of the nuclear power plant response.

신경회로망을 이용한 유연성 단일 링크 로봇 매니퓰레이터의 진동제어 (Vibration Control a Flexible Single Link Robot Manipulator Using Neural Networks)

  • 탁한호;이상배
    • 한국항해학회지
    • /
    • 제21권3호
    • /
    • pp.55-66
    • /
    • 1997
  • In this paper, applications of neural networks to vibration control of flexible single link robot manipulator are ocnsidered. The architecture of neural networks is a hidden layer, which is comprised of self-recurrent one. Tow neural networks are utilized in a control system ; one as an identifier is called neuro identifier and the othe ra s a controller is called neuro controller. The neural networks can be used to approximate any continuous function to any desired degree of accuracy and the weights are updated by dynamic error-backpropagation algorithm(DEA). To guarantee concegence and to get faster learning, an approach that uses adaptive learning rates is developed by introducing a Lyapunov function. When a flexible manipulator is ratated by a motor through the fixed end, transverse vibration may occur. The motor torque should be controlle dinsuch as way, that the motor is rotated by a specified angle. while simulataneously stabilizing vibration of the flexible manipulators so that it is arrested as soon as possible at the end of rotation. Accurate vibration control of lightweight manipulator during the large body motions, as well as the flexural vibrations. Therefore, dynamic models for a flexible single link manipulator is derived, and LQR controller and nerual networks controller are composed. The effectiveness of the proposed nerual networks control system is confirmed by experiments.

  • PDF

RECURRENT NEURAL NETWORKS -What Do They Learn and How\ulcorner-

  • Uchikawa, Yoshiki;Takase, Haruhiko;Watanabe, Tatsumi;Gouhara, Kazutoshi
    • 한국지능시스템학회:학술대회논문집
    • /
    • 한국퍼지및지능시스템학회 1993년도 Fifth International Fuzzy Systems Association World Congress 93
    • /
    • pp.1005-1008
    • /
    • 1993
  • Supervised learnmg 01 recurrent neural networks (RNNs) is discussed. First, we review the present state of art, featuring their major properties in contrast of those of the multilayer neural networks. Then, we concisely describe one of the most practical learning algorithms, i.e. backpropagation through time. Revising the basic formulation of the learning algorithms, we derive a general formula to solve for the exact solution(s) of the whole connection weights w of RNNs. On this basis we introduce a novel interpretation of the supervised learning. Namely, we define a multidimensional Euclidean space, by assigning the cost function E(w) and every component of w to each coordinate axis. Since E=E(w) turns up as a hyper surface in this space, we refer to the surface as learning surface. We see that topological features of the learning surface are valleys and hills. Finally, after explicating that the numerical procedures of learning are equivalent to descending slopes of the learning surface along the steepest gradient, we show that a minimal value of E(w) is the intersection of curved valleys.

  • PDF

양방향 LSTM 순환신경망 기반 주가예측모델 (Stock Prediction Model based on Bidirectional LSTM Recurrent Neural Network)

  • 주일택;최승호
    • 한국정보전자통신기술학회논문지
    • /
    • 제11권2호
    • /
    • pp.204-208
    • /
    • 2018
  • 본 논문에서는 시계열 데이터인 주가의 변동 패턴을 학습하고, 주가 가격을 예측하기 적합한 주가 예측 딥러닝 모델을 제시하고 평가하였다. 일반신경망에 시계열 개념이 추가되어 은닉계층에 이전 정보를 기억시킬 수 있는 순환신경망이 시계열 데이터인 주가 예측 모델로 적합하다. 순환신경망에서 나타나는 기울기 소멸문제를 해결하며, 장기의존성을 유지하기 위하여, 순환신경망의 내부에 작은 메모리를 가진 LSTM을 사용한다. 또한, 순환신경망의 시계열 데이터의 직전 패턴 기반으로만 학습하는 경향을 보이는 한계를 해결하기 위하여, 데이터의 흐름의 역방향에 은닉계층이 추가되는 양방향 LSTM 순환신경망을 이용하여 주가예측 모델을 구현하였다. 실험에서는 제시된 주가 예측 모델에 텐서플로우를 이용하여 주가와 거래량을 입력 값으로 학습을 하였다. 주가예측의 성능을 평가하기 위해서, 실제 주가와 예측된 주가 간의 평균 제곱근 오차를 구하였다. 실험결과로는 단방향 LSTM 순환신경망보다, 양방향 LSTM 순환신경망을 이용한 주가예측 모델이 더 작은 오차가 발생하여 주가 예측 정확성이 향상되었다.

딥 뉴럴네트워크 기반의 소리 이벤트 검출 (Sound Event Detection based on Deep Neural Networks)

  • 정석환;정용주
    • 한국전자통신학회논문지
    • /
    • 제14권2호
    • /
    • pp.389-396
    • /
    • 2019
  • 본 논문에서는 다양한 구조의 딥 뉴럴 네트워크를 소리 이벤트 검출을 위하여 적용하였으며 공통의 오디오 데이터베이스를 이용하여 그들 간의 성능을 비교하였다. FNN, CNN, RNN 그리고 CRNN이 주어진 오디오데이터베이스 및 딥 뉴럴 네트워크의 구조에 최적화된 하이퍼파라미터 값을 이용하여 구현되었다. 구현된 방식 중에서 CRNN이 모든 테스트 환경에서 가장 좋은 성능을 보였으며 그 다음으로 CNN의 성능이 우수함을 알 수 있었다. RNN은 오디오 신호에서의 시간 상관관계를 잘 추적하는 장점에도 불구하고 CNN 과 CRNN에 비해서 저조한 성능을 보임을 확인할 수 있었다.